分享好友 最新资讯首页 最新资讯分类 切换频道
人工智能规模庞大 但有些人想让它变小
2024-12-28 20:28

你可能听说过大型语言模型,即能生成类人文本的人工智能系统。但是小型语言模型呢?研究人员正在努力研发更小型、更紧凑的人工智能系统,以解决人工智能系统对数据日益增长的需求所带来的一系列挑战。而且,不只是如今新闻报道中的生成式人工智能模型需要变得更小,那些能够运营工业设施、智慧城市或自动驾驶汽车的人工智能系统也需要如此。

人工智能规模庞大 但有些人想让它变小

大型人工智能模型面临的挑战

当你使用人工智能(无论是在手机还是笔记本电脑上)时,大部分实际计算都发生在数据中心。这是因为最流行的人工智能模型在计算上非常耗费资源——你的笔记本电脑可能没有足够的计算能力来运行查询。这些人工智能系统还会消耗大量能源。据说,在生成式人工智能模型中进行一次查询(例如问“生成式人工智能是如何工作的?”这样一个问题)所消耗的电量相当于一个灯泡点亮一小时的电量。

这给人工智能的使用带来了两个挑战。首先,这引发了人们对人工智能可持续性的担忧,因为为人工智能供电的电力也会增加温室气体排放。

在最近一项针对全球技术领导者的调查“TheImpact of Technology in 2025 and Beyond: an IEEE Global Study”中,35%的人表示人工智能的实用性远远超过其能耗,而34%的人表示人工智能的能耗和实用性处于良好的平衡状态。大约五分之一(21%)的人认为人工智能的益处是显著的,但高能耗仍然是一个问题,而8%的人认为大量的能耗超过了人工智能的益处。

其次,这意味着任何依赖人工智能的事物要么需要更多的电力来运行,要么需要连接到数据中心。

削减人工智能规模的前沿技术正在取得一些成功。

IEEE会员Jay Shah表示:“这些(技术)耗电量显著降低,通常在瓦特范围内运行,而不是大型数据中心系统消耗的千瓦或兆瓦。”

谁需要紧凑型人工智能?

更小、更节能的人工智能系统可以用于多种应用,比如自动驾驶汽车。

Shah说:“就长期可靠性和降低功耗而言,下一代低功耗人工智能加速器对自动驾驶汽车的未来至关重要。它们能够实现实时决策并实现更紧凑的设计。”

同时,它们对系统来说也是个福音,因为它们将降低机器人的电力需求。

IEEE高级会员Cristiane Agra Pimentel表示,紧凑型人工智能系统在工业环境中也将很有用,在这种环境中,更小的控制系统可以使工厂流程自动化。

Pimentel说:“在工业领域使用紧凑型人工智能将越来越适用于机器操作控制、产品追溯控制和供应链系统管理。”

小型人工智能存在权衡取舍

大型语言模型通常适用于多种用途。它们可以协助撰写大学论文,还能帮你构建网站。紧凑型系统可以针对特定系统进行优化。它们可以被设计成公司的聊天机器人或者自动补全计算机代码。

但是,紧凑型人工智能系统目前准确性较低,因为它们通常使用较少的数据。

Shah表示:“考虑到低功耗、更快的推理时间以及在边缘设备上运行人工智能的能力等好处,这些权衡通常是可以接受的。研究人员和开发人员会继续努力提高紧凑型人工智能系统的准确性,同时保持其效率优势。”

最新文章
人工智能机器人阿伯特
第一部分:介绍阿伯特阿伯特,一款具备人工智能能力的机器人,拥有超强的计算和学习能力。它由一支由资深工程师和科学家组成的团
浅谈商城系统网络推广中的误区!
  时下网络已经普及了,网络推广页就成为了商城系统的重要推广渠道,但是还有部分企业还是在网络推广方面工作时,还是存在认识
斥资18亿元,豆瓣9.0!这部顶级神作,我跪着看完了!
点击关注【秋叶 PPT】发送【6】获取更多优质学习账号PPT 设计:秋叶 PPT 学员签约设计师编辑:小叮叮~这里是秋叶编辑部,我是小
芥子空间
《芥子空间》是一款游戏辅助脚本软件。在这款功能极其强大的软件中,可以让那些技术不过硬但是还想解放双手的玩家最大的福利。让
重大新闻!正品香烟批发网哪里进货?一手货源联系方式“无所不包” 2024-12-12
重大新闻!正品香烟批发网哪里进货?一手货源联系方式“无所不包”近年来,正品香烟的批发市场发生了翻天覆地的变动。随着电子商
韩漫/小说推荐01
《漂亮陛下别杀我》类型:女性视角/双向救赎/时光倒转/女装(轻微)如果世界上只有一个真相, 那么生活该有多容易。但是我和他的
生肖已解“红尘天伦三父子”打一肖全面解答
红尘烟火绕生肖天伦之乐融三亲。字谜诗句如下:尘烟绕世映猪福虎威震天保家安。兔善人间传佳话三亲共享乐无边。此字谜诗句以红尘
MQTT调试器下载
下载MQTT调试器到手机上面的方法有很多。 安卓系统的手机可以在豌豆荚或者PP助手等手机助手里面一键下载安装!也可以通过电脑端
声卡麦克直播设备经营小程序商城的作用是什么
随着短视频、直播的崛起,很多人在这条赛道掘金,由于没有入行门槛,所以规模很高,而众多作品内容呈现
微信营销推广方法十二种
微信营销推广方法多种多样,以下是十二种有效的微信营销推广方式:1. 公众号推广:通过创建公众号,发布有价值的内容,吸引粉丝