多管齐下让人工智能更节能
世界经济论坛官网近日报道指出,多管为让人工智能(AI)发挥其变革潜力、齐下提高生产力水平及社会福祉,让人邵阳市某某装饰材料业务部人类必须确保它可持续地发展。工智这一愿景面临的多管核心难题在于,随着算力和性能的齐下不断提升,能耗也在快速增长。让人
AI生态系统,工智从硬件、多管训练协议到操作技术,齐下都会耗费大量能源。让人邵阳市某某装饰材料业务部鉴于此,工智科学家正在设法让其更节能。多管措施包括改变AI的齐下运行策略、研制更节能的让人算法和芯片等。
能源“吞金兽”
AI是能源密集型技术。它究竟有多耗能?数据给出了答案。
据法国《回声报》网站报道,AI平台“抱抱脸”研究员兼环境问题主管萨沙·卢乔尼表示,Midjourney或Dall-E等AI算法生成一张图片消耗的电力,相当于给一部智能手机充满电。一块英伟达H100型图形处理单元一年消耗的电量,比一个中等规模的美国家庭一年所耗的电量还要多。
美国《哈佛杂志》网站提出,大语言模型在生成类似人类、连贯且符合上下文逻辑的文本方面做得更好。但这种改进也有代价,训练GPT-3消耗的能源相当于120个美国家庭一年消耗的能源。美国《纽约时报》的报道更是惊人,ChatGPT每天要响应大约2亿个请求,这一过程中消耗超过50万度电。
世界经济论坛的数据显示,运行AI任务所需的能源消耗,年增长率介于26%至36%之间。这意味着到2027年,AI行业消耗的能源堪比冰岛或荷兰等国家一年的能耗。
改变运行策略
让AI更节能势在必行。
首先是调整AI运行策略。世界经济论坛官网指出,AI运行一般分两个主要阶段:训练阶段和推理阶段。在训练阶段,模型通过消化大量数据来学习和开发;经过训练后,它们进入推理阶段,用于解决使用者提出的问题。在这两个阶段限制能耗,可将AI运行总能耗降低12%到15%。
美国俄勒冈州立大学电气工程与计算机科学学院托马斯·迪特瑞克教授指出,另一个有效的策略是优化调度以节省能源。例如,在夜间运行轻量级的任务,或在寒冷的月份运行更大的项目等,也可节省大量能源。此外,将AI处理转移到数据中心也有助于减少其碳排放,因为数据中心的运行效率非常高,其中有些运行使用了绿色能源。
从长远看,促进AI与新兴量子技术的协同也是引导AI走向可持续发展的重要战略。传统计算能耗随计算需求增加呈指数级增长,而量子计算和能耗之间呈线性增长。
此外,量子技术可使AI模型更紧凑、学习效率更高并可改善其整体功能。
新模型和新器件
AI公司之间竞争的一个驱动力是相信越大越好,这也意味着参数越来越多,能耗越来越大。例如,GPT-4拥有1.8万亿个参数,而其“前身”GPT-3拥有1750亿个参数。因此,为让AI更节能,不少科学家正在尝试找出不需要那么多参数的算法。
HawAI.tech公司使用了新型电子元器件和基于概率论的AI技术来节省能耗。在相同时段和能耗下,新器件运算速度是英伟达Jeston芯片的6.4倍。该公司联合创始人兼首席执行官拉斐尔·弗里施表示,结合概率论和更优化的电子元器件,他们的解决方案所用的数据和能源会更少。
此外,模拟人脑功能的神经形态芯片也有望提升AI的效率。近日,英特尔公司发布了名为Hala Point的大型神经拟态系统。其内置1152个基于Intel四制程的Loihi 2处理器,支持多达11.5亿个神经元和1280亿个突触,每秒可处理超过380万亿个8位突触和超过240万亿个神经元操作。它独特的功能可实现未来AI应用的实时持续学习,如解决科学和工程问题、物流、智能城市基础设施管理、大语言模型和AI代理等。
(责任编辑:热门资讯)
-
据新华社贝鲁特10月22日电 黎巴嫩真主党媒体办公室负责人阿菲夫22日说,该组织将继续针对以色列总理内塔尼亚胡发动袭击。 阿菲夫当天在首都贝鲁特南郊举行的新闻发布会上说,真主党对此前针对内塔尼亚 ...[详细]
-
消息称刘自鸿已被解聘柔宇科技董事长职务,目前只剩公司大股东身份
三言科技 9月1日消息,据第一财经报道,从柔宇前员工获悉,目前柔宇科技创始人刘自鸿已经不再是柔宇科技的董事长兼CEO,目前在柔宇科技的身份只剩下公司大股东的身份。据此前报道,在近日举办的2024年美国 ...[详细] -
俄罗斯媒体9月2日报道称,俄罗斯外交部副部长里亚布科夫当天表示,俄罗斯将在各个层面向美国指出,美国雇佣军参与对俄罗斯领土的袭击是不可接受的。近期,乌克兰在库尔斯克州的军事活动频繁,俄方指责美国幕后指使 ...[详细]
-
赵昱辉:新能源车迈向全面普及 ,“三个800V”是终结里程焦虑的关键
来源:环球网【环球网财经 记者 陈超】近年来,我国新能源汽车产业迎来了跨越式的发展。根据中国汽车流通协会乘用车市场信息联席分会8月8日发布的数据,7月份,新能源车国内月度销量首次超越燃油车,新能源乘用 ...[详细] -
美国媒体日前报道称,以色列袭击伊朗的计划已准备就绪。而美国提供给以色列的“萨德”反导系统也已经抵达。伊朗伊斯兰革命卫队总司令萨拉米10月17日再次警告称,如果以色列袭击伊朗目标,伊朗将采取进一步报 ...[详细]
-
[环球时报报道 记者 郭媛丹]日本《日经亚洲评论》4日引述知情人士的消息报道称,美国国防部将在日本、韩国、澳大利亚、新加坡和菲律宾这5个印太地区国家建立军事维修中心,意图为全球关键作战平台打造维修 ...[详细]
-
以军发现的6名被扣押人员遗体中包括一俄籍人士,俄驻以色列大使发声
来源:环球网【环球网报道 见习记者 刘博洋】据塔斯社等俄媒9月1日报道,以军在加沙地带南部城市拉法一个地下隧道发现6名被扣押人员的遗体,其中包括俄罗斯籍人士亚历山大·洛巴诺夫。对此,俄罗斯驻以色列大使 ...[详细] -
新签订单减少叠加服务器折旧等 云从科技上半年亏损3.56亿元
《科创板日报》8月31日讯记者 吴旭光)8月30日晚间,云从科技发布2024年半年度报告。报告显示,该公司2024年上半年营业收入为1.21亿元,同比下降26.35%;归母净利润为-3.56亿元,同比 ...[详细] -
△美国国务卿布林肯资料图) 当地时间22日,美国国务卿安东尼·布林肯抵达以色列。总台记者 张卓雅)点击进入专题: 中东局势持续升级 ...[详细]
-
完美世界半年亏1.77亿,股东大幅套现72亿,股价距离高点已暴跌超80%
近日,游戏公司完美世界(002624.SZ)发布半年报,回A后公司首次出现业绩由盈转亏。半年报显示,完美世界实现营业收入27.60亿元,同比下滑38.12%;实现归属于上市公司股东的净利润-1.77亿 ...[详细]