开发来源 InfoQ 中文

绿色 AI 实践:小模型、低碳选址与需求转移降排放

Charles Humble 在 GOTO Copenhagen 谈绿色 AI:IT 业占全球排放 2%-4%,微软、谷歌因 AI 用电与排放上升;建议优先用预构建小模型、微调/RAG、压缩模型,并在低碳时段与地区调度算力,把可持续性列为顶层设计考量。

要点

  • IEA 数据:亚马逊、微软、谷歌、Meta 合计用电量 2017-2021 年翻倍多,2021 年约 720 亿千瓦时
  • 微软 2024 环境报告称总碳排放自 2020 年上升 30%,主因是新建 AI 数据中心
  • 谷歌报告称排放自 2019 年激增约 50%,2023 年同比增长 13%,主要由 AI 驱动
  • Humble 建议避免从头训练,优先微调、提示调用或 RAG,并用蒸馏、量化、剪枝压缩模型
  • 训练全程理论上可用 100% 可再生能源,减少 45%-99% 碳排放;部署与运维阶段能耗占比更大
阅读原文这里是中文要点整理,数字与细节以原文为准。

评论

还没有评论,来写第一条。

更多资讯

全部