国产一卡2卡三卡4卡95

 

国产一卡2卡三卡4卡95

🔅💁🙇     

国产一卡2卡三卡4卡95

“因为GPT-3有1750亿个参数,训练用到了1024张英伟达A100芯片,所以业内将其称为‘千卡千参’。”商汤科技智能产业研究院院长田丰说,目前GPT-4、GPT-5等大模型都达到了“万卡万参”的规模,且训练模型所用芯片也从英伟达A100更新到英伟达H100、B200国产一卡2卡三卡4卡95,“参数量的激增将导致能耗显著增加”。

张云泉表示,首先,可以设计AI模型训练的专用芯片,其效率相较GPU(图形处理器,现常用于AI计算)提升了10倍以上;其次,可以优化AI模型的参数,很多小模型仅有几十亿的参数量,但已经实现了和大模型一样的效果;此外,还可以通过对推理过程进行优化压缩,设计专用推理芯片,进一步降低AI推理阶段的能耗。

在能源供应方面,诉诸多样化的新能源供给、依靠国家进行宏观调控与规划等举措,将有助于解决AI能耗问题。天使投资人、资深人工智能专家郭涛对记者表示,当前,新能源,包括太阳能、风能、水能等可再生能源,正逐渐成为数据中心的最佳能源选择。“如果没有足够的可再生能源来满足AI能耗的增长,可能会导致对化石燃料的依赖加剧,从而对环境造成负面影响。此外,数据中心还可以通过智能算法来优化能源使用效率,实现AI与电网的协同发展。”

国家能源局的数据显示,2023年,我国可再生能源新增装机3.05亿千瓦,占全国新增发电装机的82.7%,占全球新增装机的一半;全国可再生能源发电量近3万亿千瓦时,接近全社会用电量的1/3。目前,我国已建成全球规模最大的电力供应系统和清洁发电体系,其中青海、内蒙古、宁夏等西北部地区则是清洁能源的“富矿”。

“大模型时代,‘东数西算’工程将对全国的电力需求和算力需求起到重要的宏观调控作用。”张云泉预计,未来将会有越来越多的大型算力中心或智算中心选址我国西部地区,“东数西训”(即东部地区的AI大模型,在西部地区进行训练——记者注)将成为AI与新能源协调发展的典型场景。但他强调,推动新能源更好地赋能AI发展,储能是一个需要解决的问题。

此外,王鹏还认为要重新思考“数据网”和“电力网”的分布式联动与微观布局协同。他指出,为满足短期内快速增长的人工智能推理算力需求,除了在西部可再生能源丰富的地区布局大型算力中心,实现“东数西算”;也需要考虑在东部需求侧的数据中心和算力中心附近,积极布局分布式可再生能源,如与城乡建筑、农业设施等结合的分布式BIPV(光伏建筑一体化)、光储直柔一体化等。“而且还要‘源网荷储’一体化考虑,尽可能通过微电网实现就地峰谷平衡,减少弃风弃光。”

⚰(撰稿:仇武明)

本文来自网友发表,不代表本网站观点和立场,如存在侵权问题,请与本网站联系。未经本平台授权,严禁转载!
展开
支持楼主

1人支持

阅读原文阅读 7317回复 1
举报
    全部评论
    • 默认
    • 最新
    • 楼主
    • 孔兰霄👻LV4六年级
      2楼
      北京市生态环境局所属事业单位公开招聘➆
      2024/06/19   来自泸州
      9回复
    • 💭向嘉娜LV3大学四年级
      3楼
      疫情后中英首部合拍电影《暴风雨与仲夏夜》在英杀青🏽
      2024/06/19   来自鹤壁
      1回复
    • 东方聪壮💜LV8幼儿园
      4楼
      外交部:坚决反对日方有关文件渲染所谓“中国威胁”🦋
      2024/06/19   来自伊春
      5回复
    • 孙盛绿LV2大学三年级
      5楼
      欧洲存病例激增风险 防疫新措施遭抗议|大流行手记(11月20日)❉
      2024/06/19   来自临沧
      1回复
    • 东方冰伦😥🐍LV6大学三年级
      6楼
      美国纽约曼哈顿区检察官办公室向中国返还38件文物艺术品✺
      2024/06/19   来自保定
      9回复
    • 宣先兴LV0大学四年级
      7楼
      从“县域旅游热”中看见更多可能🎯
      2024/06/19   来自新余
      回复
    你的热评
    游客
    发表评论
    最热圈子
    • #【反诈日历】收益假象迷人眼?损失的却是真金白银!#

      卫晓岚

      1
    • #“低碳减肥”靠谱吗?专家提醒:难以持久还有副作用#

      符真珊

      6
    • #国内商品期货夜盘收盘 菜粕跌约3%#

      陈纨晶

      1
    • #纳达尔法网首轮出局,“红土之王”还会回来吗?

      上官真威

      0
    热点推荐

    安装应用

    随时随地关注国产一卡2卡三卡4卡95

    Sitemap
    安全检测