网站首页 | 网站标签 | 邮箱 | 关于我们
设为首页 | 收藏本站
惠州 梅州 汕尾 河源
阳江 清远 东莞 中山
潮州 揭阳 肇庆 茂名
广东经济 广东资源 广东旅游
数字广东 广东扶持 广东基金
广东科技 招商引资 企业风采
广东文化 广东风采
广东故事 广东人物
特色品牌 政策法规
今天:
您所在的位置:主页 > 清远 >

烧钱的战争!马斯克:下一代大模型Grok3将需要10万块英伟达H100!

时间: 2024-04-14 20:19 作者:admin 来源:互联网 点击: 1563 次

  特斯拉首席执行官埃隆·马斯克最近在接受采访时,做出了关于通用人工智能(AGI)发展的大胆预言。

  据马斯克透露,旗下的人工智能公司xAI目前正在对第二代大语言模型Grok 2进行训练,预计将在5月完成下一训练阶段。Grok 2的训练已经耗费了约2万块英伟达H100 GPU。未来进阶版本Grok 3的开发可能需要高达10万块英伟达H100 GPU。

  当前AI技术的发展面临两大难题:一是高端GPU,如英伟达H100的供应短缺,要快速获得10万块GPU并非易事;二是巨大的电力需求。

  一台英伟达H100 GPU在全负荷工作时约消耗700瓦电力,因此10万块这样的GPU将消耗高达70兆瓦的电力。

  若考虑到服务器和冷却系统的需求,一个配备有10万块英伟达H100处理器的数据中心的电力消耗大概会达到100兆瓦,相当于一个小城市的用电量。

  尽管如此,计算和存储技术的进步将使得未来几年能够训练更为庞大的大型语言模型成为可能。英伟达在科技盛会GTC 2024上展示的Blackwell B200 GPU平台,旨在支持可扩展至数万亿参数的大语言模型,预示着AGI发展的关键一步。

  一种比最聪明的人类还智能的人工智能,在未来一至两年内就会诞生。如果将AGI定义为智能超过最聪明的人类,我认为它很可能在明年,或两年内实现。

(责任编辑:admin)

关键词:

栏目列表

社会新闻

更多>>

精彩阅读

更多>>

点击排行

更多>>

特色资源

更多>>

关于我们 | 新闻投稿 | 招贤纳士 | 投诉建议 | 联系我们 -