英伟达又赚了!斥资超180亿元 马斯克用了10万块H100芯片训练最新大模型
2024年07月03日 16:58
来源: 每日经济新闻
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

K图 NVDA_0

  7月1日,特斯拉CEO埃隆·马斯克(Elon Musk)正在为其即将推出的AI聊天机器人Grok的新版本造势。马斯克在社交媒体上宣布,其人工智能初创公司xAI的大语言模型Grok-2将于8月正式推出,将带来更先进的AI功能。马斯克透露,xAI的Grok-3用了10万块英伟达H100芯片进行训练,预计将于年底发布,相信它会“非常特别”。

图片来源:X

  H100是英伟达开发的图形处理单元,是由英伟达公司制造的一种超级强大的计算芯片,是当前世界上最先进的计算芯片之一,专门用来处理复杂的人工智能(AI)和机器学习(ML)任务。你可以把它想象成计算机的大脑,但它比普通电脑的处理器要强大得多,特别适合那些需要大量计算和数据处理的工作,随着科技公司竞相开发更智能的AI产品,这些芯片成了硅谷的热门商品。

  据英伟达官网介绍,相较于上一代产品,H100可使大型语言模型的速度提升30倍。H100 GPU配备第四代Tensor Core和Transformer引擎,可使大型语言模型的训练速度提升高达9倍,推理速度提升30倍。

图片来源:英伟达官网

  英伟达H100的价格目前已经飙升至2.5万到3万美元(约合18.1万到21.8万元人民币)。即使按照最低售价2.5万美元来计算,马斯克这10万块H100的成本也高达约25亿美元(约合181亿元人民币)。

  据英伟达最新财报,截至今年4月28日的2025财年第一财季,实现营收260亿美元(约合1880亿元人民币),较第四季度增长18%,较去年同期增长262%。

图片来源:英伟达官网

  去年7月,马斯克创立了人工智能公司xAI,专注于人工智能业务,旨在利用AI探索宇宙的本质。xAI的投资者包括安德森·霍洛维茨(Andreessen Horowitz)、红杉资本和富达管理与研究公司。

  去年11月,xAI推出首款AI大模型聊天机器人Grok,直接对标ChatGPT。据介绍,Grok通过X平台实时了解世界,甚至是其他AI工具尽可能回避的尖锐问题。xAI团队强调,Grok是一款有点聪明、又有点叛逆的聊天机器人,“建议那些讨厌幽默的人千万不要使用”。

图片来源:X

  xAI团队表示,Grok的定位是向科幻小说《银河便车指南》(The Hitchhiker's Guide to the Galaxy)看齐。书中有一部名为“深思”(Deep Thought)的超级计算机,它会回答世上所有的问题,其主要任务是找出“生命、宇宙及万事万物的终极答案”。这正与xAI的成立目标:“了解宇宙的真正本质”,几乎完全一致。

  自今年3月以来,xAI又陆续发布了具有处理128k上下文能力的Grok-1.5以及具有图像理解能力的Grok-1.5V,并允许X(原Twitter)上的高级用户访问聊天机器人。

  Grok-1.5可以处理128k token的上下文窗口,容量增加到之前上下文长度的16倍,并在处理编程和数学相关任务方面表现出色。该模型可以处理更长、更复杂的提示词,同时在上下文窗口扩展时仍然能保持其指令跟踪能力。

  Grok-1.5V则是马斯克的第一代多模态模型,于2024年4月发布。除了文本功能,Grok-1.5V还能够处理文档、图标、屏幕截图和照片之类的各种视觉信息,不仅可以将手绘图表转换成Python代码,还能看一眼食品标签就计算出卡路里,甚至还可以看懂梗图。

  今年5月,马斯克表示,xAI是一家新公司,因此Grok仍有大量准备工作要做,才能与谷歌Deepmind和OpenAI相抗衡。

  据外媒报道,此前,马斯克就向其投资者透露,他创办的AI公司xAI计划建造一个“超级算力工厂”(Gigafactory of Compute),为下一代AI聊天机器人Grok提供算力支持。这个超级计算机计划连接10万块英伟达H100 GPU。

  马斯克当时表示,他希望在2025年秋季之前让超级计算机运行起来,并补充说xAI可以与甲骨文合作开发这台大型计算机。xAI是甲骨文最大的H100芯片服务器的租赁客户,已经使用了超过1.5万块H100芯片。

  xAI官方博客表示:“对于构建能够理解世界的AGI(通用人工智能)来说,提高我们的多模态理解和生成能力是重要步骤。未来几个月,我们预计在图像、音频和视频等多模态中对这两种功能进行重大改进。”

(文章来源:每日经济新闻)

文章来源:每日经济新闻 责任编辑:10
原标题:英伟达又赚了!斥资超180亿元,马斯克用了10万块H100芯片训练最新大模型
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500