Meta发布最强开源大模型Llama 3.1,扎克伯格谈为何坚持开源之路
2024年07月24日 17:56
来源: 蓝鲸财经
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈


K图 META_0

  蓝鲸新闻7月24日讯(记者朱俊熹)在很长一段时间内,占据大模型评测榜单最前列的大多是一些闭源模型,直到Meta再次发布了最新的开源模型。当地时间7月23日,Meta推出最新的开源大模型系列Llama 3.1,称“正迎来一个由开源引领的新时代”。

  Meta将此次发布的Llama 3.1 405B模型称作“世界上功能最强大的公开基础模型”,在一系列任务中能够与目前的领先模型相媲美,包括OpenAI的GPT-4、GPT-4o,以及Anthropic的Claude 3.5 Sonnet。

  例如,在评估大语言模型性能的MMLU基准测试中,Llama 3.1 405B模型得分为88.6,GPT-4o为88.7,Claude 3.5 Sonnet为88.3。而在部分数学、推理等能力测试中,Meta新模型的分数要高于GPT-4o等闭源模型。

  Llama 3.1 405B模型也是Meta迄今为止参数规模最大的模型,同步推出的还有今年4月面世的8B和70B模型的升级版本。但相较而言,Meta新模型的参数规模仍比不过其他竞争对手。OpenAI的GPT-4拥有1万亿个参数,亚马逊此前也传正在训练一个拥有2万亿参数的大模型。

  虽然Meta一直是开源模型阵营的执旗者,其所采取的开源模式却不同于传统的定义。Meta并不会公布Llama系列模型的训练数据和训练代码,虽然它们比闭源模型更开放和可访问,但在使用时仍需遵守特定的许可条款。而Meta此次也修改了模型许可证,允许开发者使用其模型的输出来改进其他模型。

  拥有4050亿参数的最新模型是在超过16000个英伟达H100 GPU上进行训练的。在彭博社的采访中,Meta创始人兼首席执行官马克·扎克伯格透露称,Llama 3模型在训练计算能力方面花费了数亿美元,预计未来模型的训练成本将会继续升高,达数十亿美元。

  “我认为现在很多公司都存在过度建设的情况,当你回头看时,会觉得‘哦,我们可能都花了比实际多几十亿美元的钱’。另一方面,我认为所有投资的公司都在做出理性的决定,因为落后的弊端在于,你在未来10到15年最重要的技术领域失去了位置。”扎克伯格表示。

  但Meta在人工智能领域上的加大投资引发了投资者对成本飙升的担忧。在4月公布一季度财报时,Meta表示为支持AI产品开发及数据中心设施建设,将全年资本支出从300-370亿美元上调为350-400亿美元,同时二季度的业绩展望也不及预期。这导致Meta股价大跌,当日市值缩水近2000亿美元。

  顶着AI领域的巨额支出,Meta为何一直支持开源模型?

  7月23日,在Llama 3.1发布之时,扎克伯格发表了一篇名为“开源人工智能是前进的道路”的署名公开信,从开源模型为何有益于开发者、Meta、世界等多个角度展开阐述。

  其中,扎克伯格提到,他的经验之一,是在苹果平台上构建Meta服务时受到限制,包括苹果对开发者征税的方式、适用的规则等。这让他意识到不能陷入竞争对手的封闭生态系统,同时还要确保自己能够使用最佳的技术。

  在与彭博社的采访中,扎克伯格补充道,“如果AI在未来会变得和移动平台一样重要,那么我不想通过竞争对手来获取AI。我们是一家科技公司,需要不仅在应用层,而是在所有底层上都能构建东西。对我们来说,为此进行大规模投资是值得的。”

  此外,推出开源模型有助于Meta扩大其AI生态系统。Meta表示,将有超过25个合作伙伴提供Llama 3.1模型的相关服务,包括亚马逊英伟达大数据公司Databricks等,支持开发者及企业等微调和蒸馏自己的模型。

  Meta的开源模型也被集成到旗下多款应用中。目前在Facebook、Messenger和Instagram等应用上,AI助手Meta AI已支持使用Llama 3.1 70B模型。扎克伯格称,Meta AI已有数亿用户,预计到今年年底将超过ChatGPT成为最受欢迎的AI助手。

(文章来源:蓝鲸财经)

文章来源:蓝鲸财经 责任编辑:43
原标题:Meta发布最强开源大模型Llama 3.1,扎克伯格谈为何坚持开源之路
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500