为何大模型“一本正经地胡说八道”?对话枫清科技创始人兼CEO高雪峰
2024年10月17日 22:23
作者: 林晓丽
来源: 广州日报
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  10月15日,第136届中国进出口商品交易会正式开馆迎客,新企业、新产品、新技术、新业态集中涌现。随着人工智能席卷千行万业,如何真正推动大模型技术在企业场景中的深度应用,解决大模型幻觉,实现真正的生产力提升,成为当前AI产业发展的重要课题。一家AI数据基础设施公司首次现身广交会,便与多家企业达成合作意向。

  中国AI企业数量位居全球第二

  2023年,中国人工智能核心产业规模已达到5000亿元,人工智能企业数量超过4400家,位居全球第二。在AI 技术研发与应用的企业大军中,枫清科技是近年崭露头角的“AI+”创新公司,创始人兼CEO高雪峰,历任IBM认知计算研究院院长,阿里大数据&AI产品部门总经理,在大数据和AI应用领域拥有多年的产品研发和商业化经验积累,曾带领团队打造出多款具备国际影响力的大数据和AI 类相关产品。在AI行业的摸爬滚打了20年,高雪峰清楚企业数智化转型的需求,也知道怎样解决当下大模型落地的痛点。2021年决定出来做AI基础层的创业。

  “大模型有强大的能力,但在行业场景落地时暴露出一系列问题。大模型‘幻觉’现象、推理能力不足、解释性差等,导致大模型‘一本正经地胡说八道’。”高雪峰在广州接受记者采访表示。“大模型主要依赖于概率统计方法,通过大量的数据来学习语言模式和统计规律,进而预测下一个词或序列。模型往往通过生成最可能的词语序列来组成回答的内容,而不是真正地思考或分析问题的内在逻辑关系”,高雪峰认为,正因为如此,大模型在回答复杂逻辑问题时,可能会基于常见的语料模式生成看似合理但并非正确的答案,这就是大模型的幻觉。

  大模型本质还是基于“概率”的预测

  举例来说,如果问“姚明出生的那一年NBA季后赛的亚军教练是谁?”这个看起来挺简单的问题,除了GPT4以外,其他的大模型都无法给出正确的答案。但是,如果我们将问题拆解,“姚明出生在哪年?” “1980年NBA季后赛的冠亚军球队分别是谁?” “1980年,费城76人队的教练是谁?” ,有很多优秀的大模型都可以给出对的答案。之所以出现这种落差,其本质还是 GPT4 在纯概率的模型之上进行偏向符号的逻辑推理。

  “现实世界中的许多复杂决策需要多步骤分解与推理,大模型缺乏有效的记忆机制来跟踪和协调每一个推理步骤,或者是针对特定的复杂问题去拆解推理的步骤”,高雪峰向记者解释,每一步推理的结果可能影响下一步的输入,而大模型在内容生成过程中的概率预测能力,在多复杂条件下未必准确。

  同样是因为大模型过于复杂,让可解释性变得更加困难,技术出身的高雪峰坦言,“专业研究人员也很难理解模型是如何得出某个结论的,普通用户更难以理解模型为什么输出这样的内容”。

  以数据与知识为中心驱动产业智能升级

  如何降低生成式人工智能应用中的幻觉问题,增强其推理能力和可解释性,确保企业能够安全、高效、及时地使用企业本地积累的海量数据,同时将智能能力高效嵌入企业现有工作流中,仍是行业面临的主要挑战。尽管RAG技术、推理框架优化技术和AI Agent 等技术不断涌现,但单一技术组件都难以全面解决企业智能化落地过程中遇到的上述复杂问题。

  人工智能技术赋能场景应用,不断提升效果的主要架构有两种:以模型为中心的 Model-Centric 和以数据为中心的 Data-Centric。前者围绕模型来使用企业数据,后者则将企业本地数据转化为知识,并根据具体的智能化需求选择合适的模型来加以应用。“Data-Centric 架构更能有效应对企业当前智能化场景中的挑战。为实现更优的智能化效果。”高雪峰说。枫清科技坚定地选择了 Data-Centric LLM Landing 架构,依托其大模型与知识引擎“双轮驱动”的智能体平台,迅速成长为国内 AI 领域领军的创新企业。

  今年7月至今,枫清科技增加了3篇数据血缘专利,可在大模型落地企业过程中,帮助企业更直观地了解数据的流动和影响路径,从而增强对数据使用和决策过程的理解。据了解,这支世界级的图和向量引擎研发、AI 领域核心技术人员的团队,拥有近30个软件著作权、10余项发明专利,技术产品已成功应用于多个行业。亨通数科通过枫清的多模态智能引擎构建了设备全生命周期管理系统,实现了跨工厂的知识复用。龙盈智达结合枫清的图智能和大模型技术,为金融行业提供了智能化金融营销和风险评估方案,优化了客户挖掘和风险管理,提升了决策效率与精准度。立臻科技在制造行业,通过枫清的智能问数与数据融合技术,显著提升了员工管理和数据决策的效率。中化信息则在能源行业通过枫清·瑶光企业知识中台,将数据转化为可操作的知识,通过文档问答、智能问数以及智能体串联大模型应用与业务系统,实现了智能化升级,有效提升了生产与工作效率。

  据悉,枫清科技计划在华南地区打造领先的AI应用生态,依托广州的区位优势和大湾区强大的产业基础,加速 AI技术与产业的深度融合,推动制造、金融、物流等关键行业的智能升级,为区域经济发展注入新动能。枫清科技还将依托广州的创新资源和人才优势,与当地高校和研究机构开展深入合作,推动AI技术的研发和应用。公司计划通过多模态智能引擎和企业知识中台的持续创新,构建一个覆盖整个华南区的智能化应用生态。“把AI的应用到生产力的场景,我觉得那是金标准,一定得用起来才能知道好坏,才能促进迭代。”高雪峰说。

(文章来源:广州日报)

文章来源:广州日报 责任编辑:73
原标题:为何大模型“一本正经地胡说八道”? 对话枫清科技创始人兼CEO高雪峰
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500