3月20至21日,华为中国合作伙伴大会2025在深圳举行。会上,恒生电子股份有限公司(以下简称“恒生电子”)正式发布光子大模型一体机DeepSeek版,基于昇腾800I A2推理服务器,为金融机构提供“开箱即用”的全栈式金融AI引擎,助力金融机构快速完成大模型的部署落地,加速金融行业数智化转型进程。
2025年开年,DeepSeek凭借“低成本+高性能+高开放度”的应用优势,为金融机构提供了更智能、更高效、更低成本的基础大模型底座。但在实际接入DeepSeek的过程中,大模型仍存在诸多挑战,如算力选型困难、部署交付周期长、数据安全与隐私风险、缺乏标准化知识增强方案、应用效果需要持续优化等。
针对以上痛点,恒生电子联合华为昇腾,打造全栈国产化的光子大模型一体机DeepSeek版,提供了从底层算力资源池、模型服务平台、企业级知识库、智能体编排生态组件到系统交付和运维的全栈开放能力,覆盖模型调试、部署到运营全流程,具备一站式交付、成本优化、合规风险控制等优势特点,有效降低大模型引入门槛,助力金融机构实现高性价比AI基建。
据了解,恒生光子大模型一体机DeepSeek版支持部署DeepSeekR1/V3满血版,在2台16卡昇腾推理服务器上可部署671B满血版DeepSeek,基于国产开源推理引擎MindIE实现高并发高吞吐性能,在金融行业最典型的4096tokens输入,1024tokens输出场景下,2台16卡昇腾推理服务器在满足单路输出10tokens/s体验下,可支持超过100路并发,同时满足了单路时延和高并发需求。
此外,恒生光子大模型一体机内置100+通用模型,支持AI应用响应多样性请求,基于大模型MaaS平台实现多模型管理及智能调度,既满足对要素提取、内容审核等离线任务场景,又可以满足长文本理解输出、多轮对话、复杂数据等特定业务生成场景。客户可以根据“场景+体验+成本”选择不同的模型底座。
恒生电子光子大模型一体机的全栈AI能力,真正打通了AI应用的“最后一公里”,可以帮助金融机构快速实现这些智能应用的开发与上线,实现降本增效和价值创造的建设目标。
(文章来源:证券日报)
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12