9月23日云栖大会期间,斑马智能推出新一代全模态端侧大模型AutoOmni 2.0-23B-A3B。据斑马智能方面介绍,其任务处理能力堪比10倍参数量级的云模型。
“端智能的核心价值是开启交互新范式。”斑马智能联席CEO郝飞在大会现场表示,基于端模型的全车全时免唤醒,以及上下文和记忆,是新范式的关键要素,让更加懂我的主动服务成为可能。
AutoOmni是斑马智能行业首发的全模态端侧大模型,一年时间,端模型“上车”的企业中,63%选择了斑马智能。
据斑马智能方面介绍,此番发布的全模态端侧大模型AutoOmni 2.0-23B-A3B,采用MoE混合专家模型架构,在智能座舱场景,普通任务能力堪比10倍参数量云模型,复杂任务处理能力相当于10倍参数量云模型的80%—90%。
云栖大会现场展示了采用该模型和端云一体Agent架构的实车方案,基于模糊意图、多任务的复杂导航、车控、多媒体,以及跨域任务,AutoOmni2.0都能够低时延、保隐私、稳定流畅地执行。
“把端模型刻在芯上,把安全刻在心上。”斑马智能首席技术官司罗表示,AutoOmni已经合作国内外10家芯片企业,软硬协同支持8路以上多任务稳定并发,大模型推理加速5—6倍,量化保真度超过99%,少占用运行内存50%以上;而车规级端侧AI安全纵深防御体系,不只做到隐私保护和数据合规,还能够兼顾安全和性能开销。
司罗现场演示了全车全时免唤醒、主动智能迎宾、无感智能停车付费等端侧智能场景。从数十项主动智能场景开始,AutoOmni开启AI原生车主动智能新范式。
“智能汽车是具身智能最大的中试场和规模化压测平台。”司罗强调,斑马智能正从AutoOmni向EdgeOmni演进,围绕用户,从单体智能向群体智能拓展,让AI终端更懂“我的世界”。
(文章来源:中国经营报)