“打造全球领先的轻量高性能大模型，进行知识密度的压缩，已经成为大模型未来竞争新的重要方向。端侧模型有独特的生态位，它离用户更近、更能匹配个体和企业单位数据隐私的需求，是大模型走进千家万户、千行百业的关键。”面壁智能联合创始人、CEO李大海在2024世界人工智能大会（WAIC） “长三角协同创新AI新质生产力发展论坛”上表示。

　　在记者的专访中，李大海进一步阐述了端侧模型的显著优势。首先，端侧模型在隐私安全方面表现卓越，能够更有效地处理用户的隐私数据，因为这些数据不会离开用户的设备。利用这些数据，端侧模型在提供个性化服务方面具有明显优势。另外，未来有许多场景对终端大模型的推理能力有很高的可靠性要求，这些场景非常适合端侧模型的应用和发展。

　　“首先，端侧模型本质上是一种私有化部署，因此端侧模型与私有化部署并不是相互矛盾的分类，这是需要明确的第一点。”李大海表示，其次，随着端侧模型性能的增强，它们相较于传统的私有化部署方式，提供了更多的便利和成本效益。例如，在推理过程中，用户无需额外购买专业的GPU显卡，因为端侧设备上的GPU已经足够使用，这在成本和隐私安全方面赋予了端侧模型明显的优势。然而，端侧模型的功能有其局限性。当面临超出其处理能力范围的复杂任务时，就需要依赖更强大的模型来完成。因此，端侧模型和私有化部署之间实际上是一种配合关系。

　　李大海表示，面壁智能的MiniCPM端侧模型代表了这一趋势，依托于扎实的原创性AI技术底蕴，面壁智能是世界范围内对高效大模型探索最为前列的大模型团队之一，目前已完成了贯彻高效训练、高效落地与高效推理的大模型全栈技术生产线布局。

　　据悉，面壁在今年 2 月份的时候，开始推出面壁小钢炮MiniCPM系列端侧模型，在2月1日发了第一版，4月发了第二版，5月发了2.5的版本。在2.5版本上，以1%的参数规模，形成了可以跟去年GPT-4V和Gemini Pro的多模态能力对标的一个模型，模型参数只有8B大小。

　　然而，“尽管端侧大模型具有这些优势，它们仍然只是整个AI解决方案的一部分。我们相信‘端’和‘云’协同在一起，才能够完整地把用户的需求满足好。”李大海强调。

（文章来源：广州日报新花城）