算力是加快城市数字化转型的重要生产力。3月22日,中国电信宣布,天翼云上海临港国产万卡算力池正式启用,同时入驻首批用户。这是国内首个投入正式运营的国产单池万卡液冷算力集群,也是业内领先的全国产化云智一体公共智算中心。通过中国电信打造的人工智能公共算力服务平台,将全面赋能上海千行百业,成为上海“新算力”的重要一极。
随着生成式AI的迭代和发展,大模型规模以惊人的速度扩展,万亿参数级别几乎成为通用大模型的标配,由此带来的是算力需求的急剧增长。
2024年初,中国电信在上海临港智算园区投建15000卡公共智能算力中心,这是全国规模最大的运营商级智算中心。
经过紧张的建设,3月22日,上海临港智算园区的首个国产单池万卡液冷算力集群正式交付,并投入商业运营。
提升算力自主创新能力,实现国产算力技术和能力突破,建立云网协同的高性能算力基础设施,是“新算力”的核心基石。
此次启用的天翼云上海临港国产单池万卡液冷算力集群创新性地采用网络中置、算力分层的“魔方”型,实现了单一集群内万卡高速互联,满足万亿级参数大模型训练所需的多机多卡并行、高吞吐无损通信等需求。
同时,为了实现绿色低碳的目标,全面采用融合液冷服务和IDC基础设施的新一代智算液冷DC舱,实现了数据中心的能效和智算集群的算效双提升,为“人工智能+”提供智能、弹性的绿色算力。
此次正式运营的公共智算中心,以中国电信天翼云自研TeleCloudOS 4.0为底座,承载天翼云算力分发网络平台“息壤”、智算基础设施平台“云骁”、一站式智算服务平台“慧聚”,构建算力聚合分发的新模式,实现全栈能力自主可控、安全可信,多项技术指标领先,可为大模型企业提供从算力供给、算力输送、算力调度到模型训练及推理应用的一站式服务。
会上,上海电信总经理助理龚豪与人工智能研究院、稀宇科技、百川智能、思必驰科技、亿熵智能科技、澜码科技、赛陇生物科技、天壤智能科技8家合作伙伴签署入驻协议。
思必驰自研的行业语言大模型DFM-2,已通过《生成式人工智能服务管理暂行办法》备案、《中国境内深度合成服务算法》备案。
如今,DFM-2已经在临港国产算力池里开始训练,通过配套高效的RDMA网络,以及亚毫秒时延的并行文件存储,算力得到了有效释放。中国电信专业支撑团队帮助DFM-2在一周内从国外算力池迁移至国产算力池。实测结果显示,迁移后集群训练效率与原集群基本对标。
随着“人工智能+”首次被写入政府工作报告,AI产业机遇正在加速涌现。根据《上海市人工智能产业发展“十四五”规划》,到2025年,上海将基本建成具有国际影响力的人工智能产业创新发展高地,人工智能规上产业规模年均增长12%以上,达到4000亿元。
中国电信表示,将积极建设普惠服务的国家云AI基础设施,深度参与培育以AI为引擎的新质生产力,构筑自主创新的算力底座,推动各行业注入“AI+”基因,助推上海成为具有全球影响力的人工智能产业新高地,让千行百业因算力酿造新成果,千家百户因算力受惠新生活。
(文章来源:周到)