2025年世界互联网大会乌镇峰会正在举行,与去年对大模型技术的热议相比,今年业界看到了更多AI在实际场景中的应用。现场展示了一款夸克AI眼镜,戴上后可以看到绿色字幕,可以拍照、即时翻译、导航、支付或辨识物体,甚至询问眼前物体在电商平台的价格。这款眼镜已准备推向市场。另一款搭载了蚂蚁智能体的AI眼镜,在乌镇景区内能随时导览并提供大会信息。

AI眼镜是AI应用的代表性场景之一,各类AI应用铺开,近期已让推理需求急剧增长。中科曙光高级副总裁李斌表示,算力需求中,推理算力需求增速已远高于训练,随着推理需求增长,业内对推理算力提出了新的要求。

本届乌镇峰会期间,围绕AI应用爆发的背景,有两个话题受到业界普遍关注:一是如何让算力支撑变得更集群化和高效率,二是如何应对AI应用增长带来的安全问题。这两个问题的解答都涉及技术攻关和新兴技术使用。
随着AI应用扩大,算力基础设施如何支撑成为焦点。超节点在年内的科技行业盛会上频繁亮相。华为展出一整面昇腾384超节点的“墙”,壁仞科技、新华三等也入局超节点。中科曙光则在乌镇峰会上发布了单机柜级640卡超节点,展馆中一台黑色机器内部咕噜咕噜冒着水泡,这是机柜内的浸没相变液冷系统。
特别是在国内,超节点在提升计算集群性能方面发挥着重要作用。通过超节点减少AI服务器横向拓展互联时的性能损失,可让单颗芯片性能尽可能达到最优,国产芯片也能在大规模算力集群中尽可能发挥能效。此前,超节点被认为能推动算力集群走向“万卡协同”,特别是用于大参数模型训练。近期,业内也看到AI推理需求爆发下提升推理集群效率的必要性。







