业界首次!中国联通AI大模型存算分离技术新突破
12月8日消息,中国联通宣布,中国联通研究院日前与浙江联通、联通服装制造军团协同攻关,针对AI敏感数据的本地存储异地训练需求提出了创新的业务模式,并成功在杭州与金华两地间实施了业界首次30TB样本数据的跨200公里存算分离拉远训练。
经过实际测算,训练效率高达97%以上。
中国联通表示,上述业务模式为业界首例,实现了AI大模型存算分离技术的突破。
通过测试,充分验证了存算分离技术的安全性、可行性和高效性,为未来AI技术的发展提供了新的思路和方向。
据介绍,存算分离技术是指将存储数据的仓库和对数据进行计算的加工厂独立开来,在训练时直接将数据从远端存储设备中拉过来进行计算,而不需要先存储到本地的磁盘再进行处理,可以有效保证用户数据的安全性和一致性。
本次存算拉远测试的主要特色包括:
跨地市AI大模型训练能力创新:传统的智算集中训练模式需要用户将样本上传到智算中心进行落盘训练,但部分用户对隐私样本落盘存在安全顾虑,浙江联通通过IP广域无损方案,实现了杭州存、金华训的“数据不落盘”拉远训练,为企业用户隐私样本训练探索出了一条新路。
样本数据总量与传输效率:样本数据总量达30TB,传输距离超200公里,计算拉远效率大于97%。通过联通服装制造军团“衣瞳行业模型”的AI训练存算分离现网测试,充分验证了针对AI训练业务存算拉远的技术可行性。