“世界99%的算力用于模型训练，只有不到1%用于安全优先”

专题：2024世界人工智能大会：以共商促共享 以善治促善智

　　7月4日至7日，2024世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2024）将在上海举行。

　　在开幕式上，人工智能治理技术方向首席专家、清华大学惠妍讲席教授、清华大学电子系长聘教授、衔远科技创始人周伯文表示，目前AI的发展是失衡的。

　　他指出，横轴是AI的技术能力的提升，在transformer为代表的基础模型架构下，将以大数据、大参数量、大计算量的尺度定律，让目前的AI能力呈指数级增长；与之对比，在纵轴的AI安全维度，典型的技术如红队测试、安全标识、安全护栏与评估测量等，呈现离散化、碎片化且后置的特性。

　　他表示，目前世界上99%的算力用于模型的训练，只有不到1%用于更多“安全优先”的考量。所以我们需要找到AI安全优先，但又能保证AI能力长期发展的技术体系。我们把这样一种技术思想体系叫做“AI的45度平衡律”，是指从长期的角度来看，我们要大体上沿着45度的安全与性能平衡发展，所谓的平衡是指短期内可以有波动，但不能长期低于45度。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。