作为打造新质生产力的核心引擎，人工智能大模型对传统产业数智化转型与数实融合发挥着巨大的推动作用，但与此同时，大模型面临的恶意操控、内容合规、算法与隐私安全攻击等问题也日渐凸显，带来新的安全风险与挑战。12月17日，360集团联合产业上下游合作企业、科研机构等单位共同在北京成立大模型安全联盟。

360集团创始人周鸿祎说，人工智能技术是一把“双刃剑”，在带来自动化和先进工作生活方式的同时也带来很多安全问题，是人类有史以来面临“最大的安全挑战之一”，远超过传统数字安全带来的挑战。由于黑产、灰产组织者可以利用大模型提升找漏洞、写攻击代码的能力，因此未来网络安全可能会从人与人的对抗，变成机器与人的对抗，再发展为机器与机器的对抗。

在周鸿祎看来，人工智能在提升生产力的同时，也带来了包括幻觉、深度伪造、注入攻击、数据污染或投毒等前所未有的安全新挑战。而随着大模型在无人驾驶汽车、无人机、智能机器人等领域的应用日渐广泛，一旦产生幻觉等安全问题，可能对个人、社会甚至国家安全形成重大隐患。如果安全问题得不到有效的控制和解决，又可能会让政府监管机构对人工智能充满顾虑和疑虑，从而出台更多的限制政策，这对产业发展同样形成挑战。

周鸿祎介绍，组建大模型安全联盟的意义在于要解决大模型发展过程中出现的安全问题，这既需要像360这样的网络安全专家，也需要对大模型有深入研究的同行，联盟成员将在技术上互通有无，形成能真正保护大模型安全的应用成果，并探索提出解决大模型安全问题的中国方案。

关注大模型存在的安全风险已成为当下各界的重要共识。中国网络空间安全协会秘书长郝晓伟说，当前人工智能安全风险日益凸显，期待能基于此次联盟成立的契机打造协会与企业的创新合作模式，联合应对人工智能安全的新问题、新挑战。

来源：北京日报客户端

记者：孙奇茹