《人工智能应用系统内生安全蓝皮书（2024年）》发布者：中国通信学会内生安全专业技术委员会【PDF】

千石抚子

简介：
尽管人工智能是推动社会经济发展的新引擎，但其发展也伴数据投毒、算法偏见、模型脆弱性等安全问题，这些问题不仅影响系统的可用性和可靠性，还可能触及隐私保护、网络安全等技术伦理议题。

蓝皮书强调，构建能够抵御内外部威胁的安全体系是智能时代发展的刚需。现有AI安全防御方法存在局限性，无法从根本上规避内生安全问题。因此，一种内生安全赋能人工智能应用系统构建的方法，利用内生安全机理中的构造效应，从体制机理上管控或规避人工智能应用系统面临的破坏及威胁，提升系统应对复杂多变安全环境的能力。

蓝皮书详细人工智能应用系统面临的安全风险，包括数据安全、算法安全、模型安全、软硬件运行环境安全、恶意使用风险、法律和伦理风险以及系统同质化和系统性风险。这些风险的成因是多方面的，包括人工智能算法理论的局限性、算法结果的难以解释性、应用系统要素缺乏安全性，以及法律、伦理和信任度等社会因素的共同作用。

为解决这些问题，人工智能应用系统的内生安全框架，包括内生安全赋能的机理、特殊性和可行性分析，以及具体的构建方法。框架内生安全构造的开放性、一体化安全增益、网络弹性、稳定鲁棒性、对专业安全防护技术的兼容性以及对广义功能安全问题的不敏感性。

实现内生安全构造的方法，如动态异构余（DHR）架构，以及如何通过数据集异构、模型结构异构、训练方法异构和应用推理异构等手段构建差异化AI模型。提高AI模型算法鲁棒性、构建AI模型安全监测体系、提升AI价值观对齐能力、建强AI应用系统安全环境等工程难题的解决方案。

在政策建议方面，加快推进人工智能应用系统立法保护、供给侧安全治理、解决关键技术短板、建立国家级安全试验场、转变教育范式培养负责任的开发者、提高国际影响力以及建立健全风险等级划分制度等七点建议，以提升人工智能应用系统的安全防御能力和治理能力。