首份《AIGC安全研究报告》发布

6月9日，AIGC安全实验室、博特智能、创业黑马联合发布首份《AIGC安全研究报告》（以下简称“安全报告”），从AIGC框架安全、内容安全、数据安全三大维度全面介绍了当前生成式人工智能带来的新型数据泄露、赋能网络攻击及内容滥用的风险问题。

据介绍，作为国内首个 AIGC 领域空间安全测绘研究实验室，博特智能 AIGC 安全实验室对市面上9大领域主流AIGC应用进行了抽样评测（应用类型涵盖Al聊天、Al写作、Al绘画、Al图像、Al文案、Al设计、Al办公、Al音频和Al视频）。安全报告指出，此次评测结果发现97%的应用已经部署内容安全机制，能够对中文提示词和违规内容进行拦截过滤，但通过提示词调整（例如，采用英文提示词或其他描述方式），99%的AIGC应用仍然会生成违规内容。此外，评测数据显示传统的Al内容识别方式对AIGC内容识别率大幅度降低，尤其在Al写作内容的真实性和Al图像二次创作后的违规识别上表现更为突出。

此外，安全报告也对AIGC数据泄露、数据污染、数据合成等10种技术攻击手段以及面临的多重安全风险进行了详细阐述。如模型算法攻击挑战；数据非法获取、敏感信息、数据泄露及恶意滥用等数据安全问题；AIGC可能带来数据伪造的风险；AIGC可能带来的“数据投毒”风险问题。