国家安全部微信公众号21日发文曝光人工智能（AI）“投毒”隐蔽产业链，这种通过恶意数据污染AI模型的行为，不仅扰乱商业秩序、影响信息传播，更会危害国家安全。AI在赋能千行百业的同时，其安全风险也不容忽视。多名网络安全专家21日对《环球时报》表示，AI模型“投毒”危害性极大，甚至威胁国家安全。对此，应压实平台责任，建立数据白名单，并加强跨境治理与全民举报机制。
什么是AI“投毒”
所谓“数据投毒”是通过向AI大模型训练数据中注入伪装成正常样本的恶意数据，实现削弱模型性能、降低准确性的攻击方法，常被用于恶性市场竞争，甚至可能涉及间谍活动，日益呈现出链条化、隐蔽化、跨境化特征。
安天科技集团董事长、首席架构师肖新光21日接受《环球时报》记者采访时对此解释称，“大模型平台输出的结果是一种‘概率’。大众看到的输出内容通常来自两部分的融合：一部分是用海量文档、图片等数据进行训练实现模型推理生成，这部分需要海量高质的数据资源及很长的训练时间；一部分来自对互联网内容的检索增强。前者擅于处理逻辑、创新问题，后者善于处理时效性问题。”
给AI“投毒”已经成为一种隐蔽的产业链（概念图）。
据介绍，在大模型平台输出的过程中，如果训练数据或者被检索到的互联网内容带有虚假、有害数据，就会影响到大模型的输出概率。若有人故意在这些环节投放有害数据，就会影响到大模型的生成结果，最终呈现的可能就是错误的信息结果。