仿冒AI智能体层出不穷 潜藏安全风险 - 国内资讯 - 中猪商务网
标王 热搜: 广州  SEO  贷款  深圳    医院  用户体验  网站建设  机器人  贵金属 
 
 
当前位置: 首页 » 资讯 » 国内资讯 » 正文

仿冒AI智能体层出不穷 潜藏安全风险

放大字体  缩小字体 发布日期:2026-04-30 23:55:03  来源:互联网  作者:中猪商务网  浏览次数:78
核心提示:近年来,生成式人工智能技术快速迭代,AI智能体凭借自动化、场景化的服务能力,加速融入生产生活方方面面。

近年来,生成式人工智能技术快速迭代,AI智能体凭借自动化、场景化的服务能力,加速融入生产生活方方面面。但与此同时,大量仿冒AI智能体也集中涌现,不仅严重混淆公众认知,更潜藏着多重安全风险。记者在多个主流大模型平台实测发现,在搜索栏输入知名企业、公共服务机构名称,均能检索到大量同名智能体,其中绝大多数没有平台官方认证标识。

记者以“南方电网”为关键词在多个主流大模型平台检索发现,仅单一平台就出现了超80个相关智能体,名称覆盖“电力业务办理”“招聘咨询”“内部培训”等多个高频服务场景。部分仿冒智能体不仅直接使用企业官方Logo作为头像,简介话术也高度模仿官方口吻,伪装性极强,普通用户很难一眼辨别真伪。

仿冒AI智能体层出不穷 潜藏安全风险

南方电网“南网求知”科普辟谣平台编辑马瑷萍:

仿冒智能体发布的不实信息会误导公众,给用户造成一定的损失,我们“南网求知”等官方账号已经发布了风险提醒。在此也提醒大家一定要认准正规渠道,不要轻易相信未经官方认证的AI智能体信息。

仿冒AI智能体层出不穷 潜藏安全风险

记者调查发现,除了能源类央企,政务服务、金融、通信等多个与公众利益密切相关的领域,均出现了大量仿冒智能体。这些仿冒账号借助平台流量入口触达用户,不仅严重侵犯了被仿冒主体的知识产权与品牌权益,更给普通用户埋下了信息泄露、财产损失等多重安全隐患。

仿冒AI智能体藏着哪些不为人知的套路?

AI智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。那么,这些层出不穷的仿冒AI智能体,又藏着哪些不为人知的套路呢?

中国信通院人工智能研究所安全治理部副主任陈文弢:

智能体的仿冒相当于是一些攻击者或恶意人员伪造出了一些智能体或智能体三方的工具或技能,让被诱导的用户去使用,从而窃取用户的个人信息、企业信息。甚至实现一些跳板攻击。

仿冒AI智能体层出不穷 潜藏安全风险

智能体可以分为智能体本体和技能工具两个部分,对应的仿冒行为也主要分为本体仿冒和技能仿冒两类;从仿冒手段上看,可以分为描述仿冒和功能仿冒。描述仿冒通过搭建类似钓鱼网站的伪造界面,或者伪造技能包的名称和描述,诱导用户使用;功能仿冒,则是搭建出具备正常交互能力的智能体或技能工具,但在其中嵌入恶意代码或非法指令。



 

  以上是“仿冒AI智能体层出不穷 潜藏安全风险”的全部内容,希望对大家有所帮助。


免责声明:以上所展示的信息由网友自行发布,内容的真实性、准确性和合法性由发布者负责。中猪商务网对此不承担任何保证责任。任何单位或个人如对以上内容有权利主张(包括但不限于侵犯著作权、商业信誉等),请与我们联系并出示相关证据,我们将按国家相关法规即时移除。
 

[ 资讯搜索 ]  [ 加入收藏 ]  [ 告诉好友 ]  [ 打印本文 ]  [ 违规举报 ]  [ 关闭窗口 ]

 
 
本企业其他资讯
推荐资讯
点击排行

 
网站首页 | 付款方式 | 关于我们 | 联系方式 | 使用协议 | 版权隐私 | 网站地图 | 排名推广 | 积分换礼 | 网站留言 | RSS订阅 | 粤ICP备11090451号