近日,包头警方发布一起利用人工智能实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。
复盘整个被骗过程细思恐极。据披露,骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。骗子并没有使用仿真的好友微信添加郭先生,而是直接用好友微信发起视频聊天求助。
诈骗技术如此登峰造极,让人防不胜防。骗子对郭先生实施诈骗,却率先攻陷了好友的微信,再利用AI技术对人像和声画进行“仿真”处理。如此一来,郭先生眼见不一定为实,耳听也成了虚。
(相关资料图)
AI技术迅猛发展,带来无限商机的同时,层出不穷的骗局也随之而来。近日,#AI诈骗正在全国爆发#话题登上热搜,这些骗局巧妙地躲过层层人为设置的防线,迷惑性极强。
仿真人行骗竟让真正的人防不胜防。一方面是行骗过程真伪辨认难度系数更高,另一方面则是骗子的针对性也更强。
漫无目的地全面撒网早就“过时”,骗子们通过AI技术筛选受骗人群,别有用心地锁定特定对象。不同的骗术对应不同的人群,比如,郭先生是科技公司法人代表,其好友也是外地竞标。还有一些金融诈骗,骗子也会筛选那些搜集投资信息的人“优先”行骗。
人工智能诈骗席卷而来,提醒人们技术不仅解放人类生产力,便利日常生活,还带来了极高的风险。这些风险系数升高、防范难度加大,并在不同领域持续蔓延。
AI技术无边界地滥用,涉及非法盗取企业数据、私人财产,还会引发肖像权、知识产权等领域的纷争。眼下大火的“AI伴侣”,通过换脸来制作明星甚至普通人的不雅视频,AI歌手随意模仿翻唱一切,都把人工智能的风险指数一再调高。
作为个体,做好个人隐私保护、数据安全管理责无旁贷。无论是出于什么情景,对于任何可能造成风险的隐患,都要严格授权三思而后行。在实操中发现问题,及时报警,用合法手段维护自身利益。
同时,对于越来越丰富的支付场景,所有使用人的面部、声音、指纹等生物信息,必须依法依规。企业对相关信息的处理使用,必要严格尊守规范,“越界”和“打擦边球”都要时时警惕,泄露、倒卖、滥用个人信息必须严惩,最大限度地喝止违规黑色产业链滋生。
在人工智能时代,当数字人无限接近于真人,极真实地模拟人的声画,让虚拟的一切融入到我们的社交生活中,人类与数字人共存,如何保卫人的财产安全和合法权益成为一个严肃的话题。而只有真正的人的权益得到了很好的保护,科技才是真正被善用。