信息安全
· AI换脸 ·
互联网时代，我们享受便捷的同时，也面临隐匿的风险。网络诈骗、信息泄露、虚假信息……网络安全威胁无处不在。新城法院通过一起AI换脸的真实判例，警醒大家提高网络安全意识，保护个人信息安全。
“AI换脸”冒充好友诈骗
基本案情
郭先生的一位多年好友通过社交媒体联系他，称有一位老友希望添加郭先生的微信，有要事相商。郭先生同意后，一位头像、昵称均与其好友一模一样的账号添加了他。
添加成功后，双方进行了简短的视频通话。在视频中，郭先生清晰地看到并听到了“好友”的形象和声音。对方以“正在外地参加会议，信号不佳”为由，很快挂断了视频。随后，对方在微信上以“需要托领导办事，但自己直接转账不方便”为借口，提出先将一笔钱转给郭先生，再由郭先生代为转给“领导”。
不久后，对方发来一张伪造的金额为43万元的银行转账电子回单图片，显示款项已转至郭先生账户（实则并未到账）。郭先生信以为真，但表示自己账户余额不足，无法立即垫付全部金额。于是，“好友”便请求郭先生先帮忙转账4.3万元应急。基于视频确认的信任，郭先生先后分两笔将4.3万元转入了对方提供的所谓“领导”的银行账户。
转账后，郭先生迟迟未收到好友的43万元转账，心生疑虑，便通过电话联系那位真正的好友进行核实，才发现好友的社交媒体账号被盗，自己遭遇了诈骗，随即报警。
法院判决
法院经审理认为，被告人以非法占有为目的，采用虚构事实、隐瞒真相的方法，利用人工智能技术冒充他人身份，骗取他人财物，数额较大，其行为已构成诈骗罪。
量刑情节：
从重情节：利用新型AI技术实施犯罪，手段隐蔽，社会危害性大。
从轻情节：犯罪分子到案后能如实供述自己的罪行，自愿认罪认罚，并积极退赃退赔，取得了被害人的谅解。
最终判决：依据《中华人民共和国刑法》第二百六十六条之规定，判处犯罪分子有期徒刑一年，缓刑一年六个月，并处罚金人民币一万元。
法官说法
本案主审法官指出，此案是利用新技术实施的典型电信网络诈骗犯罪，具有以下突出特点和警示意义：
技术升级，欺骗性极强：与传统“猜猜我是谁”的电话诈骗不同，本案犯罪分子利用了AI换脸和语音合成技术，在视频通话中实时伪造了被害人所熟悉之人的面容和声音，极大地突破了受害人的心理防线，使得“眼见为实”的古老经验失效，欺骗性和迷惑性极强。
手段精准，针对性强：犯罪分子通过盗取或仿冒受害人好友的社交媒体账号，精准获取其社交关系链，并精心设计“帮忙转账”的剧本，利用朋友间的信任和心理惯性实施诈骗，成功率较高。
司法明确，技术非法外之地：法院的判决清晰地表明，利用AI等新技术实施违法犯罪活动，仍然是传统犯罪的一种手段演变，其行为本质依然是诈骗，必将受到法律的严惩。这为打击和规制利用人工智能犯罪提供了明确的司法实践。
公众需提升防范意识：此案警示公众，必须与时俱进地更新安全观念。凡是涉及资金转账的要求，无论对方以何种理由、通过何种方式（即便是视频通话）提出，都必须通过原有的、已知的常用联系方式进行多重、二次确认，切勿轻信。
-END
来源：人民法院报
编辑：张 瑛
责编：高 弘
审核：陈 俊
新城区法院新媒体出品
继续滑动看下一个轻触阅读原文
西安市新城区人民法院向上滑动看下一个西安市新城区人民法院赞分享推荐 写留言
原标题：《微信视频通话也能造假？AI换脸诈骗防不胜防》
阅读原文