AI换脸：美丽面孔下的危险陷阱
德国思想家利希滕贝格曾说：“世界上最值得玩味的表面乃是人的脸。” 在AI技术飞速发展的今天，这张脸既可能价值连城，也可能一文不值。AI可以轻而易举地将任何一张脸移植到任何身躯之上，这给诈骗分子带来了可乘之机。
全国政协委员靳东在2025年全国“两会”期间疾呼：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。” 作为深受观众喜爱且有“大妈缘”的男演员，靳东的形象被不法分子利用，造成了极其恶劣的影响。
“靳东”的爱情骗局：奶奶们的噩梦
是谁在为AI换脸的“靳东”买单？
2020年，江西的黄奶奶与短视频里的“靳东”坠入爱河。她坚信“靳东”在向她示爱，不惜与家人决裂，甚至离家出走，只为见到这位“东弟弟”。
2022年，上海的张奶奶加入了“靳东”明星粉丝团，每天沉迷于与AI换脸拟声后的“靳东”聊天。她瞒着家人转账20万元，参与所谓的“应援投资”。即使在儿子报警后，她仍然深信不疑。
江西上饶的丁奶奶坚信自己与“靳东”心连心，省吃俭用，将辛苦攒下的3万元全部用于给“宝贝”刷礼物。
2024年，一位江西奶奶甚至跑到银行贷款200万元，只为支持“靳东”拍戏。她坚称“靳东”已经向她表白，并发布了两人“合照”的短视频。
2023年，上海警方破获一起“假靳东”诈骗团伙，8名成员均为女性，她们通过短视频平台冒充“靳东”，精准 targeting 中老年女性，以甜言蜜语诱骗她们进行投资、公益等活动，诈骗金额高达30余万元。
网友们纷纷谴责这种丧尽天良的行为，并提醒老年人提高警惕，不要轻易相信网络上的“爱情”。
AI换脸拟声：违法侵权的重灾区，治理刻不容缓
深受其害的远不止靳东一人。雷军的AI拟声视频在国庆期间疯传，内容粗俗不堪，严重损害了他的形象。刘晓庆也表示，自己被AI视频所困扰，难以分辨真假。
张文宏医生被人用AI移花接木搞起了直播带货，老牌港星黄百鸣也曾被人用影视片段AI拟声，代言一款不知名的药膏。
今年全国“两会”期间，代表委员们纷纷呼吁加强立法监管，规范AI生成合成内容的制作和使用。雷军建议加强“AI换脸拟声”违法侵权重灾区治理；李东生、刘庆峰等人提议加快针对AI生成合成内容单行法的立法。
中国互联网络信息中心的数据显示，2024年中国生成式人工智能产品的用户规模已达2.49亿人。随着AI技术的飞速发展，立法规范AI生成合成内容的制作和使用，已经刻不容缓。
保护好你的脸，不要轻易相信一张脸
在国外，AI换脸诈骗同样屡见不鲜。法国的安妮误以为自己与“布拉德·皮特”网恋，为“皮特”治疗“肾癌”支付了83万欧元，最终人财两空。一家跨国公司的员工被AI换脸的“首席财务官”骗取了2557万美元。
AI换脸技术本身并无罪过，它甚至可以帮助我们复活逝去的亲人，让主持人随时找到AI替班。然而，如果没有平台的提示，我们已经越来越难分辨AI生成的内容，肉眼识别技术已经失效。
如果技术得不到合法应用，“AI诈骗”会比“电信诈骗”更具欺骗性。它很容易突破由“个人信息”“权威身份”“信任顾问”构成的“初始信任”屏障，进而操控情绪、启发决策、获得利益。
在信息时代，脸既是通行证，也是支付码。请保护好你的脸，也不要轻易相信任何一张脸，因为它很可能是一张假脸。
更多AI行业最新资讯新闻信息请关注AI人工智能网站--AITOP100平台--AI资讯专区：https://www.aitop100.cn/infomation/index.html
