随着生成式AI技术的爆发式增长，AI诈骗也正悄然兴起，诈骗分子利用 AI 技术生成虚假声音和视频，以借钱、投资、紧急救助等理由诱导受害者转账或提供敏感信息。
手段与原理
诈骗分子可通过收集目标人物的：
- 聊天语音、电话录音
- 公开讲话、会议录音
- 朋友圈、小红书等社交媒体自拍或他拍照片
- Instagram、TikTok等社交媒体自拍、他拍视频或直播画面
利用生成式AI，模仿“这个声音”或将一个人的脸部替换到其他照片/视频中，最终生成的音色、形象与目标人物相似度极高，且口型与说话内容高度匹配。以此冒充亲友、领导、同事、执法人员、明星等公众人物实施诈骗。随着生成式AI技术的进步，虚假声音和视频将越来越难以辨认。
诈骗形式一：合成语音、视频文件
- 制作高度逼真的语音留言或微信语音条，还能模拟情感波动（如焦急、哭泣），欺骗性极强。将语音发送给受害者，编造“出车祸”、“急需周转”等情境。
- 发送伪造的视频文件，例如人物对着镜头说话、求助，甚至是目标人物被绑架的画面。
诈骗形式二：实时变声、实时换脸
- 在通话过程中，诈骗分子将自己的声音实时转换为目标人物的声线，包括音色、语调。
- 将一个人的面部特征替换到其他视频或图像中，例如诈骗分子与你视频通话时，用亲友/执法人员等形象实时替换他自己的形象，AI根据诈骗分子的表情、言语、动作实时仿真，并对齐说话口型。
防范指南
声音和脸部可以被伪造，身份不能只靠声音和视频确认。
一、建立验证短语或虚构情节
可与家庭成员和好友约定一个只有彼此知道的验证短语，遇到特殊情况或需要转账帮忙时，可以要求对方说出这个短语，因此短语不应过于复杂，但也不应选用生日、学校、宠物名字等公开信息。
如果没有提前约定验证短语，在通话时可以先询问对方一些相处细节，例如询问亲友昨天一起吃了什么。但如果你分享过这餐美食，或有人了解你的饮食习惯，这个验证方式可能会失效。
除此之外，还可以通过虚构情节来验证对方身份。例如：“对了，你电脑还在我这，什么时候来拿？”，如果对方没有反问、质疑这个虚构出来的情节，则应提高警惕，要求当面沟通。虚构情节需要具备较强的随机应变能力，如果虚构的内容过于突兀、虚构得过于明显，可能会被诈骗分子察觉，主动反问你，导致难以辨别。
因此，更推荐通过提前约定验证短语的方式确认对方身份。
二、使用独立渠道验证身份
收到需要敏感操作的语音条、视频文件时，建议拨打通讯录中保存的号码（而不是直接回拨），联系对方核实。
对于自称是执法人员、平台客服的，建议挂断后拨打报警电话、政府热线、平台客服电话进行核实，或直接前往执法机构线下办公地址核实。
对于企业而言，员工也应通过独立渠道验证对方身份。美国联邦调查局（FBI）指出，已存在犯罪分子冒充企业高管和执法人员实施欺诈的案例。在收到高管语音、视频要求提供敏感信息或要求进行转账等敏感操作时，应通过企业内部办公系统、邮件等独立渠道进行确认。
验证渠道越独立，诈骗者越难同时控制。
三、关于减少个人声音、形象暴露
有声音认为，个人社交媒体上应尽量减少或避免公开个人照片。这种做法并不可取，因为“信息安全”是一门“平衡”的艺术，对于个人信息安全而言，一味追求保密性或一味追求便利性往往都不是最理智的选择，在这两者之间寻求平衡点才是正解。因此，不必因社交媒体上公开了个人照片和视频感到担忧，这是我们生活和社交的一部分。各视频平台上都有大量博主通过拍摄vlog进行创作，他们更不应该为担心AI诈骗而停止创作或蒙上面罩。
笔者认为，关于减少个人声音、形象暴露这一问题，我们需要注意的就是，在接到陌生、可疑来电以及营销电话时，尽可能减少不必要的交谈，因为这有可能是诈骗分子在采集你的声音。
本文参考的FBI报告：https://www.ic3.gov/PSA/2024/PSA241203
本文版权归 readaihub.com 所有。任何转载或再创作，均须标注来源为 readaihub.com 并附原文链接，且必须完整保留本段声明。