在这个数字化浪潮汹涌的时代，AI技术宛如一把双刃剑，在带来便捷与创新的同时，也悄然为老年人埋下了新型风险隐患。记者调查发现，一些看似高明的骗术背后，都是采取AI深度伪造技术。记者在多个平台上搜索发现，不少人对换脸/克隆声进行“打包出售”，价格低至1元，这在一定程度上降低了诈骗门槛。而境外平台上的黑灰产从业者也提供从换声到换脸的“一条龙服务”，标价仅十几元至百元不等。

01 AI换声、换脸诈骗盯上养老钱

“家里的老人接到一个电话，打的是老人家里的固话。说是我儿子，据说声音、语气一模一样，而且还说出了自己的名字。因为路上刚才开车撞人了，让老人拿钱帮忙，还以‘不想让爸妈知道’的理由让老人不要告诉我们。”一位网友分享了“假孙子”的诈骗过程，直呼“骗子太可怕了”。

这样的诈骗往往经过精心策划。这名网友经历中，骗子找跑腿小哥前往家里拿钱，老人经劝说和报警后才反应过来。“骗子就是盯上八九十岁的老人对孩子的在意，而且我们的信息暴露得彻彻底底，连孩子都不知道他爷爷的固话号码，骗子把声音和语气用AI模仿得非常逼真。”

记者梳理爆料以及警方案例发现，骗子利用AI换声、换脸冒充亲友实施诈骗的对象多为老年人，套路普遍为用户的隐私信息泄露后，诈骗分子通过AI技术伪造身份，再以类似“孙子惹祸，急需用钱”等理由向亲属、朋友特别是老人进行诈骗。

从事互联网安全的反诈专家吴明（化名）告诉记者，这类诈骗手段的“起点”往往是用户的隐私信息遭到了泄露，“比如有用户在下载未知来源APP时给予了手机权限，导致手机的通讯录、照片、短信等数据被上传到了诈骗分子的后台。通过用户泄露或在社交平台公开分享的声音或视频数据，诈骗分子就可以通过AI技术伪造用户的声音，从而进行诈骗。”

10月21日至26日，记者在国内外的交易、社交平台搜索发现，AI换脸、换声相关服务、教程等随处可见。平台上，AI一键替换视频中人物的教程，标价低至1元。不少提供视频和声音制作的黑灰产卖家，并不在意相关视频的用途，只是根据客户需求难度进行明码标价：“换脸换声视频”制作以虚拟币结算，折合人民币463元，只换声音约为228元，且可以“定制话术”。

02 80元可定制明星“代言视频”

不少AI克隆服务或教程卖家的目标客户，主要是为了冒充名人直播卖货或对产品进行背书。此前，靳东、雷军、张文宏等均被AI造假。

为了增加相关产品的可信度，一些卖家晒出了包括郭富城、巩俐、齐秦等明星为一些公司或产品发表的“代言视频”或“祝福视频”，其中一些视频涉及的公司和产品指向金融诈骗。

记者以买家身份咨询了解到，AI视频制作服务80元起步。有提供AI数字人制作软件的商家称，购买软件可以教操作方法，明星以及张雪峰等人都可以生成。根据该商家提供的资料，购买该软件月卡188元，永久版288元。

实际上，随着技术的进步和开源，声音克隆的门槛并不高。记者在一个开源软件中上传了一段3分钟的本人录音，训练出了声音模型，虽然效果在生成长语句时偶有瑕疵，但对于一些较短的语句来说，几乎识别不出为合成的语音。

10月26日，中国人民大学人口与发展研究中心召开“数字时代老年人短视频使用与网络安全”研讨会，并联合抖音发布《老年人短视频健康使用指南》，涵盖了几类短视频平台上的典型欺诈案例，其中一类新型骗局是利用 AI 技术伪造老年人信任的身份，如名人、企业家、公职人员，或杜撰与养老金发放、家人健康、子女运势等相关的信息，诱导老年人点赞、关注、转发。一旦这些账号借“情感钓鱼”积累了真实用户互动，便被包装成“优质账号”，进而用于账号倒卖或参与黑灰产业活动牟利。

“使用AI合成‘假专家’或权威人士进行带货或直播带货的行为可能触及多项法律法规。根据《中华人民共和国民法典》，侵犯肖像权、声音权，需承担停止侵权、赔偿损失等责任；根据《中华人民共和国消费者权益保护法》，构成欺诈的，消费者可要求‘退一赔三’；根据《中华人民共和国刑法》，若涉及诈骗、虚假宣传等情节严重的行为，可能构成诈骗罪、虚假广告罪等。总之，使用AI技术时，需严格遵守法律法规，取得授权并确保内容合法合规。”姜万东告诉记者。

03 深度伪造与检测技术正相互博弈

记者采访基层民警、反诈专家、平台监管部门了解到，通过伪造老人亲属身份进行“定向”诈骗，诈骗流程相对烦琐、成本更高，虽然个案金额往往较大，但总体来看案件数量不及刷单、投资等诈骗案例多。

另一方面，随着AIGC标识新规的出台以及视频平台对用户身份核验流程的完善、对AI欺诈行为的打击，AI冒充“假专家”也会更加困难。

9月1日，国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》施行，其中要求在相关平台上上传的视频内容，若使用AI制作的需添加标识。这将让一些“冒充专家”的AI视频失去传播空间。

针对“假孙子”“假专家”类骗局，海淀金融管理局发文称，老年人应提高警惕，采取防范措施：在接到陌生来电或视频通话时，要仔细核实对方身份。可以通过拨打亲友的常用电话、视频通话中询问一些私密问题等方式进行验证；不要轻易将个人信息、银行账户、密码等敏感信息透露给陌生人。同时，要定期更换密码、开启双重验证等安全措施；对于任何承诺高收益的投资或医疗产品，都要保持警惕。记住“天上不会掉馅饼”，高收益往往伴随着高风险。

“数字时代老年人短视频使用与网络安全”研讨会的与会专家一致认为，应对风险需多管齐下，既需从老年人自身层面提升反诈意识、了解数字技术，也需从家庭层面、社会支持层面为老年人提供心理与技术双重支持。

据《新京报》