今年 3 月初 ，一则消息在网上疯传 却赚足流量与眼泪 ，消息内容是华山医院前院长张明远因病客死他乡。然而上海警方一查 ，竟发现华山医院根本不存在这个人。背后实则由三个犯罪嫌疑人 ，利用 AI 工具成批量炮制 、编制了 30 多万条谣言。当 AI 的相关技术取得进步 ，致使社会运转变得更加高效的同时 ，这把彰显双面特性的双刃剑 ，其另一面表现形式为 AI 参与的造谣以及各式各样的诈骗行为 ，已然在毫无声息的状态下 ，暗暗潜入我们每一个人的日常生活领域。

AI造谣的成本有多低

被抓到的犯罪嫌疑人王某某等三人，他们说出的情况真的是让人惊掉眼镜。他们掌控着五百多个这样那样的自媒体账号，可他们自己居然都不清楚华山医院究竟在什么地方，而且，他们更是连“张明远”这个人也根本就没办法认识得了。他们所作的仅仅只是去设置了社会热点、明星绯闻之类的关键词策略，于是，那AI工具理所当然就自动生成了那些看上去好像是确有其事、很有真伪感的帖文。

起始于2024年，因自然语言处理技术走向成熟，使得造谣门槛遭到AI完全地彻底踏平，往昔编造谣言还得费脑筋去撰写稿子，现今只要输入几个关键词，在短短几分钟内便能生成一篇生动逼真的假新闻，这区区三个人累计发布不实帖文数量高达30余万条，所造成的影响极为恶劣。

眼见为实的时代已经结束

对于以前，我们常常会讲“有图有真相”，然而当下，AI那个深度伪造技术已致使这句话完全过时。AI不光能够生成那逼真的假新闻以及恶意评论，而且还能够合成名人、政客的虚假影像与语音的。就在去年的时候，好多网友都刷到过那些所谓“明星直播带货”的片段，实际上其中好多都是AI合成出来的。

更有甚者，AI与社交机器人相结合，能够于社交媒体之上大规模致使谣言扩散，以制造虚假的舆论氛围。其伪造热点事件之举，捏造名人言论之行，炮制伪科普之态，嫁接虚假证据之法，这般手段可谓层出不穷。你所看到视频里的那个人，或许压根就未曾讲过那句话，你所听到的语音，也兴许根本就并非本人发音。

交友软件里的恋人可能是假的

2024年8月，上海有位刘先生向警方报案，称其经由短视频平台结识了网友“焦女士”，两人很快发展成恋人关系，随后，“焦女士”借口开店、家人生病等，一个月里陆续向刘先生索要了快要20万元，然而，让刘先生全然没料到的是，这个令他心动的“焦女士”背后，实则是一个以杨某领衔的交友诈骗团伙。

该团伙分工清晰，存在专门负责上架视频而行引流之事的人员，存在肩负聊天任务的业务员，存在运用AI修图去伪造聊天记录的“技术人员”，他们借助AI剖析公众所发布的各类信息，依据受害者的特性定制诈骗脚本，进而实施精准策划的诈骗，这般“流水化”形态的作业致使受害者难以防范。

AI诈骗正在利用你的情感

以往传统电信诈骗所依靠的是话术，然而AI诈骗依赖的却是技术，骗子不再仅仅局限于"猜猜我是谁"，而是会使你亲眼目睹、亲耳听闻你所熟知之人。他们借助骚扰电话录音去提取某人语音，合成之后便能凭借伪造的声音蒙骗过亲友。这种诈骗的成功率相当之高，缘于其利用的是人类对于亲友的信任。

处于视频通话期间，欺骗者能够运用AI换脸技术，致使你觉得屏幕对面的正是你所熟悉之人。其窃取社交账号以后，会传递先前语音以骗取信赖，甚至借助AI程序迅速挑选出极易受骗的目标人群。短短几分钟之内，便可制造出定制型的诈骗脚本。

三个动作帮你识破AI伪装

当你发觉视频那头的熟人有一丝“别样”，尤其是在碰到借钱、转账之际，先别赶忙应允。你能够让对方做一个连贯的旋转头部动作，或者用手掌将脸全然遮挡后再迅速移开。当下的AI技术在模拟这种繁琐的面部遮挡之时，易于出现卡顿、模糊或者扭曲。

也要留意声音的细微之处，AI生成的语音常常缺少自然的呼吸停顿以及情感起伏，或许会带有轻微的机械感或者背景杂音不正常，要是对方声音听起来“和平时不一样”，一定要提高警觉，无论视频语音多么像真的，在涉及金钱交易时，务必挂断后直接拨打对方常用的电话号码开展二次确认。

守住信息安全的最后防线

遇上这些林林总总、繁杂多样的网络风险，强化个人隐私保护意识就变得格外关键了。诈骗的人常常借助受害者的私人数据去实施精准打击，定期更换强度高的密码，慎重分享位置信息，这些看起来简易的举措，都能够切实降低被恶意利用的风险。

通常而言，权威机构所发布的相关信息是会更加可靠一些的。要是你接收到了存在不确定性的某些消息，那么应当优先去参考由政府机关、知名媒体等正规途径所发布的声明或者报道。要是不小心传播了虚假的消息，那就需要立即停止进行转发并且要向相关平台去进行举报。千万不要被“高收益”“很急着用钱”等之类的说辞给迷惑住，只有守护好信息安全以及财产安全，这样才能够营造出环境是具备真实可靠性这样一个信息环境。

围绕你自身或者你身旁的友人，有没有遭遇过借助AI去伪造声音或者视频进而借贷的“熟面孔”呢？热忱欢迎于评论区域分享你的亲身经历，点个赞以便让更多的人能够瞧见这一篇文章，一同去防范AI所带来的风险。