AI诈骗无孔不入

新闻

作者：内机电网络中心
网络安全
AI诈骗无孔不入
  最近，视频网站上通过人工智能换脸，《亮剑》里的主角用英语飙起了台词，通过小程序用户也可以将自己变成电影里的人物。新技术带来欢乐的同时，也带来了一种名为“AI换脸诈骗”的新骗术。

  典型事例：青岛的一名大学生和他在网上认识的“女朋友”视频聊天，对方称需要资金周转，男孩打钱过去之后，发现竟然被诈骗了。

  技术人员：我们通过取证发现其实跟他聊天的并不是他的女朋友，对方是通过虚拟的摄像头，然后通过AI换脸的功能跟他进行聊天。



AI如何做到在视频通话时换脸呢？
  技术人员：刚才我们拍了一张照片，然后上传到电脑上面，我们只需要打开软件选择头像，左边已经看到我们的图片，右边是事先拍好的一段视频。工程师已经把所有的参数都已经设定好了，我们只需要点击开始执行，输入要保存的文件名，这个窗口弹出来过后，换脸视频就已经开始生成了。



AI换脸用于诈骗 反诈也有新手段
  不断迭代的AI技术，已经把换脸视频做到真假难辨。前不久，国家金融监督管理总局北京监管局发布谨防“AI换脸”等新型欺诈手段的风险提示。
AI诈骗如何预防？
  1、识别假脸

  2、多重验证，确定身份

  3、保护信息，提高警惕

  4、相互提示，共同预防



  除了一些简单的预防AI诈骗的小方法，专家介绍，AI合成软件的升级可能是飞速的，所以我们就需要通过一些更专业的软件来分辨了。

  技术人员：我们可以通过软件来识别，比如人的整个轮廓，替换的眼睛、鼻子、嘴巴这里，它的像素大小是不一样的，颜色的色域是有差别的。像我们的衣服一样，要打一个补丁，是没办法做到完美的。这些我们眼睛肉眼看不出来，但是软件算法是可以检测出来的。



  此外，国家也在通过多重手段防范“AI换脸诈骗”，近两年，相关部门先后出台了互联网信息服务深度合成管理规定，生成式人工智能服务管理暂行办法等有关政策文件。先后开展了“互联网深度合成算法备案”“大语言模型算法备案”等有关工作。严厉打击利用AI换脸、变声等手段实施的违法犯罪行为。



  希望同学们保护好自己的个人信息，在社交媒体上，涉及钱款事项一定要多重核实，切记“天上不会掉馅饼”，切实提高自己的防骗识骗能力。同学们，反诈骗行动刻不容缓，大家一起行动起来，用智慧武装自己，与诈骗违法犯罪行为作坚决斗争，确保个人的财产安全。

来源：央视新闻



编辑:任彦颖

审核:田泽坤

制作:网络协会融媒体运营中心