游客发表

视频“变脸”相似度达80%!“AI换脸诱骗”若何提防?

发帖时间:2024-11-07 03:35:31

最近,变脸视频网站上经由家养智能换脸,视频《亮剑》里的度达主角用英语飙起了台词,经由小挨次用户也可能将自己酿成片子里的换脸人物。新技术带来悲痛的诱骗同时,也带来了一种名为“AI换脸诱骗”的若何新骗术 。前不久 ,提防国家金融把守规画总局北京监管局公设提防“AI换脸”等新型敲诈本领的变脸危害揭示 ,这种骗术若何防 ?一起关注——

青岛的视频一位大学生以及他在网上意见的“女同伙”视频谈天 ,对于方称需要资金周转,度达男孩打钱以前之后 ,换脸发现居然被诱骗了。诱骗

深圳安络科技市场部司理 梁雅婷 :咱们经由取证发现着实跟他谈天的若何并非他的女同伙 ,对于方是提防经由伪造的摄像头,而后经由AI换脸的变脸功能跟他妨碍谈天。

那末AI若何做到在视频通话时换脸呢?记者在一家为公安机关提供技术反对于的科技公司看到的演示,相似度可能抵达80% 。

深圳安络科技产物部司理 刘远洋:适才咱们拍了一张照片,而后上传到电脑下面,咱们惟独要掀开软件抉择头像,右侧已经看到咱们的图片,右侧是当时拍好的一段视频。工程师已经把所有的参数都已经设定好了,咱们惟独要点击开始实施,输入要保存的文件名,这个窗口弹进去当时,换脸视频就已经开始天生为了。

咱们在现场看到 ,一个高配置装备部署的电脑 ,分解一段10秒的换脸视频惟独要一两分钟 。而技术的睁开,视频谈天的实时变脸也不是难事了。

深圳安络科技产物部司理 刘远洋 :照片上传后 ,艰深就会有30秒钟摆布的光阴,比力片妨碍特色识别,而后妨碍建模 。建模坏当时就能妨碍实时转换 ,不论是你的头像 ,仍是在同伙圈的一张小照片,惟独是照片都可能直接上传,妨碍特色的识别建模。

AI天生的技术还在不断地更新迭代 ,好比性此社替换 ,声音的变更 ,都可能同步妨碍 。由于算法是开源的 ,也便是说一个艰深的工程师就能制作出一个变脸软件,这就导致咱们在操作源头上带来了极大的难题。

AI换脸用于诱骗 反诈也有新本领

不断迭代的AI技术,已经把换脸视频做到“虚实难辨”   ,那末咱们理当若何提防此类新型诱骗呢?

首先 ,当初视频换脸的技术上也不是自作拆穿的,视频相同时的一些措施,就能发现倾向。

深圳安络科技副总裁 肖坚炜:在这个操作中 ,假如我用此外第三个图像去干扰它,好比让他用手捂脸 、动一动,就会干扰到图像的分解 。从这里演示看,我把手放下来之后 ,会清晰地看到屏幕上咱们共事的眼睛在发抖了  ,鼻子在发抖了,我的手已经消逝了  ,嘴巴也消逝了 。

除了让对于方在面部做出一些措施来分说 ,专家介绍,AI分解软件的降级可能是飞速的 ,假如措施捉拿已经被避开 ,那末咱们就需要经由一些更业余的软件来分说了。

深圳安络科技副总裁 肖坚炜:咱们可能经由软件来识别 ,好比人的全部概况 ,交流的眼睛 、鼻子 、嘴巴这里 ,它的像素巨细是纷比方样的 ,颜色的色域是有差距的 。像咱们的衣服同样 ,要打一个补钉 ,是没措施做到欠缺的 。这些咱们眼睛肉眼看不进去,可是软件算法是可能检测进去的 。

当初 ,这种分说软件对于配置装备部署以及周边的要求也比力高 ,运用起来并不普遍 。不外  ,让视频转达的网站概况社交软件,运用业余的分说软件来判断,再打上“AI制作”的标签,在现阶段不失为一个措施。

提防“AI换脸诱骗” ,巨匠还要增强对于人脸 、声纹 、步态、指纹等生物特色数据的清静防护 。

中国科技大学公共事件学院 、收集空间清静学院教授 左晓栋:在运用互联网效率概况在社会生涯中 ,要求输入人脸等生物特色数据的时候,咱们要看一看,对于方群集咱们的生物特色数据是否适宜数据清静法,总体信息呵护法的要求 ,是否正当、公祥以及需要。

此外,国家也在经由多重本领提防“AI换脸诱骗” ,近两年 ,相关部份先后出台了互联网信息效率深度分解规画纪律 ,天生式家养智能效率规画暂行措施等无关政策文件 。先后睁开了“互联网深度分解算法存案”“狂语言模子算法存案”等无关使命。严酷侵略运用AI换脸 、变声等本领实施的违法立功行动 。

中国科技大学公共事件学院 收集空间清静学院教授 左晓栋:当初看来开始妨碍了滥用家养智能技术。特意是处置违法立功的这些势头,部份规画下场开始展现,而且也有力增长了家养智能技术的尺度睁开 。

    热门排行

    友情链接