谨防诈骗新形式:“AI换脸”丨数字素养
时间:2023-06-07 01:14:09 来源:科普之家 作者:北京科学中心 栏目:头条 阅读:116
审核专家:郑远攀郑州轻工业大学教授
提起AI换脸技术(AIfaceswap),大家可能有种熟悉又茫然的感觉,但不论是某些短视频下方“该视频疑似使用智能合成技术,请谨慎识别”的显著标识,还是大家有时使用的发型换脸软件,都表明AI换脸技术已经融入到大众生活中。
构饰华彩的人脸
来源丨pixabay
从这个角度来看,AI换脸技术已经在生活和娱乐的路上走了很远,但AI技术的应用却远远不止这么简单。
俗话说得好,有人的地方就有江湖。看似有趣好玩的AI换脸技术,实则背后暗藏着众多黑灰产业链——换脸变成美女的诈骗犯罪团伙,传播虚构照片、视频的卖家,以及一些换他人脸、谋我之利的个人行为,还有对公众人物的鬼畜恶搞和造谣等,这些都让我们看到了这项神奇技术的另一面。
正确地认识是合理利用的前提。AI换脸技术是如何定义的,它是如何实现换脸的,又能应用在哪些领域呢?
1
AI换脸技术
AI换脸最开始走入大众视野是在2007年,外网Reddit社区上一位名为deepfakes的用户利用该技术将成人影像女主角换脸为一些好莱坞知名女星并发布,最终由于影响过于恶劣而被封号。
但该用户后来直接公开了该技术的源代码,由此衍生出了各类换脸小程序和APP等。我国的换脸潮则是从2019年B站杨幂版黄蓉的突然出圈以及“ZAO”软件的爆火开始的,直到现在,换脸视频在B站仍是一种流量密码。
根据研究,当下的数字图像篡改技术大致可分为合成、润饰、计算机生成、变种、增强和绘画六类。
计算机语言阴影中的女人
来源丨pexels
AI换脸则是在深度学习算法的加持下,计算机篡改人脸图像的plus版。它在人脸识别技术及图形学伪造技术的基础上,利用一些深度学习算法,更高效、逼真地将图片或视频中源人脸替换到目标人脸上去。
从专业层次上讲,换脸技术的深度学习算法主要包括生成对抗网络(Generative Adversarial Network, GAN),卷积神经网络(Convolutional Neural Network, CNN),循环神经网络(Recurrent Neural Network, RNN)和编码器-解码器(Encoder-Decoder)四种。
其中,CNN和RNN是分别具有不同功能的前馈神经网络和递归神经网络;GAN是一种通过生成模型和判别模型互相博弈的方法来学习数据分布的生成式网络;而编码器-解码器则分别是将图像编制为计算机数据信号以及信号还原为图像的工具。
另外,替换过程中应用到的技术,除了大家比较熟悉的人脸识别技术,还包括图形学伪造技术,它能利用3D模型追踪人脸关键点并将源人脸仿射变换到目标人脸上。
一般来说,AI换脸技术被定义为基于人脸图像识别的深度伪造技术,而深度人脸伪造技术包括身份替换、面部重演、属性编辑、人脸生成等。大众所熟知的换脸技术只是其中身份替换的一种方式,仅仅是深度伪造技术中小小一隅罢了。
2
技术应用
目前,我国的AI换脸技术主要应用于影视娱乐领域,例如影视剧里的角色换脸,短视频的换脸制作,换妆换脸软件等。
除此之外,AI换脸在纪录片、地图实景、监控等涉及隐私保护的方面也发挥了不小的作用。
通过AI技术虚拟头像
来源丨某软件广告
与此同时,随着深度伪造技术的全面发展,它也在游戏、虚拟现实VR等领域为用户提供了更真实的游戏体验感。同时,深度伪造技术将与过世亲人视频通话或在VR中再相见变成了可能,让我们看到了未来这类技术的另一种美好。
通过AI换脸,姥爷与去世的姥姥对话
来源丨《姥爷勇闯元宇宙》剧照
3
直面挑战
虽然深度伪造技术给人们带来了很多新的可能,但其所带来的挑战也不能忽视。
AI和人类合作碰杯
来源丨pexels
对于大众来说,当深度伪造技术不能保证被正确使用时,大众的隐私保护问题、财产安全等挑战就会接踵而来。假如不法分子利用深度伪造技术造谣,就可能引起社会恐慌。同时,事物的发展不能离开法律的约束,深度伪造技术的出现,对相关法律的更新、制定无疑也是一种挑战。
总的来看,深度伪造技术作为人工智能的发展分支,反映了人工智能向更高智慧的发展。而如何引导人工智能与现实、伦理协调发展需要大家不断思考,这个问题也许会始终存在,也许会在某个时机得到恰当的解决,我们一起拭目以待吧。
本文链接:https://www.bjjcc.cn/kepu/80921.html,文章来源:科普之家,作者:北京科学中心,版权归作者所有,如需转载请注明来源和作者,否则将追究法律责任!
下一篇:吃核桃到底能不能补脑?