【芯论语】盘点近年人工智能的发展状况,看某些人工智能技术的是与非（4）

四、人工智能带来的是与非

人类经历了原始社会、自然文明社会，走过了机械化和电力化的工业社会、计算机化的信息社会，正在走向人工智能的智能社会。每次技术革命都会给社会进步带来飞跃，例如机器和电力带来了生产力的大幅提升，化学带来了生活的丰富多彩，网络带来了通讯交流的便利化，等等。但同时，新技术革命也会带来许多负面影响，例如手工业者失业、资源过度浪费、环境污染、电讯诈骗猖獗等。

同样地，发展AI可以增强人类智慧和能力，必然会给人类生活带来翻天覆地的变化。但同时负面影响也不容小觑。本文关注的是AI技术中，“无中生有”的技术可能给社会管理带来的挑战。这类技术包括1.PhotoShop的AI抠图换背景技术；2.仿声语音合成技术；3.视频换脸Deepfake技术。

1.PhotoShop的AI抠图换背景技术。对于熟悉Photoshop(简称PS)的摄影人来说，为了对照片调色或者换背景，经常要对人物或者主体进行抠图，然后再通过换背景来个“移花接木”。PS手工抠图不但费时费力，抠图边缘也很难做到完美，特别是发丝与背景交织一起，抠图难度很大。所以修改后的照片如果仔细看，多少都会露出修改的丝蛛马迹。2018年以后的PS版本增加了基于机器学习(ML)的AI智能抠图功能，只要一键就可以完成抠图，特别是把人物边缘包括蓬乱的发丝处理的恰到好处，可以做到“毫发无损”。AI智能抠图给摄影人员做照片后期处理带来福音，同时也给不法人员制作“无中生有”的照片提供了强有力的伪造工具[7]。

图18. PS的AI智能抠图功能的演示动图

(来源：参考资料7)

图19. 毫发无损的AI智能抠图的例图(来源：网络图片)

2.仿声语音合成技术：目前，大家常用的汽车导航软件都配置了许多明星、名人和播音员的导航语音包。因为播报的路名地名极多，时常也要更新变化，所以这些语音包并不是真人在录音棚录制的，而是采用AI语音合成技术自动生成的。如果该技术生成导航语音包之前征得了被仿制人同意，这是仿制；如果未征得同意，这种仿制就变成了伪造。特别是，这种技术也可能用于非法目的，例如金融诈骗、报复和诽谤等。

3.视频换脸Deepfake技术：最初Deepfake是一名AI程序员为了娱乐目的，专为成人视频“换脸”而开发的AI黑科技。目前已经成为免费开源的软件，并被广大程序员进一步完善成熟。它可以用于影视制作、合成主播、娱乐短视频等应用，也可以被不法人员用于“无中生有”地伪造视频，用于敲诈、报复和诽谤等目的。网上很多人呼吁，应该对这类AI黑科技加强监管。

据报道，2018年4月，印度女记者Rana Ayyub遭到了她写的纪实报道的当事方疯狂报复。当事方用Deepfake伪造了她的性爱视频，在网络上大肆传播，给女记者及家人造成严重伤害。2019年3月，犯罪分子利用Deepfake技术冒充英国某能源公司CEO，成功诈骗到22万欧元。2019年6月13日，网上曝出马来西亚经济部长阿兹明.阿里(Azmin Ali)同性关系的视频，曾经轰动了整个马来西亚，后来证实这个视频是利用Deepfake伪造的假视频。

图20. Deepfake让爱因斯坦复活，号召大家保持距离，勤洗手，对抗新冠病毒(来源：网络图片)

图21. 《钢铁侠》女演员艾米.亚当斯(左)换上了尼古拉斯.凯奇的脸(右)(来源：网络图片)

以上这些“无中生有”的AI技术对“有照片、有录音、有视频就有真相”的真伪鉴别模式造成了极大冲击，使人们失去真伪的辨别能力。今后，历史资料和证据档案中还需要保存照片、录音和视频作为证据吗？这些AI黑科技是科学家和社会管理者都需要正视的问题。

通常情况下法律出台总是滞后于现实需要。典型例子就是电信运营商早期非实名大量发卡，推出所谓虚拟运行商专号、号码“任意显”等功能，造成了早期城市满大街“牛皮癣”小广告泛滥；也造成了长期以来的电信诈骗案层出不穷。不但给市容和受害人造成很大伤害，而且浪费了大量的城市保洁和公安干警的精力。因此，建议今后在重大革命性技术出现和发展初期，科技界应积极配合法律界及时地跟进研究和预判，并配合立法机关做好立法的前期准备。国际社会应对“无中生有”的黑科技严加管束，但也无需“一杆子打翻一船人”，对这些黑科技有益的方面也应该加以保护。

结语：近年AI技术经过AlphaGo等事件的广泛科普后，已经深入人心。目前正在从AI深度机器学习的高潮中沉静下来。但是，各个AI分支的研究还将会不断深入，技术应用也正在被产业界深度挖掘，不断成功落地应用。科学家预计，第三次AI技术发展浪潮可能会从类脑AI技术的方向突破。人类大脑的奥秘亟待破解，AI技术分支中的知识体库、思维体系的基础研究也亟待加强。开发出有知识内涵、有思想意识、受人管控、能力强大的AI系统才是AI技术发展的终极目标。

参考资料：

1.IBM Watson，百度百科：https://baike.baidu.com/item/Watson/3754014?fr=aladdin

2.科普中国，知识库，百度百科：https://baike.baidu.com/item/%E7%9F%A5%E8%AF%86%E5%BA%93/217934?fr=aladdin

3.youzhouliu，残差学习，152层网络，微软夺冠2015 ImageNet计算机视觉识别挑战，CSDN博客：https://blog.csdn.net/youzhouliu/article/details/50277721，2015.12.12

4.snow2know，百度、搜狗、讯飞同时宣布语音识别准确率达到97%，他们是怎么做到的？CSDN博客：https://blog.csdn.net/snow2know/article/details/53858131，2016.12.24

5.科学画报，AlphaGo战胜了李世石和柯洁，如今败给了“自己”，搜狐：https://www.sohu.com/a/199792158_170823，2017.10.23

6.曹纪乾，人工智能的五大核心技术，CSDN博客：https://blog.csdn.net/sergeycao/article/details/75254630，2017.7.17

7.智云科技传媒，PhotoShop更新AI智能抠图黑科技，整个抠图过程只需5秒？搜狐：https://www.sohu.com/a/219578766_653557，2018.1.29

8.Today in History，历史上的今天，IBM深蓝超级计算机击败国际象棋世界冠军，搜狐：https://www.sohu.com/a/231176382_100170370，2018.5.11

9.引力空间站，英伟达做了一个超级逼真的人脸生成AI系统！搜狐：https://www.sohu.com/a/283227222_100095143，2018.12.21

10.豫见创客教育，2018年度AI（人工智能）十大热门事件盘点，搜狐：https://www.sohu.com/a/286668493_100222568，2019.1.7

11.云南信息报，电信诈骗的特点及原因分析，新浪网：https://t.cj.sina.com.cn/articles/view/1668928944/6379d5b002000dvza，2019.1.22

12.天极网，Google Duplex正式登陆苹果iPhone，同时适配更多安卓机型，百度：https://baijiahao.baidu.com/s?id=1629861394160161963&wfr=spider&for=pc，2019.4.4

13.人工智能学家，张钹院士：人工智能技术已进入第三代，CSDN博客：https://blog.csdn.net/cf2SudS8x8F0v/article/details/90986936，2019.6.5

14.梁梦麟，华为昇腾 910AI 芯片发布，这应该是目前性能最强的 AI 芯片，爱范儿：https://www.ifanr.com/1251420，2019.8.23

15.勇士学不会，阿里含光800芯片到底有多牛？知乎：https://www.zhihu.com/question/347692315/answer/835298105，2019.9.25

16.奇艺魔方格，机器人也学会单手解魔方了？OpenAI的仿人机器手Dactyl简介，哔哩哔哩：https://www.bilibili.com/video/av71483492，2019.10.17

17.AI报道，快讯！OpenAI仿人机器手Dactyl通过“自学习”完成单手解魔方，百度：https://baijiahao.baidu.com/s?id=1647721593698928015&wfr=spider&for=pc，2019.10.18

18.郭少悲，DeepFake入门了解，简书：https://www.jianshu.com/p/fdaf464f7f0e，2019.11.5

19.新智元，Deepfake有什么用?，知乎：https://www.zhihu.com/question/382367348/answer/1140725612，2020.4.9

20.星辰大海路上的种花家,黑科技DeepFake，上线五天就遭全球唾弃，这技术到底有多邪恶？搜狐：https://www.sohu.com/a/406281820_100267485，2020.7.7

21.宝珠道人，近两年，人工智能有哪些有趣的进展？知乎：https://www.zhihu.com/question/398324972，2020.7.16

22.太平洋电脑网，什么是GPT-3，它将如何影响人们目前的工作？百度：https://baijiahao.baidu.com/s?id=1672711452430921198&wfr=spider&for=pc，2020.7.20

23.桔了个仔，近两年，人工智能有哪些有趣的进展？知乎：https://www.zhihu.com/question/398324972/answer/1384698890，2020.8.5

24.机器之心Pro，清华张钹院士专刊文章：迈向第三代人工智能，百度：https://baijiahao.baidu.com/s?id=1680147176936442040&wfr=spider&for=pc，2020.10.10

25.视知TV，Deepfake到底有多可怕？哔哩哔哩：https://www.bilibili.com/video/av245980044，2020.12.31

26.460 亿个晶体管！7nm工艺，寒武纪首颗 AI 训练芯片思元290 量产，微信公众号【创芯老字号】，2021.1.21