被工信部要求自查整改！一夜爆红的AI换脸App“ZAO”彻底降温

本篇文章2296字，读完约6分钟

9月4日，工业和信息化部正式发布消息。9月3日，工信部针对媒体报道并被用户曝光的“zao”应用用户隐私协议不规范，向北京莫莫科技有限公司相关负责人进行了询问，并要求进行自查整改。

在不到一周的时间里，“早”，一个人工智能的变脸应用，经历了巨大的起伏，从闯入社交圈到陷入舆论漩涡。

在这背后，被称为霸王条款的用户协议可能不是问题的焦点。一些业内人士指出，真正应该担心的是，当人工智能强大到足以成为真正的人工智能时，当深度学习的操作门槛越来越低时，当技术突破底线时，用户如何保护自己的隐私和个人信息安全。

1 酷“zao”

天空调查显示，“枣”主要由成立于2017年9月20日的长沙深集成网络技术有限公司经营，由海南卡妙网络技术有限公司100%控股，后者分别由王力和雷拥有50%股权。王力是莫莫公司的董事、总裁兼首席运营官，雷梁潇是莫莫公司的联合创始人。

今年7月，长沙深集成网络技术有限公司发生了股东变更。变更前的股东是北京莫莫科技有限公司..

事实上，“早”是从Momo迅速孵化出来的产品。它上周末在社交网络上刷了一下，但是仅仅一个大热天之后，越来越多的疑问出现了。

首先，一些用户发现“早”的用户协议中有大量的霸王条款，可能会对用户的隐私和信息安全造成危害；随后，越来越多的用户开始担心人工智能换脸可能被用于支付人脸，从而侵犯用户的财产安全和肖像权。

用户的质疑和抵制很快给“早”泼了一盆冷水，工信部要求的自查整改无疑彻底冷却了“早”。

据官方消息，工业和信息化部要求莫莫公司相关负责人严格按照国家法律法规和相关主管部门的要求组织自查整改，依法收集和使用用户个人信息，规范协议条款，加强网络数据和用户个人信息的安全保护。

同时，莫莫公司应进一步加强新技术和新服务的安全评估，并采取有效措施，积极防范使用自身业务平台时的电信网络欺诈等潜在风险。

据媒体报道，“早”运营团队9月4日回应称，自启动以来，一直与各主管部门保持积极顺畅的沟通，将严格按照法律法规、各主管部门的要求和更严格的标准，全面加强内容管理，完善各项管理机制，确保用户个人信息和数据的安全。

2

敏感的隐私问题

8月31日，它突然成为一个非凡的产品，很快有人发现“早”的用户协议中有不适当的条款。

《用户协议》第6 (2)条提到，如果用户将视频内容中的面部替换为自己或他人的面部，则用户同意或确保肖像权利持有人同意授予“zao”及其关联公司在全球范围内完全自由、不可撤销、永久、可分许可和可分许可的权利，包括但不限于:您或肖像权利持有人包含在肖像资料(如面部照片、图片和视频资料)中的肖像权利，以及技术的使用

北京市康达律师事务所律师晓寒向《国际金融新闻》记者表示，“早”应用用户协议中的这一条款显然属于《合同法》第40条规定的免责并加重用户责任的无效格式条款。

晓寒表示，简单的用户协议并不构成对用户隐私和肖像权的侵犯，但如果app利用用户或毫无戒心的第三方的照片和视频等上传资料牟利，或泄露权利人的个人隐私，造成相关权利人的权利受损，则涉嫌侵犯隐私和肖像权。

由于大量网民的疑虑，9月3日，“早”的官方微博发布了四条指令:“早”不会存储个人面部生物特征信息；“早”呈现的“变脸”效果是一个通过后技术叠加实现的虚构形象，没有采集到个人生物特征；使用“造”不会产生支付风险；如果用户删除信息或取消账号，“zao”将根据相关法律法规删除相应信息。

然而，律师们认为，当该产品发布时，“早”侵犯他人肖像权的风险已经存在。晓寒说，“枣”变脸应用程序为用户提供各种明星的肖像资料。如果未经肖像所有者的同意，该应用被用于营利，则被怀疑侵犯了明星的肖像权。

3

警惕道德风险

在“赵无极”应用中，用户只需上传一张照片，就可以把赌神周润发、燕子赵薇和野蛮女友全智贤变成自己的面孔。就像“只需要一张照片，玩世界最好的节目”的口号一样，“造”对名人效应有着深刻的洞察和好奇心，并迅速吸引了大量用户体验“明星梦”和“名人梦”。

对于许多“高级”互联网用户来说，用人工智能代替死灵并不陌生。许多人在今年年初第一次看到这项技术。有人在《射雕英雄传》中把朱茵的脸改成了杨蜜，并把它贴在了网上。当时，网民们惊呼几乎没有不服从的感觉。

对于更熟悉人工智能的人来说，人工智能变脸已经在国外流行了好几年。2017年，一位名叫deepfakes的程序员使用人工智能工具和机器学习算法，将明星的脸与色情视频演员的脸进行交换。许多欧美著名的女明星被招募。

由于受害者的抱怨和质疑，假货的报道被封杀了，但发展方向变得越来越严重。这项技术的代码是由开源软件直接放在github上的，人工智能变脸技术被命名为“深度假货”。

如今，通过开源工具，一系列的人工智能变脸和脱衣服程序如fakeapp、faceswap、deepfacelab和deep裸体程序被推出。虽然这些网站宣称它们只涉及人工智能技术研究，不会滥用和传播涉及色情、政治等的非法音频和视频文件。在人工智能变脸的背后，大量涉及隐私、版权和道德的恶性事件正在发生。

例如，当搜索深度假货时，网站会自动推荐花哨的超链接，而女明星会首先受到伤害。更重要的是，人工智能变脸已经形成了一条黑色的生产链。记者发现，在二手平台上，一些卖家提供明星变脸的色情视频，甚至可以根据买家的要求定制。

“造”的负责人没有说它的人工智能变脸技术源于假货，但它们非常相似。此外，“zao”看起来像一个手机应用程序，所以用户不需要能够写程序或从电脑下载软件来改变面孔。人工智能人脸变换的操作门槛大大降低，这意味着制作非法视频的难度也降低了。