人工智能以前所未有的方式改变着人类的认知。 当我们在轻松刷脸时， 可曾考虑过自己的隐私权利？ 而Deep Fake科技可以在Video 中让任何人说任何话，随意变脸时又将如何应对？ 本周的比推直播,我们有幸请到了Soteria创始人Ming Guo来和我们聊一聊这些激动人心的问题。

先介绍下Ming,

★区块链项目Soteria的创始人;

★曾是一位火箭专家;

★曾在硅谷担任软件工程师20年;

★在高性能算法设计，网络协议和交易系统业务方面有很多贡献;

★创业孵化投资人，共同创立深圳Make Mountain Accelerator,利用硅谷深圳资源帮助世界各地的智能硬件创业公司。

一 ，隐私有多重要？

比推：现在的大数据时代， 我们每个人的数据就是我们自己的一部分。比如手机可以说将是每个人identity 很重要的一部分。 数据越来越重要，我们的隐私越来越有可能成为公司追逐利润， 政府进行控制的资源。 在目前刷脸已经非常普及的情况下， 您认为我们需要有所顾虑吗？

Ming Guo：这是一个很严重的问题，隐私数据现在成为资源控制者盈利的工具，我们需要重视隐私保护。

比推：隐私重要吗？ 也有一些人觉得在大数据时代，牺牲一些隐私，换来公共安全的提升，犯罪率的下降是可以接受的。

Ming Guo：大数据时代对隐私的侵犯很快会超过我们的耐受程度。其“好处”其实是个伪命题，因为造成“隐私保护”问题的是目前的资源绑定信用经济体已经不可持续发展。

比推：为什么不可持续？

Ming Guo：因为我们经济发展的“动力”在消失，这是08年金融危机的一个表象，也是目前世界上民粹主义兴起一个原因。

当前资源绑定信用经济体下的互联网已经偏离了早期互联网的开放、社区驱动以及去中心化的精神，变成了所谓的“流量互联网” — 及大数据+万维网(Web)的双寡头垄断模式，以无底线侵蚀隐私、贩卖隐私做为基本的商业模式，成为一种把青少年（以及成年人）变成多巴胺僵尸的毒品经济。

万维网(web)是猎取和吸取隐私的前端，大数据是侵蚀和贩卖隐私的后端，这就是很多“独角兽”互联网经济背后的真相。在万维网和大数据的尽头，是绕不过去的隐私。

所以在当前这个互联网经济模式下谈“隐私保护”，其实是与虎谋皮，让狼群来保护羊群。

比推： 你提出“ 巨数据” 的概念，即日益“智能化”的日常生活中产生的海量数据。巨数据是高度隐私的数据 — 比如医疗和健康，行为。而且巨数据需要隐私计算，就是“计算”的输入 — “数据”，对参与计算的各方，交易的对手，是有“隐私保护”的，这样才能保护“数据主权”。这里面是否是需要区块链技术的确权和计算？

Ming Guo：巨数据和隐私计算和个人数字/数据主权是一种相互相生的关系。这里的“巨数据”，是指在我们当前高度自动化世界里生产出来的高度隐私的数据，比如：

1. 接近人的传感器，比如物联网产生的数据；

2. 接近人类行为和互动的数据；

3. “巨数据”是高度隐私的数据 — 比如医疗和健康，行为；你可能不介意你的“海淘”、“剁手”数据被亚马逊和淘宝收集变现（不分给你），但是你一定会介意，甚至恐惧你的医疗和健康数据被收割。

“巨数据”里这种高度隐私的数据我们也称之为“重隐私”的数据。“重隐私”数据的一个特点就是和我们的生物特征有很高耦合度的绑定，这也是来自于技术进步。

—因为在过去，由于技术的限制，隐私数据和生物特征的耦合度比较低，所以那个时代的隐私保护并没有今天这么迫切。

这种和我们生物特征耦合度比较低的隐私数据，可以称之为“轻隐私”数据，比如你在亚马逊上的“海淘”记录，你的互联网浏览记录等。和生物特征高度耦合的“重隐私”数据的一个典型例子，就是我们的“人脸”。

“人脸”这种和生物特征高度耦合的“重隐私”数据，一直具有“两重性”。一方面是我们的“重隐私”，另一方面又是我们人类成为社交性生物的一个重要“工具”。人脸是我们表达情感的最主要的工具（另外一个重要“工具”是声音/语言）。人脸的丰富表情可以传达更多、更丰富的信息，这是人类智能进化的一个重要体现。

比推：刷脸有可能让度出去的隐私有哪些？

Ming Guo：生物特征，也就是最“隐私”的隐私。人脸肌肉比地球上任何其他动物都要多：每半边脸上有22条“表情”肌肉。我们人类进化出的这个不同凡响的“社交智能”，让我们的“脸”成为一个社交工具。和我们另外一个社交工具—声音语言一样，脸成为一种“表达”的载体。

二， 任何人都可以变脸？

比推：刷脸出去的数据会有什么用途？

Ming Guo：刷脸的数据现在成为盈利的工具。但是每个人只有一个固定的脸面（虽然随着年龄段有变化），表达力还是有约束的。有时候我们会想，如果能够“变脸”该有多好啊！在互联网时代，我们的“社交”表达其实不是直接“传达”的，而是通过“数据”来传达的。所以如果能够有技术加工数据，我们的“脸”表达力会有一个飞跃。人工智能技术近年来的飞速发展，让我们的“脸”部表达力有了一个极大的飞跃。可以让你成为任何人、在任何场景真实再现。

比推：这个有点吓人。目前的deep fake 实际上已经做到可以在video中让任何人说任何话。

Ming Guo：是啊！很吓人，如果你多想想的话。这个魔术般的技术只不过是近年来高速发展的“人工智能”技术的一个应用而已。

比推：而且不仅仅是计算机专家，普通人凭一部手机就可以做到。因此也必然会带来大量社会问题。

Ming Guo：是的，技术是不会老老实实被关在笼子里的。

最近国内大热的ZAO换脸APP，就是来源于这个技术的一个开源软件“Deepfake”。这个技术“突破”点在哪里呢？

主要就是Deepfake突破了所谓的“恐怖谷”（Uncanny Valley)。

“恐怖谷”理论是这样的：

恐怖谷理论（另名诡异谷，英语：Uncanny Valley；日语：不気味の谷现象）是一个关于人类对机器人和非人类物体的感觉的假设。它在1970年由日本机器人专家森政弘提出，但「恐怖谷」一词由恩斯特·詹池于1906年的论文《恐怖谷心理学》中提出，而他的观点被佛洛伊德在1919年的论文《恐怖谷》中阐述，因而成为著名理论。

森政弘的假设指出，由于机器人与人类在外表、动作上相似，所以人类亦会对机器人产生正面的情感；直到一个特定程度，他们的反应便会突然变得极为负面。哪怕机器人与人类只有一点点的差别，都会显得非常显眼刺眼，整个机器人显得非常僵硬恐怖，使人有面对殭尸的感觉。可是，当机器人和人类的相似度继续上升，相当于普通人之间的相似度的时候，人类对他们的情感反应会再度回到正面，产生人类与人类之间的移情作用。

「恐怖谷」一词用以形容人类对跟他们相似到特定程度之机器人的排斥反应。而「谷」就是指在研究里「好感度对相似度」的关系图中，在相似度临近100%前，好感度突然坠至反感水平，回升至好感前的那段范围。

Ming Guo：以上关于“恐怖谷”的介绍来自于维基百科。

比推：刚才提到的换脸App ZAO明白告诉用户拥有使用其照片的权利。公众应该对此警惕吗？之前达不到过“恐怖谷”的能力时，我们可以分辨“真假”,难道以后真假难辨？

Ming Guo：ZAO的EULA就是在耍流氓啊。是啊，已经到这个时代的，待我一一道来。

2009年的大片“Avatar《阿凡达》“是第一次越过了“恐怖谷”的影片，就是因为在动作捕捉中用了更多的采样点。

现在的人工智能技术”Deepfake“是通过对巨量的数据进行“训练”得到的算法，已经可以很轻松地突破“恐怖谷”了。这也说明人工智能已经突破以前只有人类才能涉及的认知领域，我们生活的时代，真的要很不一样了。

ZAO换脸APP在开始病毒传播的前几天成了一个刷屏的爆款软件，因为它实在是太震撼、太好玩了，你可以用你的脸替换任何影视场景里的明星脸，过足过去只有明星才有的“看片”快感。

但是ZAO热了没几天，很多人缓过劲来，才突然觉得“细思恐极”— 能帮我换“明星脸”，难道不能用我的脸欺骗银行的人脸识别验证，然后卷走我的钱吗？！

这时我们才意识到，技术的进步真的是一把“双刃剑”—让我们“越来越爽”的技术，也会更加深入地侵犯到我们的隐私。特别是和我们的生物特征深度耦合的重隐私巨数据。

比推：是啊，而且人家是明着来，告诉你就是要用的。

Ming Guo：怎么办？我们不能坐以待毙啊。

比推：愿闻其详。

Ming Guo：目前对类似ZAO这种A.I.“换脸”技术带来的隐私安全问题的常见回答是（多数来自使用“刷脸”认证的银行等机构）：

这个技术目前还不足以骗过银行等地方使用的人脸识别软件。确实，目前拿着打印着你的照片的彩色激光打印纸在银行人脸识别前晃动可能还不行，而且比如苹果手机的刷脸解锁除了采集你的人脸图像数据意外，还会采集脸部的深度数据以及皮肤浅层的毛细血管数据，不是那么容易攻破的（据说一般双胞胎都解不了锁）。

That’s it? 这个说法也太坑人了吧。

这种答案显然不能让我们安心。你知道类似于“Deepfake”这类换脸软件的算法是怎么得来的吗？Deepfake是基于目前叫做“深度学习”的人工神经网络智能算法，特别是一类叫做“生成对抗网络”（GAN — Generative Adversarial Network）的算法，是这位斯坦福大学的学霸小哥提出的：Ian GoodFellow。

这是一个脑洞大开的算法：创造一个进化的虚拟环境，让机器生成两个互相对抗的算法进行博弈，一个模拟，一个判别：

你说这个图像是真的还是我造假的？

你太挫了，一点都不像！你输了！

这个呢？

不像！再来

这个呢？

嗯，有点像吧。。。

哈哈，你错了！我这个还是假的，你输了！

Ming Guo：这样游戏两方就在对抗中进化，直到造出“真实”得你不敢相信的图像。

很明显，如果我们把上述进化博弈游戏的一方换成人类，当人类的认知达到极限的时候，另一方的人工智能程序是否会超越人类？很有可能啊。

在这种“道高一尺，魔高一丈，人工智能一丈五”的游戏里，人类可以坚守到何时？很快，人类会发现，最好的算法就是把人类认知排除的算法，让人工智能对付人工智能。

然后我们会发现，这是一场人工智能的军备竞赛，谁有资源研发出来更强的人工智能算法，谁就可以暂时胜出。在我们这个资源绑定的经济体和社会里，最后只有拥有最多资源的垄断者可以玩这个人工智能军备竞赛游戏的能力，那些没有资源的人，即大多数人，都会成为失败者

比推：这是人工智能的深度学习？

Ming Guo：是的，深度学习。但是，如果有一天，不再参与竞赛的人类也许会被“人工智能”觉得多余，那一天将是一个可怕的日子。

比推：是的，人工智能的未来吉凶难料。Elon Musk 就对此表示非常担忧。

Ming Guo：是啊，到最后就是灾难，Elon Musk是从未来回来警告我们的！

所以，我们目前的资源绑定的经济体，根本不适应这个人工智能已经到来的时代。

Ming Guo：回到“换脸”对隐私保护的挑战的问题，我们需要做的，是换一个思路。

回到问题的另外一端：如果我们不想通过赢得对人工智能的进化对抗赛来解决问题的话，也许可以我们进化人类自己的经济社会的方式来做尝试？

“重隐私”的巨数据的一个特点是和我们的生物特征深度耦合。我们可以尝试进行“解耦合”的方向。

比如一个方向是把我们传统的单一“身份”和生物特征进行“解耦合。我们应该反思单一身份在我们社会和经济体里的作用。

互联网开始的信息革命把我们带入到一个无限可扩展的虚拟现实里，我们的现实世界早已经大大扩展了。

按照SSDE内生去中心化经济体的论述，我们的将来是一个包含人类思维空间的世界，里面可以创造出无数的虚拟空间，在这些空间里人类将真正主宰自己的命运，并且和人工智能并存，人工智能将成为这个无限世界里和思维的和人类平等的成员，没有谁能够奴役谁，因为这个世界足够大。

在每一个我们创造的空间里我们可以有无数的“分身”，我们不在需要单一的“身份”，也就不存在对“生物特征”的深度耦合的“单一身份”的需要。另一个“解耦合”的方向是数据”脱敏“。既然人工智能的新算法已经可以”以假乱真“，为什么我们不可以加以利用”以真乱假“呢？

”以真乱假“就是我们把带有我们生物特征的数据进行”脱敏“的方法，我们只是反过来使用人工智能算法而已。目前我们可以对“弱隐私”或“轻隐私”的数据进行简单的“脱敏”，但是“重隐私”数据的脱敏需要我们和数据的应用形式一起设计才可以。

在这些思路里，我们发现，其实路很难走，但是越往后越宽广

比推：这是否就需要区块链的技术？

Ming Guo：需要一个包括区块链技术进行更多迭代的新的技术基础设施，以及新的更广的思路：政治、经济的各个方面。

比推： 这在目前互联网巨头把持的大数据时代是很难实现的，那是否意味着未来的区块链并不是互联网时代的延续， 而是需要去重新构建一个世界， 但这样的可能性有多大？ 换句话说区块链技术会给人类社会带来像互联网那样的解构和重组吗？

Ming Guo：这是一个很棒的问题，问得很深入。是的，我认为区块链技术的方向并不是互联网时代的延续，我们需要构建一个新的世界。

可能性的问题，是一个生存与进化的问题。新的模式就想新的物种，如果有一点点可以生存的空间，就会生长。然后可能被大部摧毁，然后再找机会重新调整、长大。我们数一下，比特币“死过”差不多快200次了。

我认为区块链技术会进化成为新的模式，因为我们目前的很多区块链技术的努力方向还是在迎合这个资源绑定的信用经济体。大家会认识到我们需要新的经济模式，新的经济体。

比推：不过目前的互联网巨头一统江山，而且已经在涉足区块链领域。比如Facebook 的Libra, 区块链技术有可能像互联网那样改变世界吗？

Ming Guo：区块链技术如果找到正确的方向，例如SSDE – 内生去中心化经济体，不是改变世界，而是生长出一个新的世界。那比“改变”更要宏大。

比推：期待这一天的到来！感谢Ming !

Ming Guo：谢谢大家！我们今后可以继续探讨。

比推：好啊，今天Ming 的分享非常精彩，大开眼界。非常感谢！

作者 比推

本文来自比推bitpush.news，转载需注明出处。