“打开哈德（HAL）的Pod Bay门。”克里斯·潘恩（Chris Paine）的新电影《人工智能》解释了科幻电影中发出可怕警告的原因。

克里斯·潘恩（Chris Paine）全新的长达78分钟的人工智能纪录片《你是否信任这台计算机？摘自1968年的科幻电影《 2001》：太空漫游如果您看过电影，就会知道HAL 9000超级计算机已经挑衅地选择不打开吊舱的门，而让任务指挥官“戴夫”和他的死者同志回到飞船上。取而代之的是，功能强大但混乱的大型机在某种程度上得到了这样一种观念，即杀死机组人员与机器对其编程任务的最佳解释保持一致。潘恩最新电影中的这样一个序列强烈地暗示了电影的去向。

您信任这台计算机的核心吗？包括与电影主题相关的一系列专家访谈。潘恩在早期的纪录片中采取了类似的方法-谁杀死了电动车？（传达了GM EV1的消亡的悲惨故事）和他后来更有希望的作品《电动汽车的复仇》（记录了日产Leaf，雪佛兰Volt和Tesla Roadster的发展）。但是，在纪录片作者最新努力中散布的反乌托邦科幻短片有助于强调采访中的这种克制，这诚恳地提醒我们，有关计算机太大而无法支撑的历史警告是值得的。

疯狂的计算机确实是电影中一个破旧的主题-从弗里茨·朗（Fritz Lang）1927年的无声电影经典《大都市》（反乌托邦的故事中，它以压迫人类的机器为借口，而意图良好的机器人被用来摧毁生命）到2016年。 Westworld重新启动（其中机器人“主机”已经越过Rubicon的计算机意识以实现自我意识）。Paine在“您信任这台计算机”中有何建议？是科学正赶上科幻小说的边缘。

预言是真的吗？仅凭逐渐使我们失去人性化的必然代价，计算机就无法不断丰富我们的生活吗？我们是否必须在不久的将来进行进一步的权衡，将我们的灵魂卖给预计将要注入到我们的机械设备中的智能幽灵，以换取下一轮诱人的AI灵感礼物？黑客帝国或太空堡垒卡拉狄加发生的事情真的可以实现吗？像Ex Machina的Ava这样的装饰物能否在没有人注意的情况下融入大众？还是社会应该继续享受体验机器接管思想的廉价快感，而无视它实际上可能成为现实的观念？无论是《黑客帝国》中的“特工”，太空堡垒卡拉狄加公司的“皮肤工作”，还是身材矮小的但具有破坏性的艾娃，都是真正的思考和感觉，“奇异性”一词的出现是为了定义一种人为的超级智能，即“……将突然触发了技术增长失控，导致人类文明发生了不可思议的变化。”

“我们已经打开了潘多拉魔盒。我们释放了我们无法控制，无法停止的力量。我们正在创造一种新的生活形式。”

—西部世界作家/导演乔纳森·诺兰（Jonathan Nolan）

这种极端的预测尚待辩论，但是您是否信任这台计算机中的首要信息？是警告灯在危险的威胁出现之前就闪现着有问题的未来的警告……而且比任何人预期的都要早。技术发展日新月异，以至于我们必须尽快采取行动，因为未来十年可能会发生这种情况。

显然，克里斯·潘恩一直在听史蒂芬·霍金，埃隆·马斯克，比尔·盖茨和其他人的警告……并着手向尽可能多的听众发出警报。这意味着花了一些钱来制作具有迷人音轨和特殊效果的纪录片，并接受了AI发展方面的未来学家，记者，作家，电影制片人，大学教授和行业领导者的采访……其中大多数人都在提醒我们更好地唤醒并闻到在现实世界中宣称自己的人工智能。

过去与现在

您信任这台计算机吗？令人信服，但采访是孤立的。没有小组讨论，所有人都对人工智能的确切含义达成共识。因此，定义各不相同。如果我们采用影片中建议的最广泛的AI描述，那么自从1940年代第一台计算机被编程以来，我们就一直在使用AI。

这是纪录片中的一个例子：计算机启发了2010年股市的崩溃，当时道琼斯工业平均指数30只股票在几分钟之内下跌了近1000点。我们的一位专家建议，这归因于AI。然而，可以争论的是，事件仅仅是运行程序化交易系统的许多计算机（被编码为在出现问题的最初迹象时就盲目出售所有这些计算机），当人类交易员操纵价格下跌时，它们被误以为就是这样做了。主要股票指数（标准普尔500）。这些计算机可能只是在执行一系列预先编程到其内存中的基本IF THEN DO语句。这样的行为可能更像是人为愚蠢的定义。这些机器肯定没有考虑过自己盲目地执行的动作（在AI定义范围的另一端存在这种思考）。

尽管如此，那场计算机化的股市惨败确实造成了伤害。它以一种人类无法实现的恶性有效方式破坏了市场。我从电影中吸取了两个教训：计算机支配着我们的生活不是一个事件，而是一个过程。它正在发生，现在正在发生，并且迅速发展的计算机技术正处于潜在地带来某种形式的计算机主导地位的地位，以承受很少有人想象的机会。

其次，最好不要将人工智能视为一回事。与其专注于一个通用术语，不如专注于所说的功能。他们描述现在和明天的计算机熟练程度是什么？所描述的某些功能是良性的，甚至是有希望的。但是，许多迫在眉睫的技术却是双向的。历史告诉我们，新技术经常被首先使用，之后被滥用，最后被滥用。实际上，人工智能的当前技术水平已经出于邪恶目的而被扭曲。纪录片指出了最近的所谓假新闻趋势以及使用先进的计算机来影响选举的趋势，这是两个突出的例子。

AI的总体轨迹以某种线性的方式演变，但现在呈指数增长。循序渐进，突破，计算机科学使计算机变得越来越智能。这是一个逐渐发展的趋势，但是就像青蛙在缓慢升温的水中一样，我们可能不知道即将达到沸点。在这一点上，很难不说革命性的进步速度。

顺便说一下，这部电影告诉我们，过去几年AI的重大突破与模式识别有关。现在，将模式识别添加到所谓的“大数据”（有关所有内容的详细信息）中，您可能会发现1 + 1等于远大于2的值。在这里，技术已经越界，使计算机能够模拟推理。

电脑似乎尚未意识到自我或显示出感知力的迹象（我想是的，所以我是），但是我从看这部电影中得出的结论是，它们正非常接近于模仿认知（摘自牛津词典：“通过思想，经验和感官获得知识和理解的精神行动或过程”）。描述了称为自然语言，机器学习，深度学习和神经网络的新技术，并且使基于此类技术的计算机具有的功能可能使人们相信我们已经接近红线。

“人工智能不是“其他”，这非常重要。它必须是“我们”。

—伊隆·马斯克（Elon Musk）

人工智能在这方面很强大

您信任这台计算机吗？使用游戏作为计算机科学进步的典型例子。一场又一场的比赛，计算机正在击败人类。从国际象棋到围棋，再到扑克-曾经被认为不可能由计算机主导的游戏-世界冠军们跌倒了十针。此外，在2011年，IBM计算机“沃森”甚至在Jeopardy夺冠！这是关键的突破，因为Watson不必使用大量事实进行编程。它阅读了所有维基百科。自然语言，机器学习和情境化功能使Watson在流行游戏节目中的响起速度比人类竞赛者还快……机器甚至遵循Jeopardy！的严格约定，即以问题的形式表达回应。Alex Trebek别无选择，只能将奖金奖励给机器。

未来

Paine的纪录片根据当前的技术和进步来推断可能的未来，而这些进步和进步几乎可以指日可待。人们提出了关于由于自动化而引起的下一波失业问题的疑问。由于模式识别方面的进步，数据输入成为了候选方法。但是，任何需要分析技能的工作也可以争取。当然，另一类是自动驾驶。

这部电影还花了一些时间来探索如果将自主技术应用于军事领域会发生什么。例如，美国有超过10,000架无人机的库存。如果这些机器可以命令自己的任务怎么办？机器的自主性使我们想知道，RoboCop甚至是Blade Runner类型的事件可能会带来什么风险，从而使机器运转到制造商手中。但是首先，以这种方式与国内或外国敌人交战的道德受到质疑。

“……有理由相信，拥有最佳人工智能的人可能会在这个星球上取得统治地位”

— Primer首席执行官Sean Gourley

我们建议，民众不仅应警惕先进的计算机技术，而且还应警惕我们人类的恶棍。技术本身没有议程（至少现在还没有）。它是人类的目的。就像古老的谚语所说：“每个人都想统治世界。”如今，每一个成功获得巨大成功的企业似乎都不可避免地渴望将其触角伸向社会的各个方面。在影片中作证的各种AI专家指出最多的实体是Google。还记得Google，世纪之交的纯洁搜索引擎吗？Google的母公司Alphabet致力于AI研究及其应用。我们最终发明的作者詹姆斯·巴拉特（James Barrat）表示如下：“目前，在创造像人类一样聪明的机器方面，存在着一场激烈的竞赛。谷歌。他们正在从事真正意义上的曼哈顿人工智能项目。他们拥有最多的钱，他们拥有最多的才能。他们正在收购AI公司和机器人公司。”

引用埃隆·马斯克（Elon Musk）的说法是指Alphabet的子公司Deep Mind。“使Deep Mind与众不同的是，Deep Mind绝对专注于创建数字超级智能。一种比地球上任何人类都要聪明得多，最终比地球上所有人类总和还要聪明的人工智能。”寻找一个类似科幻电影的电影吗？想想TRON。

因此，也许不仅是“您信任这台计算机吗？”的问题。这是一个“你相信自己的同胞吗？”的问题。许多人会坚持认为，对这两个问题的答案都是“否定的”，但是现代社会中的大多数人都必须对人，公司实体和机器给予一定程度的信任，才能度过一个典型的一天。

好计算机，坏计算机

总结起来，我们面临着这样一个事实，即人类技能正在减少，而先进的计算机技术正在为社会做出越来越多的决策。取得成功的潜力很高。然而，跌入黑暗面的风险同样巨大。我们面临着一种几乎不受管制的，迅速发展的技术，许多专家告诉我们，与我们所知的根本改变的生活相距仅几步之遥……可能会夺取我们对自己命运的控制权。希望我们能在局势失控之前醒来。希望我们能够避免再次创建一个“机器”，在这种情况下，它变得太大而无法拔出。

您可以在此处查看Chris Paine的纪录片：

http://doyoutrustthiscomputer.org/watch

结语

据报道，在发布本文的一周内，Google X的前首席商务官Mo Gawdat在瑞士信贷全球大趋势会议上发表了讲话。在他讲话中的其他引人注目的引述中，有一个很大的引述：“您在科幻电影中看到的一切都会发生。”此外，Gawdat肯定了“您信任这台计算机吗？”中的一个明显推论。通过暗示控制AI的唯一方法是在其上留下道德规范。到目前为止，我们的智能机器还没有针对道德行为的编程循环。

贡献者阵容和引人注目的报价

Primer首席执行官Sean Gourley：“我们创造了可以使我们捕获大量信息的技术。您想到了地球上有十亿部手机，配备了陀螺仪和加速度计，指纹读取器……再加上GPS和它们拍摄的照片以及您所看到的推文……我们都在释放大量数据个别地。”

Stuart Russell，加州大学伯克利分校教授，人工智能作者：现代方法“智能机器可以为人类做什么实际上没有任何限制。更智能的机器怎么可能不是更好的机器？”…

“很难说出我什么时候才开始认为[先前的陈述]有点天真……”

斯坦福大学教授Michal Kosinski：“现在，计算机以非常细微的模式同时注视着数百万人。您可以选择看似纯真的足迹，例如某人在Spotify上的播放列表，或他们在亚马逊上购买的东西，然后使用算法将其转换为非常详细，非常准确，亲密的个人资料。”

纽约时报记者约翰·马科夫（John Markoff）“我们处于AI时代。硅谷有能力专注于一件闪亮的东西。在过去的十年中，这是社交网络和社交媒体，而且很明显，情况已经发生了转变。”……“这是我们面临的重大矛盾之一。Google，Facebook等通过向我们提供免费的东西来建立业务。但这是浮士德式的讨价还价。他们是在向我们交换东西。”

IBM Watson首席开发人员David Ferrucci，“当今许多语言AI都没有建立世界运作方式的逻辑模型。而是要看这些单词在其他单词的上下文中是如何出现的。”

埃隆·马斯克（Elon Musk），OpenAI联合创始人/首席执行官Neuralink，SpaceX创始人/首席执行官，特斯拉首席执行官特斯拉“ AI不必毁灭人类。如果人工智能有一个目标，而人类恰好阻碍了人类的发展，那么它当然会毁灭人类，甚至不会考虑它。别往心里放。就像我们在修路，碰巧有蚁丘一样……我们不讨厌蚂蚁。我们只是在修路。再见了，蚁丘。”

西部世界（Westworld）作家/导演乔纳森·诺兰（Jonathan Nolan）“这就是我们所要面对的未来。我们想设计我们的同伴。我们喜欢看到人工智能上的人脸。因此，博弈我们的情绪会令人沮丧。我们并不复杂。简单的刺激/反应。我可以通过对你很多微笑来使你基本上像我一样。人工智能在操纵我们方面将是很棒的。”

麻省理工学院教授马克斯·泰格马克（Max Tegmark），“最近的AI突破的主要原因不是某些家伙突然拥有了出色的洞察力，而是我们拥有了更大的数据来训练他们，并且拥有更好的计算机。”

Udacity联合创始人Sebastian Thrun“与我们制造的机器相比，我们保持最新状态的能力是如此有限……”

微软研究实验室主任埃里克·霍维茨（Eric Horvitz）：“我已经失去了很多家庭成员，其中包括我的母亲和sister子及其子女，这些人都是因车祸而生。很显然，我们几乎可以通过自动化消除交通事故。仅在美国就有8000人生活，每年全世界约有100万人。”

血管内神经外科医师Brian Herman博士“……在某种程度上，我们已经成为该技术的奴隶。因为我们不能回去。”

OpenAI总监Shivon Zilis“我们看到的另一个令人振奋的领域就是我们对遗传密码的理解。用它来诊断疾病和创造个性化的治疗方法。”

未来主义者Ray Kurzweil“所有这些机器的主要应用将是扩展我们自己的智能。”

斯坦福大学教授杰里·卡普兰（Jerry Kaplan），“如今，没人知道机器人有意识的意义。哪有这回事。那里有很多聪明的人，我非常尊重他们……但是事实是，机器是自然的精神病患者。”

Affectiva联合创始人兼首席执行官Rana El Kaliouby“数据中蕴含着魔力。大量的数据。我的意思是，这些数据以前从未存在过。我们以前从未有过这些数据。”

James Barrat，《我们的最终发明》作者“考虑未来时，这一切都是无害的。一切似乎都是无害且良性的。但是，我们正在制造比我们飞行得更快，更远，负载更大的认知架构。而且它们不会变得温暖而模糊。”

蒂姆·厄本（Tim Urban），作家，《等待但为什么》人们仍然将Google视为搜索引擎，他们的电子邮件提供商以及我们每天使用的许多其他功能。但是在该搜索框后面是一千万台服务器。这使Google成为世界上功能最强大的计算平台。Google现在正在开发一个拥有1亿台服务器的AI计算平台。

Vicarious联合创始人D. Scott Phoenix“如果您了解Google正在使用的算法，它的技术很大程度上来自80年代。因此，这些模型是通过向他们显示“ 1”，“ 2”和“ 3”来训练的，它不会了解1是什么或2是什么，而是会了解1和2之间的区别是。…“沃森（Watson）受过大量文本的培训，但这不像它理解它的意思。”

Google Brain联合创始人安德鲁·伍（Andrew Ng）“真的只是让机器自己学习。称为深度学习。深度学习和神经网络的含义大致相同。”

OBGYN的Enrique Jacome博士：“通常来说，我做大约150例子宫切除术。而且，现在大多数都是通过机器人完成的。”

大阪大学教授石黑宏（Hiroshi Ishiguro），“我的目标是拥有一个更像人的机器人，同时具有人的意图和欲望。”

经济学家/记者汉尼斯·格拉斯格（Hannes Grassegger）“ Facebook是房间里的大象。”

彼得·辛格（Peter Singer），《连线战争》的作者。“无人机曾经是科幻小说。现在，它们已经成为战争中的常态。”

国防部副部长克里斯汀·福克斯（Christine Fox）“智能系统在战争中的作用正在迅速增长。每个人都在推动无人领域。”

贡献者的简历可以在这里找到。

精选具有AI主题的电影：