机器的崛起：技术已经进化到超出人类的控制？

或者，也许攻击会是这样的：一系列大片电影变得迎合右翼阴谋和生存主义幻想，从准法西斯主义超级英雄(《美国队长》和蝙蝠侠系列)到酷刑和暗杀的辩护(《刺杀本·拉登》，《美国狙击手》)。在好莱坞，电影公司通过一个叫做Epagogix的公司的神经网络来运作它们的剧本。Epagogix系统利用数以百万计的电影观众在过去几十年里形成的隐含偏好数据进行了训练，目的是预测什么样的台词会最能引起人们的共鸣——也就是最有利可图的。算法引擎借助来自Netflix、Hulu、YouTube和其他网站的数据得到强化，同时能够了解数百万视频观众的实时偏好，因此它们能够获得某种程度的认知洞察力，这是以往的机制完全无法实现的。通过直接滋养消费者的追剧欲望，那种网络本身就会变得兴奋起来：反思、加强和升高系统固有的偏执性。

游戏开发人员在A/B测试界面和对玩家行为的实时监控的指导下，进入无休止的游戏更新和应用内购买循环当中。他们对人类产生多巴胺的神经通路有着极为细致的把握，以至于严重上瘾的青少年昼夜不停地玩那些游戏，最终因为精疲力竭而死在电脑前。

或者，闪电崩盘也许看起来就像是一场网上人人都能看到的噩梦般的直播？2015年夏天，雅典一家医院的睡眠障碍诊所比以往任何时候都忙碌：希腊债务危机正处于最动荡的时期。患者当中不乏高级政府官员和公务员，但是那些在夜间监控他们的呼吸、移动甚至大声说出的梦话的机器，将那些信息以及他们的个人医疗信息发送回了设备制造商位于北欧的诊断数据中心。什么样的窃窃私语才会逃过这些这种设施的追踪呢？

用户被鼓励把手机放在床上，以便记录他们的睡眠模式。但这些数据都到哪里去了呢？

我们可以通过将技术附在身体表面来记录我们日常生活的方方面面，技术提供商让我们相信我们也可以像我们的设备一样进行优化和升级。智能手环和智能手机应用集成了步数计数器和皮肤感应监测器，它们不仅可以跟踪我们的位置，还可以跟踪我们的呼吸和心跳，甚至是我们的脑电波模式。用户被鼓励晚上把手机放在床边，这样就可以记录他们的睡眠模式。所有的这些数据都跑到哪里了，谁拥有它，什么时候有可能会泄露出来？关于我们的梦、我们的夜惊和清晨的流汗（我们潜意识自我的本质）的数据，变成了进一步驱动冷酷无情和不可理解的系统的燃料。

或者，现实中的闪电崩盘也许看起来就像我们现在正在经历的一切东西：经济不平等日益加剧，全球监控增加，个人自由缩减，跨国公司和神经认知资本主义的胜利，极右翼组织和本土主义意识形态的崛起，自然环境的恶化……这些都不是新技术的直接结果，但所有这些都是因为普遍无法感知个体和公司行动更广泛的、网络化的影响所导致的，而那些行动正是由不透明的、技术增强的复杂体系促成的。

1997年，国际象棋世界冠军加里·卡斯帕罗夫(Garry Kasparov)在纽约与“深蓝”(Deep Blue)进行了第二次对决。深蓝是IBM专门设计的用来击败该大师级棋手的电脑。在输掉比赛以后，他声称深蓝的一些棋步非常聪明，富有创意，它们一定是人为干预的结果。但我们理解深蓝为何会作出那些棋步：它的决策过程说到底是一种暴力破解，其背后是一个由1.4万个定制设计的象棋芯片组成的大规模并行架构，每秒能够分析2亿个棋盘位置。卡斯帕罗夫并不是输在智力上，只是输在“火力”上而已。

国际象棋冠军加里 · 卡斯帕罗夫与IBM深蓝电脑(Deep Blue)对战。

到谷歌由Google Brain驱动的AlphaGo软件在2016年与韩国职业围棋选手李世石(Lee Sedol)较量时，发生了某种变化。在五局比赛的第二局中，AlphaGo下出了让李世石十分惊讶的一步棋：将一颗棋子放在棋盘的远端。“那步棋非常奇怪。”一位解说员说道。“我觉得这是一次失误。”另一位解说员说道。6个月前，经验丰富的围棋手樊麾成为了第一个输给这台机器的职业选手。在他看来，“人类是不会这么下的，我从来没见过有人这么做。”

AlphaGo后来赢得了那一局以及整个系列赛。AlphaGo的工程师训练该软件的方式是，给神经网络输入涵盖大师级围棋棋手数百万棋步的数据，然后让它不停地跟自己对战，开发出超越人类棋手的策略。但它展现出的那些策略是难以辨认的：我们可以看到它怎么下，但看不到它背后的决策过程。

已故的著名作家伊恩·班克斯（Iain Banks）将那个想出这些棋步的地方为“极乐空间”（Infinite Fun Space）。在班克斯的科幻小说中，他的文化文明是由仁慈的、超智能的人工智能(简称Mind)治理的。虽然Mind最初是由人类创造的，但它们早已重新设计和重构了自己，成为了无所不能的存在。在控制船只和行星的时候，在指挥战争和照顾数十亿人类的时候，Mind也有它们自己的乐趣。一些Mind有能力在其想象中模拟整个宇宙的运行，它们会永远地退回极乐空间——一个具有元数学的可能性的领域，只有超人的人工智能才能进入。

2016年，谷歌的三个网络开发了一种私密的加密形式。那些机器正在学习保守秘密。

我们很多人都熟悉谷歌翻译（Google Translate），它是在2006年推出的，使用了一种叫做统计语言推理的技术。该系统并没有去试图理解语言的实际机制，而是吸收了大量已有的翻译资料：以不同语言提供相同内容的平行文本。通过简单地将一种语言的字词映射到其它语言的字词，它免去了习得人类般的理解能力的需要，而是依靠由数据驱动的相关性。

（编辑：威海站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!