机器的崛起：技术已经进化到超出人类的控制？

其他的一些理论则指责这些算法引发了危机。从数据中识别出的一种手法是，高频交易程序向交易所发送大量“不可执行”的指令——即指令中买入或卖出股票的报价远远超出正常价格范围，因此它们会被忽视。这种指令的目的并不是为了真正传达信息或者赚钱，而是为了故意给系统制造混乱，以便在混乱中执行其他更有价值的交易。许多从未要打算执行的指令实际上已经被执行，从而导致了市场剧烈的波动。

闪电崩盘现在是采用新技术的市场的一个公认特征，但人们对它仍然非常缺乏了解。2016年10月，算法对有关英国退欧谈判的负面头条新闻做出反应，在不到两分钟的时间里，英镑兑美元汇率下跌了6%，随后却几乎立即出现反弹。知道哪个头条新闻或者哪个算法导致这起崩盘事故，几乎是不可能的。2012年10月，一个乱七八糟的算法开始下达和取消订单，导致美国股市有4%的交易流量被吞噬掉。对此，一位评论人士讽刺地说，“这个算法的动机还不清楚”。

2013年4月23日下午1点07分，美联社向其200万关注者发出了一条推文：“突发新闻：白宫发生两起爆炸，巴拉克?奥巴马(Barack Obama)受伤。”这条消息的发出是因为美联社账号被侵入，隶属于叙利亚总统巴沙尔·阿萨德(Bashar al-Assad)的叙利亚电子军(Syrian Electronic Army)后来声称为此负责。美联社和其他的媒体记者很快就在网站上发出警告，称那条消息是假的。然而，面对传出的突发新闻，算法并没有这种鉴别能力。下午1点8分，道琼斯指数暴跌。在大多数人还没看到那条虚假推文之前，该指数在两分钟内就下跌了150点，而后又反弹至之前的水平。期间，该股票市场的市值一度蒸发了1360亿美元。

华硕Zenbo机器人。作为一款智能家居助手，Zenbo使用摄像头来防止撞到墙上，并使用扬声器和麦克风来响应用户的语音命令。

计算技术越来越多地被跨层级，越来越多地隐藏在我们日常生活中的物体当中，随着它的扩张，不透明性和不可预测性也会增加。三星在2015年推出的“智能冰箱”系列的一大卖点是，它们与谷歌的日历服务整合在一起，让用户可以直接在厨房里安排食品杂货配送。这也意味着，黑客如果能够访问当时并不够安全的机器，就可以读取用户的Gmail账号密码。德国的研究人员发现了一种方法，可以将恶意代码嵌入飞利浦支持WiFi的Hue灯泡中，然后恶意代码可以从一个灯泡装置传播到另一个传播装置，扩散到整个建筑，甚至是整个城市，让灯泡快速打开和关闭——在一种可能的情况下——还会引发光敏癫痫。这是托马斯·品钦(Thomas Pynchon)著作《万有引力之虹》(Gravity’s Rainbow)里的灯泡Byron所青睐的方法，这是小机器对其创造者的暴政进行的一场大起义。曾经虚构的技术暴力的可能性正通过物联网实现。

在金·斯坦利·罗宾逊（Kim Stanley Robinson）的小说《极光》(Aurora) 中，一艘智能宇宙飞船将一群人类船员从地球运送到一个遥远的恒星。这趟旅程需要花费好几辈子的时间，所以飞船的工作之一就是确保人类照顾好自己。当他们的脆弱社会分崩离析，威胁到使命的执行的时候，飞船会通过部署安全系统来实施控制：它能够通过传感器看到任何的地方，能够随意打开或密封船上的门，能够通过其通讯设备大声说话来引起人的身体疼痛，还能够使用灭火系统来减少特定的空间内的氧气水平。

这大致类似于现在来自谷歌及其合作伙伴的设备套装的运作：针对家庭安全的网络摄像机网络，智能门锁，能够给单个房间调整温度的恒温器，会发出刺耳警报声的火和侵入者检测系统。这意味着，任何一个成功的黑客都能够拥有像随意控制船员的Aurora或者反抗可恶的主人的Byron一样的能力。

在驳斥来自科幻小说作家的狂想的这类场景之前，不妨再想想证券交易所中的那些流氓算法。这些并不是孤立事件，而是复杂系统中的日常事件。那么问题就变成了，在更广泛的现实中，流氓算法或闪电崩盘会是什么样呢？

比如，它会不会像恶意软件Mirai那样呢？2016年10月21日，Mirai使大片互联网瘫痪了几个小时。当研究人员深入研究Mirai时，他们发现它瞄准那些安全性不足的联网设备——从安全摄像头到数字录像机——然后把它们变成了一群机器人。在短短几周内，Mirai感染了50万台设备，它只需要感染一小部分的设备就可以使得重要的网络瘫痪数小时。

2008年，伊朗总统艾哈迈迪 · 内贾德（Mahmoud Ahmadinejad）在探访位于纳坦兹的核设施。

事实上，Mirai看起来完全不像Stuxnet，后者是2010年在水力发电厂和工厂装配线的工业控制系统中发现的另一个病毒。Stuxnet是一种军用级别的网络武器；在进行解包分析时，它被发现是专门针对西门子离心机的，当它遇到一个拥有特定数量的此类机器的设施时，它就会爆发。那个数字对应于一个特定的设施：在伊朗的纳坦兹核设施。一旦启动，该程序会悄悄降解离心机的关键部件，导致它们崩溃并破坏伊朗的铀浓缩计划。

该攻击显然取得了部分成功，但这种攻击对其他受感染设施的影响尚不可知。直到今天，尽管有明显的嫌疑，但没有人知道Stuxnet来自哪里，或者是谁制造的。也没有人知道是谁开发了Mirai，或者它的下一个版本可能来自哪里，但它现在有可能就在你办公室的闭路电视摄像头里，或者在放置于你厨房角落的支持WiFi的水壶里。

（编辑：威海站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!