财新传媒

精致但脆弱,这样的智能社会你担心么

2016年11月02日 10:24 来源于 财新网
可以听文章啦!
在智能社会,社会的运转依赖一个复杂程度已经呈指数级增长的智能系统,其一旦出现问题,要迅速完成检修、纠错,难度很大,很多时候只能“停摆”,这可能意味着一场灾难
涂子沛
观数科技联合创始人、著名大数据专家,阿里巴巴集团原副总裁,著有《大数据》《数据之巅》。被誉为“中国大数据第一人”。本科毕业于华中科技大学,研究生毕业于中山大学、卡内基梅隆大学,曾在美国学习、生活多年。

  【财新网】(专栏作家 涂子沛)10月31日,世界物联网无锡峰会开幕,李克强总理在贺信中指出,物联网对于培育经济发展新动能、推动产业结构调整、提升社会治理服务水平可以发挥重要的支撑作用。物联网受到与会学者、企业家的高度关注。

  我注意到,最近美国的网络瘫痪就与物联网有关。为美国众多网站提供DNS基础服务的Dyn公司,遭遇大规模“拒绝访问服务”攻击,导致多个城市断网。据估计,半天的瘫痪造成了上亿美元的损失。Dyn公司称,此次攻击涉及IP数达千万量级,其中很大部分来自物联网和智能设备。这就是说,一台连接了互联网的咖啡机,也可能成为黑客的帮凶。2014年,黑客就曾“劫持”10多万台物联网设备,发起了70万份垃圾邮件的攻击,其中就包括冰箱、路由器和智能电视。

  随着物联网的渗透、移动互联网的普及,让越来越多人意识到,时代演进的方向,是一个人与人相连、人与物相连、物与物相连,通过计算自动运行的“智能社会”。但我认为,这个智能社会危机四伏,特别是现阶段,我们一只脚迈进智能社会,但身体重心却还在传统社会。这将是一个问题多发阶段,社会就像一颗玲珑剔透的水晶球,看上去精致光鲜,实则脆弱易碎。正在到来的智能社会,精致与脆弱好比一个硬币的两面。

  原因在于,在智能时代,整个社会将成为一个强关联系统,这在人类历史发展过程中未曾有过,它对社会治理的影响也将史无前例。

  以手机为例,“大哥大”、普通手机的主要功能是用语音、短信连接人与人。但智能手机出现后,它们连接了网站、商场、银行、医院、车辆、电视……连接维度更多样、范围更宽广。正如人体供血依赖心脏,呼吸依赖双肺一样,对连接的高度依赖,让智能手机成为了人类的一个移动器官。

  这个“器官”正日益中枢化。

  各类传感器也一样。研究机构Juniper Research预计,2020年物联网设备将达385亿个,比2015年的134亿个猛增285%。传感设备将渗入整个社会的每个角落,成为社会有机的组成部分,人类对它们的依赖将愈加严重。而这些物联网设备,因为内存空间有限,无法安装安全软件,很容易受到攻击和挟持。这也正是美国网络瘫痪的主因。

  在农业社会,四季更迭、秋收冬藏、生老病死,结构相对简单,锄头断了可以换一把,误不了农时,一个农户的问题不太可能演变成集体的问题。

  在工业社会,复杂的机器加快了社会的运转,也增加了社会系统的复杂程度。一旦机器的某个部分发生问题,也可能导致整体瘫痪。1986年,美国“挑战者”号航天飞机发射73秒后在空中解体,7名宇航员丧生。事故原因是,当地气温骤降,一个小小的橡胶“O型圈”失灵,引发热气泄露导致爆炸。

  但在智能社会,借助软件、网络和传感器,整个社会联结成为一个整体,这在工业社会的基础上又迈进了一步。与火箭、航天飞机相比,其复杂程度有过之而无不及。人的错误,常常是孤立的,人类可以自觉纠正;机器的故障,人们可以多花点时间去排查、检修并改进;但在智能社会,社会的运转不是依赖于某个具体的人,或某台具体的机器,而是依赖一个复杂程度已经呈指数级增长的智能系统,其一旦出现问题,要迅速完成检修、纠错,难度很大,很多时候只能“停摆”,这可能意味着一场灾难。

  道理很简单,万物相联,将会更频繁地诱发“蝴蝶效应”,一只蝴蝶在巴西扇动翅膀,可能会引起美国德克萨斯州的一场龙卷风。而一旦龙卷风出现,人类却很难确定是哪一只蝴蝶的翅膀引发了问题?

  即更复杂的社会,也意味着更复杂的纠错机制,更高昂的纠错成本。

  而只要是系统,就会存在漏洞。WINDOWS系统自1985年面世至今已31年,每一年它都在不断地升级、打补丁。直到2015年,它还宣布弥补了135个漏洞,很多漏洞都事关安全,因为有盾就有矛,有矛就有盾,攻击方也在不断进步。所有的软件、手机APP都面临这种矛与盾此长彼消的挑战。

  墨菲定律(Murphy's law)告诉我们,“如果事情有变坏的可能,不管这种可能性有多小,它总会发生”。

  今年7月20日,美国西南航空因一个数据路由器的部分故障导致业务瘫痪,4天内共取消了2300个航班,成千上万名旅客滞留。首席执行官这样描述当时的情形:“路由器失灵时,数据开始堆积,就像高速公路上发生交通拥堵一样”。又有一次,泰国的财政部长素察坐进自己的宝马汽车,其车载计算机突然发生故障,发动机停止工作,空调被关闭,车门被锁死,车窗无法开启。身边的人束手无策,最后不得不用大锤击碎车窗玻璃,素察才得以脱身。

  未来的社会,纠错机制更为复杂,纠错成本更高,某种程度上说,可能超越了人类现有的能力。面对正在到来的智能社会,人类其实还远没有做好准备。

  作者为观数科技联合创始人、著名大数据专家,阿里巴巴集团原副总裁。本文发表于微信订阅号“涂子沛频道”,财新网经授权转载

责任编辑:张帆 | 版面编辑:王丽琨
财新传媒版权所有。如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
全选

新闻订阅:订阅后,一旦财新网更新相关内容,我们会第一时间通过发邮件通知您。

  • 收藏
  • 打印
  • 放大
  • 缩小
  • 苹果客户端
  • 安卓客户端
财新微信