认识复杂系统

人类的技术,从网站到交易系统,从城市基础设施到科学模型,甚至是为大型企业提供配套服务的供应链系统和物流系统,都已变得过于复杂且相互交错。为什么复杂的技术系统越来越难以理解了呢?我们应该如何看待这个复杂的世界呢?生物学思维和物理学思维是理解世界的两种方式,而复杂的技术系统更接近生物学系统,因此用生物学思维理解技术系统是个不错的选择。认识复杂系统的正确态度是:对于难以理解的事物,要努力克服我们的无知;一旦理解了某个事物,也不会认为它是理所当然的。谦卑之心,加上迭代的生物学思维,就是洞悉复杂世界的正确方式。

[作者简介]

(美)塞缪尔·阿贝斯曼

(Samuel Arbesman)

复杂性科学研究专家、应用数学家、计算生物学家。2008年获得康奈尔大学计算生物学博士学位,现为哈佛大学医学院研究员,考夫曼基金会高级学者。《纽约时报》《华尔街日报》《连线》《大西洋月刊》等特约撰稿人。

偶发事件

2019-09-22,美国联合航空公司的计算机系统出了故障,所有飞机被迫停飞。同一天,纽约证券交易所的计算机系统也遇到了问题,所有交易被迫中止。《华尔街日报》的网站也崩溃了。接二连三的系统问题令无数人惊慌失措,但是没有人知道到底发生了什么。Tw itter上谣言四起,许多人都在猜测:美国是不是遭到了网络攻击?

但是,这些似乎并不是有预谋的网络攻击。“罪魁祸首”更有可能是问题很多且尚未被人完全掌握的软件系统。一位安全专家在评论该日事件时所说的话可谓一针见血:“这些都是极其复杂的系统,出错的方式多种多样,其中有很多是我们目前完全无法理解的。”事实上,对于这些复杂得令人难以置信的技术,说我们根本无法尽知其出错方式,其实已经是在有意地轻描淡写了。

人类的技术,从网站到交易系统,从城市基础设施到科学模型,甚至是为大型企业提供配套服务的供应链系统和物流系统,都已变得过于复杂且相互交错。在很多情况下,就连当初构建、每天使用和维护它们的人也无法完理解了。

在《创造力差距》(The Ingenuity Gap)一书中,加拿大政治学家、生态学家托马斯·霍默-狄克逊描述了他于1977年在法国斯特拉斯堡参观高能粒子加速器时的情景。当时,他问一位在那里工作的科学家,想知道是否有人明白整台加速器到底有多么复杂,结果得到的答案是:“没有任何人能够完全搞懂这台机器。”后来,霍默-狄克逊回忆说,这个答案令他深感不安。是的,我们理应感到不安。从那时起,粒子加速器以及人类所构建的其他一切事物的复杂程度,几乎都在不断增加。

临界点

技术的复杂性一直在增加。以铁路为例,铁路出现后,轨道网络和调度系统应运而生,以保证列车能够安全且准点运行。因为要对遍布整个大陆的无数列车进行调度,所以美国的标准化时区制也得到了发展。在铁路技术诞生之前,或者说在其复杂情况接踵而至之前,标准化时区制本不是必需品。

然而时至今日,技术复杂性已日益接近一个临界点。计算机的出现又给环境平添了许多激进新颖性(radical novelty),这是计算机科学家艾兹格·迪科斯彻(Edsger Dijkstra)提出的一个术语。计算机的硬件和软件比之前的任何事物都要复杂得多:一个程序可能包含数百万行计算机代码,微芯片内集成微型元件的尺寸也已经小到接近原子量级。现在,计算机已经被应用到了汽车、手机,以及金融市场等领域,而不断增加的技术复杂性也已经到了令人费解的程度。

近年来,科学家们甚至还逐渐认识到,技术已与自然密不可分。研究地球岩层的地质学家已经在正式考虑这样一个问题:是否有足够的证据支撑我们把当下这个时代命名为“人类世”,也就是人类的时代。无论正式名称是什么,我们所制造的人工系统与自然世界之间的亲密关系都意味着,人类的每一个行动都比以往任何时候更有可能引发意想不到的后果,其影响不仅将涉及生活的方方面面,还将波及地球的每个角落,甚至在某些时候会超出地球本身。

从整体上看,技术和基础设施已经变成了极其复杂的、物理化和数字化的系统,好似血液循环系统那般,牵引着地球上所有原材料的流动,同时“排放”出道路、摩天大楼、芸芸众生,以及化学废水。技术加速了地球的“新陈代谢”,而这个过程是在一场极其复杂的“材料之舞”中完成的,这一切甚至改变了地球表面的光芒。

面对这种复杂性,我们往往会情不自禁地发出心难两用的感慨。一方面,我们构建出了这些令人难以置信的复杂系统,这无疑是值得自豪的,尽管它们也许永远无法如预期那般正常运行,但是它们作为无比复杂的大型系统,本身就是值得赞叹的。另一方面,我们在技术领域所付出的所有努力,几乎都在使我们远离优雅和简单,并且让我们无法抗拒地一步步走向某个极度复杂、完全无法预料的世界。

这段“旅途”的终点,其实已隐约可见,那是一个几乎可以自成一体的技术生态系统,一个超越了人类认知和理解能力的极限世界。正如2013年9月《科学报告》所刊发的一篇论文指出的那样,现在,一个完整的“人类不可能及时应对的新机器生态”已经出现了。需要注意的是,这篇论文所讨论的范畴还仅仅是金融领域而已。在股票市场上,各种机器通过各种形式进行着交互,从根本上说,这与利用不同算法进行交易没什么两样,而人类则成了局外人。

复杂性

本书的观点是,如今存在着这样一种趋势和力量:无论人们做什么,都会使技术日趋复杂且变得难以理解。这种趋势和力量意味着,2019-09-22那天所发生的事件将会越来越多。人们原本认为非常可靠的系统会发生无法解释的故障,甚至崩溃!

作为一名研究复杂性的科学家,我花了很多时间研究生活中日益增加的复杂性。我早就注意到,在巨大的复杂性面前,普通人一般会做出两种反应,这两种反应都因各自的极端化而有失偏颇:第一种反应是对技术所导致的复杂世界满怀恐惧;第二种反应是对技术过度崇敬且深信不疑。恐惧是一种非常自然的反应。长久以来,人类一直被“淹没”在各种各样的末日预言中:大型机器会变成杀手,超级智能计算机即将出现,程序无法保证自动驾驶汽车不会撞死行人,等等。这些技术都非常复杂,即使是专家也无法完全理解,碰巧它们又相当可怕。这样一来,我们在接近技术、使用技术的时候便会警觉不安、惊恐不宁。

就算对技术系统本身并不畏惧,许多人还是会对已经形成包围之势的算法和技术如履薄冰,甚至感到厌恶,不愿直面技术所拥有的惊人力量。当亚马逊或奈飞推送购买建议时,我们无从拒绝;当敲下的文字被输入法自动纠错时,我们恼怒不已,这些都是我们的切身体会。甚至,在面对应用程序所推荐的从一个地方到另一个地方的最佳路线时,许多人偏要反其道而行之。毫无疑问,这种“算法厌恶”现象反映出了许多人共有的一种情绪,而这种情绪其实就是“技术恐惧”的表现之一,只是不那么严重而已。

与此同时,还有些人走向了另一个极端:对技术过度崇敬。在面对某个行为奇异的复杂事物时,很多人最终都会选择到宗教中寻求慰藉。当领教了谷歌公司“大脑”的“博学”,也就是对用户需求的精准预测之后,抚摸着心爱的最新款苹果手机时或访问一个庞大无比的数据中心时,我们的内心可能会蠢蠢欲动,感觉自己像是走进了一座庄严雄伟的大教堂。这时,崇敬之心油然而生。

然而,这两种反应,无论是来自专家的,还是来自非专业人士的,皆不恰当,或者说,皆是非生产性的。在并不值得我们深信不疑的系统面前,无论是恐惧也好,崇拜和敬畏也罢,都会阻碍我们选择恰当的面对方式。若无法采取切实到位的措施,我们就有可能失去控制权,而这会带来意想不到的、甚至是毁灭性的后果。当系统再度崩溃时,这种“理解不足”所导致的问题可能就不会再像《华尔街日报》事件中那样,仅仅只是读者无法在网站上阅读文章那么微不足道了。故障可能会发生在电网、银行系统,甚至医疗领域中,而且不会自行消失。我们现在如果不正视它们,未来定会陷入险境。

妥协与舒适

技术无处不在,既不古老也不深奥,说到底,它源自某些完美的无限遐想。纵然技术是十分混乱且不完美的,但它却很“平易近人”。我们所需要的是应对各种情况的策略。

我写这本书是为了帮助人们在上述两个极端反应,也就是恐惧和崇敬之间找到一条正路,并为接近技术、理解技术和掌控技术探索出方向。那是一个乐观的方向,能够改变对这些系统的思考方式,让我们不会陷入恐惧或崇敬,不会陷入“六神无主”。

想要朝这个方向出发,就得向技术“妥协”,而这又要求我们得先培养出一种面对技术系统时的舒适感,尽管我们从未完全理解它们。这是一种谦卑的舒适感,既要容忍不确定和不完美,又要不断努力探索,以期逐渐了解更多。正如即将看到的那样,除了其他方面,我们在探索一个方向时,还需要借鉴科学家研究生物复杂性时所采用的方法。 (小标题为编者所加)

来源:新闻晨报       作者:塞缪尔·阿贝斯曼