大数据时代、机器人时代、自动化时代,会让人类的未来变得更好,还是更糟?
不同的专家权威给出了不同的解读。与其说他们的观点各自对立,倒不如说是高度互补的。奇点大学执行主席彼得·戴曼迪斯在《富足》一书中就技术带来美好未来的乐观解答,以及具体的行动路线图;科普作家马特·里德利的《理性乐观派》回顾了科技史和经济史,相当鼓舞人心。
美国著名思想家、《哈佛商业评论》前主编尼古拉斯·卡尔则要悲观得多。他的《浅薄:互联网如何毒化了我们的大脑》、《Google让我们变愚蠢》等作品已成为互联网、新科技时代的“警世恒言”,强调人类绝不能因为新科技、互联网、智能化、自动化而丢弃主体性。某种意义可以认为,因为尼古拉斯·卡尔这样的人存在,以其影响力促使公共管理部门、公众以及互联网行业发生转向,从盲目乐观,变得更加注重新科技应用的安全,以及是否合乎伦理原则,技术的用户因而获得了更为安全、放心的体验。
这本《玻璃笼子》,是尼古拉斯·卡尔的新作。这本书延续了尼古拉斯·卡尔的一贯立场,揭示了自动化、智能化趋势潮流下,技术崇拜带来的应用偏差,而这种偏差正在伤害人类自身。
我国医疗卫生系统正在推进电子病历、数字化的国民医疗档案的普及。这被认为在不损害患者隐私的情况下,可以通过数据的发掘利用,有效提高诊疗水平和响应速度。尼古拉斯·卡尔却在书中举出了截然相反的例子:从小布什任内,到2009年初上任的奥巴马,美国政府十多年来积极推进电子病历普及,为此花费了多达数百亿美元的投入。但在奥巴马的第二任任期开始后,医疗界却不断曝出这项自动化新技术的弊端。
首先是电子病历的应用,促使医生进行更多的不必要检查,导致医疗成本增加。这是因为电子病历数据系统会自动推荐许多诊断检查项目,系统默认设置为选取检查,如果医生要选择不检查,则要进行一番手动操作。第二项弊端是造成病历档案的随意篡改,尽管这本可以通过系统设置来杜绝,但医院和系统维护企业通常默许医生所为。第三项弊端是弱化了医生技能。医生不再手写病历,而是大量通过剪切 粘贴的操作完成病历描述,这确实提高了效率,却诱使医生忽略病人、类似病情之间的差异,诊断的专属性和准确性降低了。与之同时,不再手写病历,加快了诊疗效率,却因此减少了医患沟通。此外,电子病历系统还会事无巨细地提示诊断错误、处方配伍问题等,医生通常烦不胜烦,会关闭问题提示,而这恰恰会诱发诊断和处方错误。
电子病历系统的以上特征,实际上是在加速实现医生诊疗过程的智能化和自动化,方向当然是创造出完全智能化的机器人医生。智能化、自动化、机器化替代人的进程,实际上始于20世纪中期,最早出现在军事领域,然后是制造业,最近十多年来在金融业、新闻业、法律服务业等更多行业获得了广泛应用。尼古拉斯·卡尔指出,机器具有学习能力,可以不断规范现象间复杂的统计关系,反馈能力不断提高,变得相比过去更为准确。医疗领域而今已经悄无声息地实现了大部分的智能化和自动化,医生而今扮演的角色其实只是一个人类传感器,负责整合多项医疗设备和仪器的判断,什么时候机器可以替代扮演人类传感器的角色,人类医生很可能就失去了就业市场。
当然,医生们可以感到稍许安慰的是,迄今为止,不管是何等精妙和智能化的机器,还没有掌握人的直觉,面对概率性问题的判断也常常面临局限,数据出现失真。机器人医生很可能会在不久的将来出现,但如果离开人类医生的把关,很可能会在连续运转下产生致命的计算错误,并因此为人类医生保留就业岗位创造机会。
《玻璃笼子》一书用了大量的篇幅来谈论各类领域内,自动化、智能化、机器化的新科技应用所无法避免的局限性。例如GPS的广泛使用,让曾经是北极圈内的天才向导因纽特人失去了探路能力,事故相反频发。又如自动飞行系统投入使用后,相反使得飞行员的技能被弱化,进而降低了应对突发危险情况的判断能力,如果危急时刻存在两难选择的情况,自动化系统也给不出很好的解答——对于飞行员来说,安装了自动飞行系统的飞机,实际上已经变成具有更大危险性的“玻璃笼子”。
归结起来,尼古拉斯·卡尔强调的自动化弊端,主要包括两大方面:一是数据挖掘分析、算法本身存在的缺陷,无法做到尽善尽美,概率上百万分之一、千万分之一的差错会以更高频度出现,给应用了自动化系统的设备、系统带来致命危机;二是自动化的应用,让人产生过度依赖和偏好,从而降低了技能,也容易分散注意力和意识,无法做到安全可靠的应对突发风险。
尼古拉斯·卡尔不反对自动化的使用,但非常警惕盲目、过度而不设保障的自动化应用。他希望自动化、智能化、机器化潮流下,设计者、发明家、创新企业家能够抛弃技术优先的策略,真正回到以人类为中心的自动化的怀抱,回归人类工程学的人本主义原则。毕竟,只有切实的参与和劳动,才让人在这个世界上产生存在感。