在一次会议上,有“互联网之父”之称的蒂姆·伯纳斯-李(Tim Berners-Lee)讨论了对未来数年互联网的担忧,其中包括一种可怕的场景:通过创建和运营自己的公司,人工智能系统将成为新的“宇宙主人”。
“宇宙主人”的说法来自汤姆·沃尔夫(Tom Wolfe)1987年出版的小说《虚荣的篝火》(The Bonfire of the VaNIties),指在华尔街和伦敦工作的男人,他们薪酬高达数百万美元、具有巨大影响力。
在“创新金融全球峰会”上发言时,伯纳斯-李设想了一个这样的世界:人工智能系统开始具备决策能力,对经济系统的公平性产生影响。
伯纳斯-李说,“当人工智能系统能作出下述决策时:谁获得贷款、哪些公司进行并购、创建自己的公司、开发新版人工智能系统管理公司,将对我们的经济系统产生巨大影响。”
虽然对造成2007年金融危机的决策者的损失感到惋惜难以想象,但上述情景会摧毁一个产业,并引发一个严峻的问题:没有人参与的金融系统公平吗?
伯纳斯-李的观点,与人工智能怀疑论者埃隆·马斯克(Elon Musk)最近对《名利场》杂志表述的观点相似。马斯克说,“我们设想,开发一个具有自我改进能力的摘草莓人工智能系统,它采摘草莓的能力会越来越高,采摘的草莓越来越多,因此它真正想做的就是摘草莓。于是,它会在所有土地上种植草莓,草莓地会不断增多,最终人会没有立足之地。”