人工智能正在引起公众关注。谷歌开发的软件在五番棋比赛中击败了全球最优秀的职业围棋手。围棋非常复杂，比国际象棋难度更大，长期以来一直被认为是人工智能的“禁区”。下围棋需要运用综合性的策略和战术。你需要掩藏自己的计划，同时阅读对手的意图。
成为围棋大师符合人工智能发展的远大目标。这向我们展示了人工智能当前的成果，并迫使我们面对人工智能的未来。那么，人工智能究竟能取得什么样的成就，而这样的未来将于何时到来?
预言家认为，类似人脑的智能将在未来数十年中实现。这样的人工智能能完成多样化的复杂任务，而不仅是单一的工作。如果我们能开发出相当于人类智商100的人工智能，那么发展出智商500甚至5000的人工智能将只是时间问题。我们并不清楚这将带来什么样的后果，而我们的赌注是人类的未来。
假设你有多个智商达到150(或是500到5000)的人工智能软件，能帮你管理生活。与普通应用一样，你可以下载这些应用，而它们将进入你的手机和计算机，甚至墙上、衣服上或汽车中。
人工智能将阅读你的电子邮件并作出回复，等候你的批准并发送。它们将帮你向国税局申报退税，实时监控处理进展并向你汇报进度。在你的耳边，它们可能会告诉你道路比以往湿滑，有朋友在街对面走过，或是你今天走路的姿势有点怪。它们可以使用19个不同的复杂密码登录19个不同系统，确保更好的信息安全。它们可以帮你接听电话或处理消息，将相关事务添加至备忘录，给你带来帮助。
以无数种细节方式，下一代人工智能将解决当代生活中的种种不便。而生活中缺少这些人工智能将难以想象。
然而我们并不清楚，智商5000意味着什么。我们开发的这种机器不太可能区分人类和植物。人工智能围棋系统表明，我们已经在这条道路上走出了很远。在被“超人类”机器人主导的世界里，我们要如何自处?
想想最好的情况。人们喜欢蝴蝶，并尽量不去干扰它们。不过，一些孩子喜欢收集蝴蝶标本，而这种爱好也被鼓励：孩子们应当走到户外，从大自然中学习，而不是沉溺于电子游戏或社交网络。如果超人类机器人以同样的方式来对待人类，这已经很幸运。但我们不能盲目认为，未来会是怎样。
那么，我们为何要开发智慧程度远胜自己的机器?尤其考虑到，这些机器对待人类的方式几乎很难预测。
这是由于，探索未知世界，开发最优秀的机器，这是人类的本能。具备超人类智慧的机器人非常危险，就像核弹一样。它们将会是“普通”智慧机器人的产物，而目前全世界研究人员都在努力研究这样的人工智能。
深谋远虑之士应当可以理解，让技术专家随意摆弄超人类机器将非常危险，而这样的活动应当被置于全球的严密监督之下。技术专家只是希望打造最强大的机器，而不会考虑后果。
那么，我们现在的进展如何?我们还要多长时间才能制造出如此危险的计算机?
目前，我们甚至没有走向正确的发展方向。今天的人工智能还远远不能理解人类的心灵。不过，这方面的突破并不困难。我们可以从略微不同的角度去看看这个问题。这样的突破可能需要几百年，也可能只要一个下午的时间。在突破到来时，我们对待人工智能的开发应当像对待实验室中的鼠疫菌一样谨慎。
问题很简单。大部分科学家和哲学家都认为，人类心灵是理性、有逻辑的。即使他们认为情感也很重要，但通常不会将感性置于中心。然而，人类心灵并非永远理性的静态机器，也并非基于情绪或概率时而理性，时而感性。每天，人类心灵都会遵循一个变化周期。
在每天开始时，我们通常精神饱满，处于周期的顶端。而在一天结束时，我们会进入周期的低谷。当我们感到困倦时，心灵活动会呈现下降趋势。当我们睡着时，心灵接近于最低谷。在一天时间里，我们通常会经历两次“潮起潮落”。中午至下午，我们的心灵会进入短暂的低潮，而随后几小时又开始活跃，最终在晚间再次进入低潮。每个人的模式都有所不同，但整体波动很类似。
软件可以模拟这样的周期。而如果希望实现类似人类的心灵活动，软件也应当这样做。如果能重现这样的端点，我们就能在软件中重现这样的周期。
计算机可以模拟理性思考，但无法具备真正的感受。感受不属于计算机，只属于有机体。仅仅依靠软件不可能制造出感受。不过，这不会给人工智能带来限制，软件能“模拟”感受。机器人可以告诉你它感到忧伤，而行动也可以表现得忧伤，但实际上它没有任何感受。原则上来说，人工智能可以重现人类心灵的所有细微之处，并以完全模拟人类的方式去面对世界，尽管这仍是毫无意识的。
除非能模拟人类心灵活动的周期性变化，否则人工智能仍然无法与人类似。可以想想，在你的心灵活动处于下降周期时，感受和逻辑分析能力将会有何变化。人类的心灵有着各种变化，不仅仅是理性，也不仅仅是理性加一定的情感，也不仅仅是几种教科书式精神状态的排列组合。可能性是无穷的，但带来这种无穷的公式很简单。
如果我们希望理解心灵，那么就必须理解关于这一周期的方方面面。当人工智能注意到这样的周期，并决定接受这种周期时，我们就可以在软件中重现这样的周期。从这种周期性到超人类机器人的发展并不容易，这将会与登月类似。
然而，当我们拥有了火箭、无线电、计算机，以及其他相关技术时，登月似乎不可避免。开发这样的心灵活动周期性只是让人工智能开始运动的必要环节之一，但这是目前仍然欠缺的一项技术。
超人类机器人需要遵循这样的周期性，以及人类心灵活动的其他基本元素。
随着进一步的研究，我们就会更清楚地了解到人工智能的危险之处。人工智能研究者应当受到普通人的监督。
