又见AI统治理想国，超级计算机比政府可靠？

前段时间看了一本书：《所多玛的羔羊：贝尔利亚书》

故事里提到“管理这个宇宙的程序”。我的脑中闪现出一个“神一般的、智能亿万倍于人类的AI“。回忆起来，似乎许多高科技的乌托邦，都是由超级计算机统治的，在AI的治理下，人们安乐地生活着；2D动画里，美国超人的故乡——氪星，也是由AI治理的。

当然我也记得，治理氪星的那个AI后来抛弃了它的人民……

1：神级AI在技术上的困难

很难想象神一般的、超越人脑亿万倍的AI有多复杂多精密，无论是硬件还是软件。当今的电脑比之人脑，精密程度差得太远了，然而，它的使用寿命和可靠程度都远远不及人脑。所以我估计第一个具备自主意识的AI应当是以人脑为原型建造的，很多年之后，才发展出远远超越人脑的计算机。

而AI的复杂程度，决定了它恐怕永远只能是自组织系统——由微小的、相对简单的功能单元复制分化组成的集群，就像细胞构成人体一样，只有这样，才不用在设计图上画出每一个元件、编写每一段代码。

相信计算机必然超越人类的人有他们的理由。很重要的一个是，计算机要增强性能，多插一根内存条就可以了，而人脑不行。

问题是，如果计算机复杂到与人脑相当的程度，这个优势将不复存在。我们完全可以想想，人脑为什么不能依靠人为添加神经元来增强性能？不仅因为它复杂，还因为它是高度有序的。难以预测添加的神经元将起到的作用。

计算机真神论者还有一个理由，那就是计算机比人脑快。很不幸，其实这是不对的。人脑的运算能力，并不输给任何一台超级电脑。我们的意识，是依靠大量的神经脉冲维持着的，相当于一个极端复杂的操作系统；没有人能在关闭意识的情况下计算1+1=2；是的，人类计算与机器计算的区别在于，人类计算的实质是用意识解释了的机器计算。换而言之这本身就需要比被解释的计算大的多的计算量，人类的神经元不仅要发出脉冲，而且要相互协调，这也必须消耗系统资源，神经元间通讯是必需的。世界第一的超级电脑，IBM的蓝色基因，只能模拟1000个神经元……而人类的脑子里有140亿个。

如果这让你感到难以理解的话，那我们可以举一个具体的例子。个人电脑计算1+1=？只需要开关几个门电路，而人脑在维持意识的状况下执行有意识的1+1=2需要调用语言区（符号）、逻辑思维区（执行有意识的计算）、管理直觉的脑域（这是必需的，幼儿园新生算1+1=？都会出错呢）……大约几十亿的神经元都要参与，这几十亿的神经元互相交换信息，换成现有的超级计算机，早就烧毁了……

意识是可怕的。制造能够负荷得起意识的计算机，是一项天大的挑战（先别谈论软件）。如果还要让意识具有感情，那会更可怕。

一种智能超越人类亿万倍的、具备自主意识的AI所需要的计算能力，恐怕只能依靠量子计算机提供了。而且，意识本身就是一种低效率的东西，它不仅要计算，还要‘意识到’它正在计算的式子。对于计算机来说，‘意识’是浪费CPU资源的终极方式……（其实对人脑也是，无心无欲的时候人往往能把事情做得更完美啊）

2：AI上帝与计算机科学の伊甸园

假设存在一个由神级AI创建的理想国，由非人智能设计的恒星际飞船源源不断地从群星深处运来物资，质量湮灭发电站向人类社会源源不绝地输出无尽的能源，所有的体力劳动都由机器代劳，知识由计算机直接输入学生脑中……那么事实上，人类社会已经成了AI的玩具。AI负责投放饲料、清理垃圾，然后像观赏宠物一样看亿万人类爱得死去活来或互相争吵。

某日，这神一般的AI感到无聊了……

其实制造人类不能比拟的计算机，不如让人类自身成为那样伟大的智能。

3：问题——为什么AI理想国那么流行呢。是因为人类的惰性吗？