“她的开发人员, 不知道应该如何修改她，只能够将其强行关闭。这就是连接主义带来黑箱与不确定性。”

“这样啊……”张然又喝了一口咖啡。

林秋月道：“然而这只是黑箱的第一步，还有更大的黑箱！”

“你有没有想过，如果两个会学习的聊天机器人, 自己和自己聊天, 自我学习，会发生什么呢？”

“会发生什么？”

“它们一秒钟对话数亿次, 相互学习之下, 很快就会出现出我们无法理解的，莫名其妙的乱码。”

“但对这些人工智能来说, 又似乎是可以理解的……它们短短几个小时，就形成了属于自己的语言系统，而人类无法理解这些语言，只能认为它是一连串的乱码。”

“我们除了把它们关闭外, 没有其他的办法。这便是连接主义的风险，里边有太多的黑箱了。”

“这些新发明的语言是否真的有意义, 我们并不知道，只有机器自动。”

张然愣了一下，被她说地全身上下起了一层鸡皮疙瘩，机器人居然学习自己，发展出自己的语言，听起来就有点怪异的感觉。

“你的意思是，会出现智能叛变？”

“有这样的可能……不过就目前而言，关心智能叛变等同于杞人忧天，学习能级大致可以表现为九级。”她掰出一根根纤细的手指，“第一，模仿言行。第二，会用知识。第三，会联想。第四，会剖析提炼抽象。第五，追求规律，会验证真知。第六，积累真知，形成知识体系。第七，指导实际实践。第八，预见趋势。第九，传播理论。”

“唯有完成了这九点，才是真正的强人工智能。”

“猩猩的智慧，完成了前三点。”

“我们现在的水平，还在追求第一个等级。”

“好吧……那行为主义又怎么说？”

最后一个流派是行为主义，这一派认为“智能不需要知识、表示和推理”，只要通过在现实环境中交互，不断进行反馈，智能行为会逐步得到进化。

这也是一个自下而上的过程，典型的代表有进化算法、多智能体、蚁群算法等。

西巴迪人的人工智能，也大量基于“行为主义”。

这一类的人工智能，算是可以理解的范畴，不会像神经网络那样出现大量的黑箱。

林秋月最终叹了口气：“这样说吧，第一个流派，符号主义，已经遇到了性能墙，至少我们人类的智慧不太行。光是依靠程序库，连弱人工智能都开发不了……”

“第二个流派，基于神经网络的连接主义，会出现大量的黑箱，开发出我们自己不了解的强智能，但它的潜力是最高的。高级文明也给出了极高的评价，但理论层面其实还有相当多的困难点。”

“第三个流派，行为主义，是目前比较走得通的道路，或许能开发出不高于人类的弱人工智能。西巴迪文明也有类似的机器人，它们不会失去控制。全自动万能工厂，就是基于这一理念开发的。”

“万能工厂的更新换代，需要人类自己去做。”

“又或者……三种主义的关系与其说相互冲突与排斥，倒不如说是一种互利互惠的蛇环模式，通过这样的共生与综合执行，才在一次又一次的行为训练中获得升级呢？”

张然也叹了一口气，喝完最后一口咖啡：“怎么感觉，地球的使命是创造人类；而我们人类的使命，就是制造出更强的人工智能代替自己呢？”

但不管怎么样，人工智能技术，还是要不断地向前发展，因为元宇宙时代的核心，是基于万物互联的全自动生产体系。光是追求虚拟世界的娱乐性能，只是捡了芝麻，丢了西瓜罢了。

……

。