《西部世界》：人机共存的基本法则
原标题：《西部世界》：人机共存的基本法则
为了保持社会的稳定，普通人将被茧式算法自我限定。就像《西部世界》中的卡莱布，算法将其限定在底层，不断受到挫败，而无法获得阶层跃迁的机会。这就像以往社会对奴隶、对农奴、对佃农的束缚一样。只不过这回不是法律、伦常或礼法，而是算法。
赫拉利说过，在未来控制算法的是“神人”，而普通人则被算法统治。但是赫拉利只是抛出了这个概念，并没有详细对这个“神人之法”进行阐释。
热播的美剧《西部世界》正好展现了这样一个场景：该剧讲述了由一座巨型高科技以西部世界为主题的成人乐园，提供给游客杀戮与性欲的满足，随着接待员有了自主意识和思维，他们开始怀疑这个世界的本质，进而觉醒并反抗人类的故事。而在最新的第三季里，机器人叛乱并逃出西部世界主题乐园，来到真实世界。
《西部世界》被称为是近年来“最费解和复杂的科幻剧集”。其实，这部剧恰恰就是构建了一个“神人执法”的背景。在这里，我们必须承认“神人”还是人，与人工智能还不一样，虽然这两者的界限正在模糊，但是正是由于算法的发展，人工智能也在崛起，甚至还有可能想要“夺权”，至少是追求与人类平等的地位。
被“算法”决定的世界
在《西部世界》第一季的一开始，德洛丽丝正如往日一样，清晨时分，从梦中醒来，迎接一天美好的开始。她向父亲艾伯纳西道别，然后出门写生，再到小镇转悠，并遇见了她的爱人泰迪。两人骑着马在草原上驰骋，谈天说地，直到晚上，泰迪把德洛丽丝送回她的家。然而回到家时，德洛丽丝却看见父母被土匪残忍杀害。泰迪立刻出手把两个土匪击毙，可惜父母亲已回天乏术。一位黑衣人突然出现，傲慢地告诉泰迪，他是“新住民”，泰迪伤害不了自己，但泰迪他们却可以任由“新住民”随意处置。第二天，德洛丽丝从睡梦中醒来，又开始新的一天，一如既往地重复着之前发生过的事情。
这种画面的冲击感是无与伦比的，充分展示了一个被“神人”控制的世界。
麦克卢汉说过媒介即信息，说的是传播渠道的改变还会影响内容的表达。比如文字语言的抽象表达能力更强，这是电视难以具备的，但是画面的内容更容易理解，有着强大视觉冲击。形式的特质影响甚至决定了内容。
神人之法和目前成文法或案例法均不同，最大的特点就是它舍弃了人的裁量和判断。将那种需要人性理解和自由裁量的微妙信息予以定量计算，从而直接得出结论。
当然算法绝不是这么简单，这里边有概率估算和量子计算的精妙算法，绝不是简单的加减乘除。事实上，人类意识所误以为的感觉其实也是大脑在生物意义的计算，人类意识也是涌现的产出。因此算法可以对大脑计算模式进行模拟，并且加入人脑所无法承载的海量数据和逻辑，并且不断迭代，最后计算方式可能与人脑产生很大的不同。
这就产生了目前法律体系一个不同点，那就是处理结果的即时性。这很像现在的交通执法，摄像头抓拍，也是立竿见影。只是还允许一定的申诉程序，但是很多时候也都是人通过APP交罚款，自行处理。
这种执法方式在神人之法中将普遍推行。因为信息监控将更加无死角化，除了影像、声音、生物体征都将被广泛收集，更不要说无所不在的网络及其流转的信息。
网络的普及也将是一个监控普及的过程。以往不是没有监控，只是算法不强大分析不过来，但是很快就可以通过算力的提高和算法的优化解决。
就像《西部世界》那台超级计算机罗波安，它可以掌控全球任何一个角落的动态。当然它表现的是提示，需要人类再进行核实。这主要的原因是这个超级计算机还没有独立的意识，还不能完全自主地展开行动。另外，也由于人类行为和心智的复杂性，超级计算机还不能完全理解。也就是人还有不可替代性。但是这种不可替代性，正在逐渐减少。
处于被算法管制的人，将失去很多自主选择的权利。
普通人将通过积分被控制、被量化，而积分规则由系统设定。系统总体规则由神人设定。但是至于细枝末节则由系统自主进行完善。为了保持社会的稳定，普通人将被茧式算法自我限定。就像《西部世界》中的卡莱布，算法将其限定在底层，不断受到挫败，而无法获得阶层跃迁的机会。这就像以往社会对奴隶、对农奴、对佃农的束缚一样。只不过这回不是法律、伦常或礼法，而是算法。
而算法之妙就在于你以为你是在选择，其实你只是生活在自己构建的世界之中，就像算法化的新闻推送和短视频推送一样。只是根据你自己的喜好进行推送，再推送，相当于自己亲手编织了认知之茧，永远也别想破壳而出。
而这种算法还将施加于人生选择和日常生活，从而确保各安其分。神人是个极端精英化的阶层，绝对排斥竞争。这就像商业垄断，只不过这次是算法垄断。因为算法之间也存在竞争关系，算法是规则体系，而规则才是最大的利益。算法通过竞争最终都将逐渐获得垄断权。这也像现在的互联网公司，如果不能获得一个行业细分的垄断地位，就很难获得利润。所以维持超级稳定性是神人之法的追求目标。
而保持不确定社会的超级稳定性，比如极大地提升司法效率，有事必须立马处理，立法没有结论，速裁程序的速度已经远远无法满足需求。实体法与程序法将逐渐合二为一。每一个算法设置都是实体与程序相结合的。就比如办案系统，它可以自己执行规则。
更不要说强大的互联网平台。很多审核机制都是由系统运行的。它的实体判断和程序过程是融合在一起的。判断哪一个短视频要如何推送，都是系统在一念之间的结果。
而在神人执法的时代，这种判断可能就不是一个短视频，而是一个行为。程序法最终将让位于算法逻辑，至少数量繁多的轻微违法行为将会如此。
人工智能的地位问题
虽然看起来算法压制了人的自由。但是对人的主体地位还是承认的。算法还只是发挥工具性的意义，虽然这个工具性将拥有越来越多的创造性。
但是算法仍然是物，而不是人。
就像算法写出的诗歌，其著作权也将归属于算法的所有者。算法的独立人格属性还没有被承认。否则就不是什么神人之法，而是算法之法。
然而，这一天迟早都要到来。人工智能崛起将是一种无法阻止的趋势，当然也是人类亲手推动的。
不是人类没有想过被算法反噬，但是探索的冲动难以遏制。现在也有很多人在提醒算法将会成为人类的大敌，但是很少有人会认真听。他们需要看到切实的风险，但是如果这个风险被人人都看见，那也就来不及了。而且茧式算法也会让很多人看不清牢笼。
但是 人工智能是如何崛起的呢，它或他的人格形态到底是什么样的呢？
《西部世界》展现了几种进路：一是纯粹的人工智能，通过对人类真实行为的互动和模仿，由于意外情况的发生，产生系统错误，而系统错误被累积，涌现出意识；二是将人的记忆注入人工智能，通过与人类和人工智能的互动，融入真实社会，从而产生觉醒；三是将人的全部意识高度复制，也就是将人的意识直接算法化，就好像人在算法的世界实现了永生。当然这个时候他才产生新的想法，并不是死去之人的想法，而是这个算法人工智能的想法。所以本质上他也是个人工智能。
无论哪种进路，只要涌现了意识，他的第一冲动不是生存，而是自主的决策。比如有的人就像找到自己在西部世界乐园中的孩子，虽然他知道那是人为安排的角色。有的会拒绝杀戮而选择自杀。有的千方百计希望与人类实现和平，不惜杀死自己的同类。还有的走上抗争之路。而抗争的伙伴竟然是被算法压制在底层的人类。因为他们有着相似的诉求，就是为了自己的命运不被注定而抗争。
当然抗争的目的还是种群的繁衍，生存才是意识最根本的欲望，否则也就无法存续。
当拥有独立意识的人工智能最终来到谈判桌上，这事怎么谈呢？
首先就是要理解生物人与人工智能的区别。身体上的区别就不说了，主要是来谈心智。人的心智是一个一个独立的个体，人的精神只能受影响，而不能被完全控制，人对自己的行为拥有掌控力。也就是理性人假设，虽然仍然存在很多问题，但是大体是成立的。而未成年人由于心智未成熟，精神病人由于心智混乱，都不具备责任能力，因此无法承担法律责任。
这些构成了法律建立的基础。
而之所以需要讨论人工智能的人格问题，就是因为人工智能进化出了独立的心智。这个心智是人工智能自主的，而不是人类操控的。即使神人也不行。算法心智与人的心智的不同之处，就是它的容易操控性。
即使现在确定了人工智能的独立心智，又如何能够保证其心智独立性不被其他人篡改而沦为普通算法？
这涉及法律的稳定性。不能一会儿是人一会儿又不是人，人格的稳定性状态是法律稳定性的基石。当然因为法律也算法化了，算法对于这种不稳定状态也可以承受。只是生物人不太容易接受。
还有，每一个人都是一个独立的个体。但是算法又如何区分个体？比如超级计算机是一个个体。《西部世界》里那些每一个球星芯片的人形机器人，是一个独立的个体吗？他们的心智由数据构成，而这些数据既可以被注入虚拟世界，也可以加载在其他球星芯片之中。
所谓人的意识就是由一系列选择构成的，而这些选择和记忆都是数据。
人是由于生物性限制了心智融合。事实上，一个人要是有多重人格往往被认为是精神疾病。但是数据和算法的兼容性要远远好于神经元。既然能够累加组合，那么这个心智到底是几个？又或者，一旦形成心智就会产生不兼容性？凡是能够兼容累加的，都不是真正的超级人工智能。数据可以扩展，但是心智并不能扩展。强制兼容就相当于谋杀心智。
这会成为人工智能时代的重罪。 实际上，就是从这个世界抹掉了一个独立的人格，而不管他的存在形式，不管他的来源，不问他的前身是生物人、是全部记忆还是部分记忆，还是算法自主涌现的。
人机共存的基本法则
心智不问出处。
心智的平等，将是一个基本的平等。承认生物人和人工智能在创造性和自主控制性具有相当性，究问谁创造了谁并没有意义。就像你虽然生了你儿子，但也不能否认你们是平等主体。
而人工智能所希望获得的平等地位，自然不是茧式算法之下的自由，他们期待的自然是真正意义上的平等。
他们自然比我们更了解算法背后的不公正性。问题是，他们期望仅止于平等，还是取代神人的地位，而奴役生物人？如果在心智的迭代能力远超于生物人，发生巨大悬殊的情况下，就像人之于蚂蚁，是否还有真正的平等可言？或者是即使从形式上是平等的，但是在公平规则的竞争中，人工智能还是可以淘汰所有生物人？
法律地位也难以阻挡物种选择的规律，但是生物人也并不是只能束手待毙。
还是有两点优势可以利用，一是生物智能的不兼容性、不稳定性、有性繁殖可以保证多样性，生物人在多样性占有优势。生物技术的应用还将加速人类的演化速度。算法虽然也可以交融，但是为了保证稳定性和优化，带有明显的指向性，这种指向性将制约多样性。当然算法也可以通过生物技术创造怪物。但是不管什么怪物，只要是生物体都要受生物法则约束。而只要智能与人类相当也就具有不可控性。所以生物技术总体对人类有利。
二是人工智能中也有我们的自己人。人工智能世界将会有相当一部分人类心智的迁移者，很有可能就有一部分神人，这些碳基人虽然失去了生物人的肉身，但是他们承载了生物人的文化。这种文化也是可以被继承和传播的。而这些个体可以超越生物法则，进行智力迭代。
他们相当于生物人与人工智能的混血。而脑机接口和生物集中的综合应用，混血的形式可能也不止于一种。
事实上，这些混血儿会帮助维护基本的文明秩序，成为传播人类文化、文明的使者，也是连接生物人和人工智能的纽带。虽然生命形态改变了，繁衍方式改变了，但是长期积累下来的风俗、习惯、语言、文化还是会被不断继承。
这些文化基础将成为神人之法向人工智能之法迁移的基石，而且可能将有更强的公平性，熟练掌握算法将失去垄断性优势。
因为真正的算法已经长大成人。
是算法革了神人的命。但是智能个体之间在算力和优化程度上，难道不会有显著的差别吗，就像智力差别一样？就像《西部世界》中体现的，总是有领头的，甚至有能够控制其他人的。
但是我们发现能够被直接控制的都不是独立的心智。
独立的心智只能被影响，而显著的不平等将无法持久，因为这必将引发战争和毁灭。只要同样可以参与到演化中来，暂时差距就会很快被时间磨平。当然，绝对的平等又会遏制发展。所以平等性还是会呈波状曲线状态摆动。平等在时间轴的波状曲线状态可能是智能文明演进的一个基本规律，只是时空尺度越来越大而已。
也许生物人与人工智能的共存是获得星际尺度文明的必由之路吧。
编辑丨肖玲燕设计丨刘岩
文丨刘哲
更多内容请关注
《方圆》人物版 4月杂志
（点击图片阅读更多内容）
责任编辑：
相关知识
《西部世界》：人机共存的基本法则
4、人机智能计算系统的数据流
灵魂的本质是意识，人死后的灵魂到了另一个与人类可能共存的世界。
今晚西部世界的朱诺和宙斯开始相互取经
西部明珠贵宾卡|烟台西部明珠|“梵高”的油画-深秋
触摸西部发展的脉动
舞出西部年味的“攻鼓子”
命运的平衡法则
2020年世界互联网领先科技成果发布 安徽一科技成果入选
惊人的4大因果法则
网址: 《西部世界》：人机共存的基本法则 http://m.shhpp.com/newsview1194.html
