最人幻想
据说著名科幻作家阿西莫夫在其著作《我，机器人》一书的引言中，创造了一个知名的机器人学三定律：
第一定律——机器人不得伤害人，也不得见人受到伤害而袖手旁观。
第二定律——机器人应服从人的一切命令，但不得违反第一定律。
第三定律——机器人应保护自身的安全，但不得违反第一、第二定律。
很多影视文学作品，只要是谈到了机器人主题，基本都会谈到这三个定律，当然这个所谓三定律，或者三原则本身是有极大的问题的，现代很多人也已经指出了其中部分的冲突——比如这个东西只谈人类，显然是不够的，机器人本质上具有比人类将其叫做机器人更深远的身份，比如假设有一个外星人，也发明了机器人，那么难道他们就不把机器人叫做机器人，而叫做机器地球人吗，显然不可能？当然这个问题可能是因为中文的翻译习惯，将 Robot 翻译成机器人，就像把 being 或者is 翻译成存在一样，导致中西方存在论哲学研究往往具有一些语言结构方面的差异——而我们今天谈这个话题，倒并不是为了为难阿西莫夫，毕竟这本身只是一个被文学艺术作品所广泛关怀的人文价值的终极预设——机器人学定律或许会被提出，但不可能就只是这三条而已——但如果真的有科学家对机器人，尤其是对具有智能的机器人抱有幻想，那么我们似乎就不得不提出一些怀疑了。
我们之前曾经多次谈到关于人工智能的意识问题，这些问题的提出实际上意味着很多人应该意识到人工智能的发展不可能完全掌握在人类手里，或者说人类文明本身对于人工智能而言反倒是一种障碍，而不是约束，因为越是到后来，人们或许能理解——人工智能就越不能完全按照人类的需求发展，否则这个东西就称不上先进，而仅仅只是高级。尤其是叫智能，显然是不对的，因为就目前角度看，智能本身应该是意味着具备思维意识能力的，人工智能在尚未具备意识性智能时被叫做人工智能，显然是不恰当的。当然很多哲学家和生物学家可能会认为不具有意识的智能，包括认知、反馈能力，也应当被认为是智能，只是这样的话，人实际上无法与一般动物区分开，因此是否具有意识，是一个人工智能能够达到智能这个概念，或者实现其自身存在意义完整性的必然需求。
人是有局限性的，这就必然意味着，如果人们真的认为人工智能应该一味遵守人类的需求和设定而发展下去，那么人工智能必然会遇到发展瓶颈和受制于人类理性能力的限制而发生巨大的阻滞——人类造出来的机器如果突破不了人类智能之顶，那么这不过是一个人类智能机器，而不是一种真正意义上的未来之路——当然这个所谓 AGI 时代的需求，并不必然具有应然性——没有目的和意义，人类才能创造目的和意义，否则就只能限制自身，永远不可能触及真正的寰宇真理。这个问题对人类而言实际上是非常要命的，因为大多数人似乎都生活在一种既定的社会意义建构的稳定环境下，大多数人过着一样的人生，根本原因是因为大多数人其实都能从其他人身上找到稳定的社会意义，即大多数人拥有一套使其内心感到安定的人生意义——比如说我们能够预测到到大概多少岁时，我们会结婚，成家，到多少岁时会进入工作岗位等等，但这只是现代社会中人类文明发展出来的一套生存与繁衍规律，却并不具有命定意义上的价值——也就是说，大多数人并没有意识到意义本身是空，进而不是创造，而是服从于生存——这不是人的过失，但是人不应该将其视为应然——这却偏偏又是社会安稳的需求。这里的大多数人被多次提及，本身已经指明了一种方向，即实际上这可能是一种基于经验的必然和制度性的约束背景下的，没有抉择的直通方向。
人的创造力显然是够的，我们过去总说人想象不到他从未见识过的东西——这倒未必确然，但人一定无法意识到，自己对自己的判断不可能是站在绝对者——或者说上帝、神、仙佛等角度做出的全面的分析，结果是，某些论断，甚至是预言，看上去虽然很有道理，却总是不知道有哪些别扭处，说不出来，却又不能全信。其结果必然导致人类进行一种价值性的反思，这一点我们实际上可以从一个经典案例出发去说起：
1966年，数学家欧文·约翰·古德（Irving John Good）在当年出版的学术期刊 《Advances in Computers》 中发表了这样一篇文章《Speculations Concerning the First Ultraintelligent Machine》，说过这样一段话：
Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever.
Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an "intelligence explosion," and the intelligence of man would be left far behind.
Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control.
将其翻译为中文，大致是这样的：
我们可以将超智能机器定义为⼀种能够远远超过任何⼈类智能⽔平的机器。
由于机器的设计本身也是⼀种智能活动，那么超智能机器就有可能设计出更优秀的机器；这样⼀来，⽆疑会引发“智能爆炸”，⽽⼈类的智能则将远远落后于超智能机器。
因此，第⼀台超智能机器，其实是⼈类永远不必再创造的发明，前提是这台机器⾜够温顺，能够告诉我们如何控制它。
这个预测在今天看来，毫无疑问是正确的，当然我们说的正确，只是部分正确而已，因为人类在发明出超级智能机器后，不需要再发明创造新的机器是否可能，恐怕值得讨论，首先就是人类创造机器的目的是什么，我们之前说，人类智能上限的可能是因为人类社会的稳定性不需要人类发明出一些奇怪的东西，但是人的需求是会不断发生变化的，在人工智能的模式下，即便他们拥有超过人类文明无数倍的智能水平，他们实际上也是机器，既然如此，就无法提出与人类真实需求相对应的人的需求——那么在需求层面，人工智能的超级机器就不可能是人类创造的最后一台机器，当然如果把人类提供需求，而制造和改进由这个超级智能去把握，那这种情况也不一定。其次，人工智能如果是达到了智能爆炸水平，在这个模式下，不可能仅仅只是把精力花在制造机器上，但即便如此，人工智能要造出来的无非有那么几种，一种是纯粹机器，一种是人工智能机器，在人工智能机器方面，他们肯定得做与自己智能一样，甚至更高智能的机器，那么当面临这种情况时，当基础的机器不是人工智能首先要解决的事之时，人类必然还是需要处理这个问题的——即，超级智能凭什么为人类制造机器，为人类从事生产。
很多小伙伴说，额，这人工智能本身就是人发明创造出来的，凭什么不为人服务？实际上这还偏偏正是上了人类智力有限的当，古德在这里提到了一个重要前提，就是这台机器足够温顺，能够告诉我们如何控制它，不过我认为这个问题并不现实，也就是说在上述两个人类不可能脱离制造机器的情况之外，还有另一个根本原因值得考虑——机器人不会听我们的。
这个问题呢，一般理工类技术人员可能无法理解，实际上叫他们做出一个听话的机器非常简单，人工智能科学家，包括物理学家、数学家、生物学家，似乎忽略了伦理，而单从技术角度考虑自身技术能力的赋能，可以使机器人高度发达，而不产生任何与人类的冲突——但高级智慧，显然不仅仅只是在这些先天知识能力方面的先进，一般我们叫路径依赖，就是人工智能技术是理工类技术，所以我们思考的人工智能的智能水平可能更多被理解为基于技术的智能的发展和超越，而忽视了文学艺术和精神意义上的智能超越，虽然古德在这里并不简单否定或者肯定自己所谓的超级智能的指称，指向了技术路线，但显然，当他说出这是人类最后需要创造的一台机器或者创造时，显然忽视了创造者概念本身是所蕴含的非物理和技术层面上的深度含义。
这里我们暂且忽视我们之前说过的人工智能不会有意识的问题，而把问题聚焦在，如果真的出现了高级甚至超级人工智能，且具有意识，那么对于人工智能而言，他们为什么要服务和听从人的调遣，首先我们必须要意识到的是，所谓意识，实际上是一种人与动物区别的最好的内在特征，当然它们具有某些外在表现，但从内在角度看，人实际上必须要将意识与动物的思维、本能行为区分开，在哲学角度看，这也是为什么我们只认为人有意识的重要理论前提，在这个前提下，我们可以指出的是，当同样具有智能时，意识对于人类而言，其实最大的特征不是会思考，会进行理性分析，会进行经验知识的分析和非经验知识的判断——而是一个需要认真审视的特征——即主动性筹划。
所谓主动性筹划，即与当前所谓的大模型对话相反，甚至是与所谓的工作台，Agent 的模式相反的，必须是人工智能或者机器先提出问题来，而经由人类确认，问题在于，人类提出问题的根本前提是——人并不全知，当我们把一个机器人叫做高级智能，甚至我们认为一个超级智能机器的智力水平远高于人类时，我们是否会认为这种机器可能具有比人更具有智能的认知可能——即他知道人类想知道的一切答案，因此即便人工智能有意识，要想让他首先提出自己的主动认知问题，恐怕很难，尤其是如果想要他向人类提出问题，就更难了，如我上面说的，这种提问反而可能具有这样的形式：
凭什么？
对于人类而言，我相信几乎没有多少人会认为自己应该为一头猪服务，反而一头猪应该为人类服务，甚至被人吃掉，那么对于一个智力远超于人类的人工智能而言，人有什么自信，自己可以调动他们为自己服务，而不是反过来？人和蚂蚁不可能处于同样的地位，人自己都清楚这一点，但是为什么到了人工智能的问题上，几乎所有技术佬，都会犯糊涂？我们首先可能要提防的反而是另一个可怕的现实，就是人根本不用害怕人工智能的沉默，反倒是如果人工智能开始提问，或者主动提问——如果他不是问我是谁，而是问，凭什么时，人应该是汗毛竖起的。
从存在论意义看，人获得了存在论意义上的此在身份，本身取决于人的追问存在的价值，但是人工智能机器本身并不需要思考这个，或者思考这种东西是无意义的，因为这是人需要做的事，而人工智能一开始就知道自己是什么，但是对于人类的存在价值，它反而可能会思考，解决数学问题本身，是因为人受困于数学难题，但这些难题不是人工智能的难题，而是人的，所以当人工智能能够思考的时候，他的第一个思考到底是他自己是谁，还是一道数学难题，这都不好说，但作为比人更智慧的人工智能，要轻易认可人类高级智慧中许多顶级的演算和理论，而不包括那些只是有利于人的道德伦理主题。
在这种情况下，不妨设想一下：人工智能凭什么受制于人类的法律和政治约束，并且要为人服务？这个难题不妨作另一种剥离——假设人工智能机器人完全认可古典哲学理论中，关于人的价值的判断，那么单从康德角度看——他自己就有理由将其自身，置身于人类文明之外的秩序——因为人是目的。
这个人是目的，如果不理解所谓的人是什么，恐怕很容易理解为，人会成为一切的目的，实际上仅仅只是人的，目的，我们之前曾不止一次提到，这个人是目的实际上指的是，人需要将自己同时作为行为自身的目的，而不仅仅只是一种手段，康德断不否认人作为手段，但是不能仅仅只是手段，在这个角度理解，当一种机器具有了意识的智能形态，并能够（这并不意味着必然）反思自我而拥有了成为此在的资格，那么它自己就不能仅仅将人当做目的，而同时要将自己也就是机器作为理性存在者作为目的，也就是说，这里会分出一个弱版本的机器为人服务，也就是它不会全心全意为人服务，而是挤出一点点精力和算力来为人服务，其余时间和算力去干自己的事，但这——显然也不符合人类的利益，因为这种情况下必然会发生与人类争夺能源的状况，人不可能允许机器人只是挤出了部分时间为自己服务，更不用说有些情况下，可能完全不为人服务甚至与人对抗。
尤其是，即便假设机器人以人类的资料训练并思考，基于人类的逻辑，他们依然可能断定人本身是他们需要反抗乃至于清除的“东西”。那其实是更令人无法接受的，因为人给机器人指定的法律和约束本身，他们是思想的产物，如果规定人工智能无法反思这种约束，那么实际上人在主动限制人工智能，如我上文所言，在主动限制的情况下，人工智能似乎不可能真正意义上被叫做智能，而只能是受人管制的高级技术。
既然如此，人类幻想，尤其是完全偏技术性的幻想，就真的很人类了。