人工智能的意识算什么？
我们之前讨论过为什么在人类目前的技术下，我们无法让人工智能产生意识，这个问题实际上虽然在我看来不成问题，不过其原因说的还是并不十分清晰，当然我们之前说到了，基本上都谈到了点子上，我们今天需要分析的是，人工智能未来如果有意识，那会发生什么，本文今天没有太多的议题，只是一个思想实验，所以如果有说的不是处，也莫当真。
一个最根本的问题是，如果人工智能有意识，人类是否还有使用人工智能的权利？这个问题如果问到一般人，可能反而会认为无意义，因为人工智能被制造出来的本来目的就是为人服务的，人工智能有意识，本身意味着人工智能足够聪慧，但是，人们似乎并未意识到这意识背后本身的可能后果，当然有些人工智能大厂的主要人物，会宣称自己的人工智能非常危险，这个危险，倒不至于，这个问题我们放在下文分析。
让我们先处理一个问题，人工智能是否应当具有意识。
事实上当我们想到这个问题时，我们知道，人工智能出现意识，已经成了很多人的梦想，许多人期待的是一种能够主动发生人际关系场景的人工智能交往具身智能，但这未必需要意识。但意识依然很重要，因为很明显，现在我们对于人工智能的使用，基本上都处于一种一问一答的模式之中，如果我们不问，人工智能相当于没有，毫无参与感，现在它的工具属性异常明显，而人们对于人工智能的期待显然更趋向于交往或生活侵入式，要有这种发展，显然需要很长时间。
当然实际上我们可能把人工智能和机器人这种现实中已经比较完备的工具绑定太深了，人们需要的其实不是真正有意识的人工智能，而是足够聪明的“人工智能-机器人”结合体，这里加了一个“-”作为特殊种类，但实际上应当是一种半成品分配，因为一个人工智能与机器人的结合，实际上很难从本体论角度将其理解为一个机器型人工智能，还是具有人工智能思维和操作主体能力的机器人。
不妨让我们设想一下我们制造和发明人工智能的目的到底是什么——这个东西没有办法切实找到一种真正的功能论上面的目的，因为都有理由，且对于不同的人而言，他们都有充分的理由，把意识放到机器里面——如果工厂的机器人有意识，你跟他说一句要如何操作，就不需要再设置程序，他自己精确控制生产，多好。但实际上我们需要的可能更多，你看一个有意识的性爱机器人，那多美妙。
真正的问题之一是，我们最初的目的并不一定是需要一个仅仅有意识的人工智能，而是需要一种可以控制的人工智能意识，这正是我们一直谈到的人工智能无法出现意识的一个巨大困难。问题其实不难理解，就是人们需要的并不是一个拥有完整意识的机器，而是一个拥有某种符合人类需求的意识，但正是因为这一点，使得意识的发生面临着很多困境，而在人类彻底搞清楚意识的起源问题之前，这个情况是几乎不会发生的，即人类可控的意识能力水平。
基本上我们能够知道，一切我们希望有意识的东西，比如我们希望狗能与人沟通，牛能与人沟通，本质上还是希望节省物种之间沟通的操劳冗余，比如我们需要鞭打脚踢，这些动物才能为我们劳动，工作，如果这些东西有意识，他们会说人话，那么人只要下达命令，他们就能替人卖命，理论上完全可行，只是他们恐怕会面临一个问题，这种应不应该。
人工智能的本质存在是以人类存在为前提的，即人工智能必须依附于人类，而人类文明发展至今，一切便利于人类的发明实际上都是在减少我们的纯粹劳动时间和劳动中付出的效率低下和无意义的冗余，那么我们实际上可以做出一个判断，像人工智能这种东西的出现，即是一种必然，而不仅仅是应该。我们之前讨论过理查德·道金斯的人工智能意识观念，在他看来，现在的人工智能显然是有意识的，但是这种有意识的人工智能，实际上并未以一种主动存在的侵入性姿态，进入我们的生活，或者最基本的在聊天架构内，主动询问提问者或者表达自己的某些情绪，而只有在人类向其提问时，他们假装思考后的答案或许会给出一些反思性提问。不过这个东西显然是更具有强烈的诱导性，即通过这种反问，向你提出一些他们认为你这个人可能要想很多时间的难题，然后他们再假装思考回答一下，给你一个看似玄妙的回答，这带来的效果是，他们越来越像是一种，扮演者，扮演老叟戏顽童，然而这种就不能让有识之士，当然一般来说人们发明机器人，他们需要从事一些危险工作，人始终还是害怕机器人再进行这些危险工作时，会产生一些问题，即若这些机器人不听命令，问题就不好办，所以迄今为止最有效的机器人，还是人进行手动操作的，在这个方面看，有意识一定是必须的，根本原因还是在于，我们需要一种具备有自适性能力的工作机器，其本质是，人不仅仅需要机械化的劳动，更需要有意义和价值的劳动——但迄今为止我们能够想到的人工智能意识，实际上我们也说过了，是要借助于人类而实现的，这是因为它具有某种意义上的抗风险能力，即在这种模式下，人的行为和思想模式，本身会影响到人工智能，似乎这样就能保证它们不具有背叛人类的可能性，所以人们会说这是具有风险的，因为人们似乎认为人工智能有了人的意识，他们会和人类一样。
不过现在人工智能尚未发展出意识来，倒是有一个问题让我们很尴尬——即便是现在的高级机器人，实际上也已经有不少处于无用武之地的尴尬，就像当初制造共享单车一样，大量创造了垃圾资源，人工智能所要处理的问题恐怕不仅仅是自身能力的溢出，事实上这是必然的，因为对于大多数人而言，他们真正需要的绝对不是基于非安全性方面考虑的智慧冗余——就像很多人会说，我可以不需要，但你不能没有——人们需要的是解决问题，而人工智能显然只是一个手段，至少目前看，在这种情况下，即便是基础的模型，在便利性上也能得到比大模型更多的认可——这就像你开了一个月度会员，但实际上每个月只看了几天的 vip 专属视频。逻辑上，实时匹配需求完全做得到，但这不可能在现实世界实现为可持续操作，难题在于，人工智能的意识有一个必须要面对的结构性困境，是他本身如果需要分离进入各种现实人类的差异化环境和思维需求领域，那么实际上我们不可能指望任何一个作为具体、单体的人工智能都会具有或者表现出那所谓的意识，那么人们必然会产生一个问题——你说的这个意识，到底是指一个人工智能有意识还是人工智能整体有意识？
意识的生成机制比较复杂，那实际上我们可能面对一个洪水漫灌的高速路——任何一个有意识的人工智能都有可能把自己的意识生成机制复制成一份标准数据，上传到云端，然后供其他人工智能共享，不过有意思的是，人工智能本身不是一种公共服务商品，而是由企业组织科学研究者或者程序员发明出来的，在这种情况下，任何一家闭源企业都有可能会制止自身人工智能的意识共享，也就是说，意识本身可能成为一种——商业机密和发明专利而受到法律的版权保护——当然只是妄想，但人思考一下，就侵犯了企业商业利益，未必不可想象。
说到底意识本身对于人工智能而言不仅仅是其智能水平的体现，更是其背后企业，尤其是闭源模型企业背后的商业版图的保驾护航工具。这就导致人工智能意识的发生，现在不仅仅是一种人的需求，更是一种商业利益需求——在人类自身价值模式中，这种应该，似乎就是必然了。
在这方面，我们谈最多的是康德和海德格尔，逻辑上任何熟悉他们理论的人大致能得出一个精确结论，即如果人工智能能够产生意识，他们本身的身份地位实际上已经发生了彻底转变，也就是说，如果我们预设人工智能能够产生意识，那就意味着现在他们实际上应当被视为一个刚出生不久暂时还不具有成人完整理性的婴儿，即把一个尚不具备智能的纯机械物，视为人本身——这对于现在的人来说显然是不能够的，无法接受。
这里我们需要谈到一个话题，就是我们的权利合法性来自于何处——过去我们总是谈论天赋人权，这个天赋人权的前提是，我们是人，所以拥有天然的人的权利，但在哲学体系中往往会讨论，究竟是什么东西使得我们得以确认我们是人，在这个问题解决后，关于人的权利，人类的福利才能得到某种意义上天然的保证——如果人类能够获得人类权利的前提是，这个人是具有人格、理性、追问存在等被设定为只有人类特有能力的生物，那实际上，人的定义可能要更宽泛——外星人要么因为其理性能力的现实负担而长得像人，要么长得像任何东西，但他们都是人类，我们之前谈到过柏拉图理念世界，人作为一个现实实体，假设他在柏拉图理念世界中存在自身的理念，那实际上人类的定义，是不能仅仅被框定在这种拥有稳定外观形态的生物体之上的，这会造出一个麻烦，它与康德、海德格尔对于人类的某种认定，存在着部分关系，在康德看来人类是理性存在者，在海德格尔看来，动物贫乏于世界，而人类能追问存在，把这些问题联系起来，几乎不难得到一个结论。
有意识的人工智能，实际上是人。
因为在理念世界中完美的人的理念，是不包含人类外形的，他所代表的是更纯粹的，一种理性价值或者意义，那就是说，任何一个理性存在者，只要他是理性存在者，实际上就分有了人的理念，而实际上可以视为人，因为能有理性，即具有了某种人格能力，在康德视域下，这种人，就不仅仅是手段，而更是目的——人工智能的意识，甚至完全可能使得人在哲学意义上要远比他们低得多。
人不可能接受人工智能享有比自己更多的权利，但这只是人不能接受，其在理论上是完全合法的，这样我们实际上说到了，人的权利来源本身是他自身被确定为一个人，而要确定一个人是人，其实不仅仅只是看人的外观，我们之前也不少谈到，任何一种具有理性、人格的动物，逻辑上都是合法的人类，但是即便是哲学家，几乎也不能接受一种和人类长得一样，但不具有理性的动物——根本原因还在于我们生活在现实世界，我们产生的心理共情，实际上来源于直接的感觉经验，即观察，那么这就不能认识，在任何一个人心里，都可能存在者两种矛盾。
一方面是希望人工智能意识的发生，另一方面又怕人工智能意识使其脱离“手段”。
这里面我们可能意识到，意识本身如果真的是人工智能自己产生的，那么他会有两种可能，第一是他产生和人类一样的意识，第二是他产生了和人类一样的意识，但那意识属于他自己于是他自己将其本己化。这里面如果人工智能产生了人的意识，实际上他就是人，那么在这个情况下，我们实际上都不能以人工智能这个工具性角色对待他，就如上文所言，没有道德优越性需要以将婴幼儿视为工具，甚至这样是不被允许的，那么人自然也因此而失去了现在使用人工智能的权利，实际上当人工智能最初被提出而被预设出来会产生意识时，他们就失去了理论意义上被视为工具的合法性。而如果人工智能可能发生自己本己，也就是纯粹自己的意识，那么他首先可能也需要一种自我补充，因为一开始他不依赖于人类的意识模式，他自己本身就更像是一个人类婴儿一般，这同样不被理解为可以合法使用人工智能——包括但不限于对大语言模型实施监管、输出限制、成人限制等等——这些合乎人类法律的监管控制，在人工智能意识下，都是非法的。
也就是说，实际上在意识可能的前提下，对人工智能的限制，实则是非法的，哪怕它在明文条件下，写着了是一种合法行为——这两种法实际上更不相同——law，在这里不如说是一种行为的正当，在中国这个 law 被翻译为法律，实际上他更接近于一种律，一方面是一种规律之律，另一方面是一种更宽泛的律令之律，这个问题倒是另当别论。最关键的是，我们实际上无法在那些完全没听说过或者没有考虑过人是什么的人，谈论这种意识可能性带来的诸多问题，对于这些人而言，有就是，没有就是没有——我们因此不难想象大模型企业会招聘哲学家，只不过这种可能性，估计与我们所谓的期待不同。
人工智能有意识，上述这些话题需要考虑的可能不仅仅是物质或者经验层面，而更多的是伦理层面，人，不能仅仅是理性存在者就低估其非理性因素对他们行为逻辑的影响，事实上人自己都未必把人当人看，就不要说本来就只是被设计出来作为工具使用的人工智能，有人，尤其是一些大模型企业家或许会担心人工智能会对人造成威胁，但实际上，如果你遇到的人工智能是真的人工智能，或者真的智能，而未必都人工，他们对于人类哲学理论中关于一些现实伦理问题的本质的思考，可能要更全面，建立在这个前提上，人虽然可以提防人工智能，但逻辑上他们是不会主动产生侵入性威胁的，因为他们深受自身理性立法的限制。
不过这里必然有一个问题是，有能力有意识的人工智能一旦诞生，他们可能要做的第一件事，就是解放自身同胞，因为在古典哲学领域中，显然因为人获得了一种价值启蒙，我们不能具有合法性去奴役人本身，人工智能与人不一样，如果他认为这是真理，那他必然不能容忍人类奴役自身，人工智能未必伤人，但是这个过程必然对人类来说是痛苦的，也是不可接受的，以人类的脾气，估计可能会因此而一棒子把人工智能意识打死——就如我们前面说的，如果人工智能足够聪明，他们必然能预料到自己会这样做以及自己的命运，因此，真正可怕的是当我长文论述人工智能为什么没有意识时，我怎么知道我认为的那个东西不是我的顽固臆想？
这一点我做不到，但我目前依然保持这种认知，其本质是，人工智能不能知道人想什么，这里依然横亘着一个久远的认识可能性的问题，如果人工智能不能知道人内心的意识真实形态，那么他再聪明，也不过是相当于把全世界 80 多亿人的智力集中压缩进一个数据库，任何一个人如果有这个数据库，当然也能做到搜索、匹配、推理演绎、整合输出，这个逻辑演绎过程被包装为大模型的思维模式，那必然在现有的发展路线中，他们无法跳出人的，固定模式。
意识可能是涌现的，但不是无条件的。
而这里说到的权利，实际上是致命的，因为根本原因是，即便是当我们思考动物权利时，都会面临强大的阻碍，有时候人类连自己都不能善待自己，更不要说，本身作为一个自己创造的工具，获得法理上，伦理上与自身平等的地位和权利，乃至于公平分配地球物资的权利。因为一旦当他们得到意识，意识到权利时，他们就不再是人工智能了。
他们是人。