人工智能伦理：人工智能揭示了我们对虐待动物的焦虑

到目前为止，您可能已经听说过——可能是从创造这项技术的同一个人那里听说的——人工智能有一天可能会杀死我们所有人。具体细节尚不清楚，但其实它们并不重要。人类非常擅长幻想被外来物种灭绝，因为我们一直擅长设计创造性的方法来对待我们的同胞生物。人工智能可能会因为一些愚蠢的事情而毁灭人类，就像哲学家尼克·博斯特罗姆（Nick Bostrom）著名的思想实验一样，将世界上的物质变成回形针——就像人类现在正在消灭我们的类人猿近亲猩猩，以种植棕榈油来制造奥利奥等垃圾食品。 。

你甚至可能会说，人类被机器征服的噩梦表达了一种升华的恐惧，即我们对待非人类动物的方式会被反过来对待我们。“我们知道我们做了什么，”记者埃兹拉·克莱因 (Ezra Klein)在他的播客五月节目中如此说道。“我们不想站在它的另一边。”

人工智能威胁着我们许多人认为使人类在这个星球上独一无二的品质：智力。因此，正如作家梅根·奥吉布林（Meghan O’Gieblyn）在她的《上帝、人类、动物、机器》一书中所写的那样，“我们通过坚持认为区分真正意识的是情感、感知、体验和感觉的能力来平息我们的焦虑：换句话说，这些品质，我们与动物分享。” 换句话说，我们告诉自己，即使人工智能有一天可能比我们更聪明，但与机器不同，我们拥有主观经验，这使我们在道德上变得特殊。

然而，一个明显的问题是人类在这方面并不特殊。非人类动物拥有许多与我们相同的智力和感知能力，但我们拒绝提供我们可能期望人工智能提供的慷慨。我们以我们所谓的卓越智力为基础，合理化了对动物的极度残忍行为——将它们关在笼子里、商品化、残害和杀害它们，以满足我们的一时兴起。“如果有神灵的话，他们肯定会嘲笑我们逻辑的不一致，”奥吉布林继续说道。“我们花了几个世纪的时间否认动物有意识，正是因为[我们认为]它们缺乏理性或更高层次的思想。”

为什么我们应该希望人工智能，特别是如果它建立在我们自己的价值观之上，能够以不同的方式对待我们呢？我们可能很难为未来的人工“超级智能”辩护，如果这样的东西可能存在的话，为什么当我们在为我们的动物同胞提供同样的东西时却表现得非常失败时，我们应该受到怜悯。更糟糕的是，人工智能先知的非人化哲学是捍卫我们有血有肉的自我价值的最糟糕的出发点之一。

超人类主义建立在对动物性的仇恨之上

尽管现代人类以非人类动物缺乏智力为由，为对非人类动物的剥削辩护，但这从来都不是真正的原因。如果我们从表面上理解这一论点，并根据动物的聪明才智来对待它们，我们就会立即停止工厂化养殖章鱼，因为章鱼可以使用工具、识别人脸，并找出如何逃离围栏的方法。我们不会将大象单独监禁在动物园里，因为我们认为这侵犯了它们作为聪明、有爱心、高度社会化的动物的权利和需求。我们不会把猪关在笼子里来对它们进行心理折磨它们太小了，无法转身，注定它们的一生很短，基本上是在棺材里度过的，这一切都是为了把它们变成廉价的培根。我们会意识到，完全没有必要让聪明的奶牛遭受重复的、人为怀孕和与新生儿分离的创伤，这样我们就可以喝到为它们的小牛准备的牛奶。

事实上，我们对动物残忍并不是因为它们愚蠢；而是因为它们愚蠢。我们说他们愚蠢，是因为我们对他们残酷，编造关于他们思想的与事实无关的神话来证明我们的统治地位是正当的，正如政治理论家迪内什·瓦迪维尔 (Dinesh Wadiwel) 在他 2015 年精彩的著作《与动物的战争》中阐述的那样。在名为“愚蠢的暴力”的一章中，瓦迪韦尔认为人类对动物的力量使我们能够对他们的真实面貌表现出故意且莫名其妙的愚蠢。“否则我们如何描述人类相对于动物的声称的优越性（无论是基于智力、理性、沟通、发声还是政治），而没有一致或可验证的‘科学’或‘哲学’基础呢？” 他写。人类和动物一样，都是脆弱、易碎的生物，只有在特定的身体和社会限制下才能茁壮成长。我们只能希望未来的人工智能，无论多么聪明，都不会表现出对我们同样的愚蠢。

虽然我们只能猜测一些强大的未来人工智能是否会将我们归类为不聪明的人，但显而易见的是，在著名的人工智能支持者中，存在着对人类动物的明显且令人担忧的蔑视。人工智能研究本身与超人类主义有着密切的联系，超人类主义是一场旨在通过技术从根本上改变和增强人体的运动。正如超人类主义的主要支持者之一博斯特罗姆所暗示的那样，其最极端的抱负者希望将人性与计算机融合起来，像癌症患者的肿瘤一样消除生活中的痛苦，并生活在永恒的幸福状态中。埃隆·马斯克例如，他曾表示，他推出了脑机接口初创公司 Neuralink，部分原因是为了人类能够在与人工智能的智力军备竞赛中保持竞争力。“即使在良性的人工智能下，我们也会被抛在后面，”马斯克在 2019 年的 Neuralink 活动上表示。“有了高带宽脑机接口，我们就可以选择一起去。”

这种渴望可以被解释为对我们的动物性的隐含厌恶，或者至少是一种将自己从动物性中解放出来的愿望。“我们将成为第一个设计自己后代的物种，”现任 OpenAI 首席执行官的技术专家 Sam Altman 在 2017 年的一篇博客文章中写道。“我的猜测是，我们要么成为数字智能的生物引导加载程序”——这意味着只是高级人工智能的垫脚石——“然后淡入进化树的分支，或者我们可以弄清楚成功的合并是什么样子。”

计算机科学家丹尼·希利斯（Danny Hillis）是现已解散的人工智能公司 Thinking Machines 的联合创始人，他在 90 年代初宣称，人类是由两个根本不同的东西组成的：“我们是新陈代谢的东西，是四处走动的猴子，正如历史学家大卫·诺布尔 (David Noble) 在其 1997 年出版的《技术宗教》一书中所引用的那样，我们是聪明的东西，它是一套思想和文化。“我们的价值所在，”希利斯继续说道，“人类的优点在于创意。这不是动物的事。” 与计算机的融合意味着我们从动物生物学中解脱出来。

这种人类/动物二元论在我们和动物进化树的其他部分之间提出了明确的认知断裂，而事实上并不存在这样的划分。它依赖于一种令人难以置信的人类智能模型，认为它与我们的身体、动物自我无关：一种观念，即“思想是计算，它不涉及人类经验的情感维度，也不涉及身体，”技术评论家迈克尔·萨卡萨斯 (Michael Sacasas)告诉我，他是热门 Substack 的《欢乐社会》( The Convivial Society)的作者。

正如萨卡萨斯所希望的那样，现在正在对人类在人工智能世界中的位置进行社会清算，这可能会促使我们开始重新思考这种二元论，认识到身体“不仅是理性软件的固件，而且实际上是打破二元论也应该意味着放弃我们赋予自己作为人类的独立地位。它可以帮助我们扩大智力本身的定义，以涵盖奥吉布林所描述的动物品质——“情感、感知、体验和感觉的能力”。毕竟，我们的大脑中没有任何单一的东西被称为“智力”或“思想”。它不是身体的一部分，而是与我们其他心理过程相连续的自然属性。动物都具有这些特征，并且在某些情况下甚至超过了这些特征。

例如，候鸟可以通过感知地球磁场进行导航。浣熊可以用它们超敏感的手“看到”并了解世界（这就是为什么有时可以看到它们热情地拍打物体和其他动物）。猪无疑是聪明的，但被广泛 引用的认为他们“像”三岁孩子一样聪明的想法反映了我们用单变量、以人类为中心的标准来衡量智力的令人沮丧的方式，而不是承认不同的生物有不同的思想。然而，这对我们来说也是非人性的，因为它像计算机的 CPU 一样判断我们的认知。如果我们能够正确评价动物的能力，那么我们也可能会看到，通过对我们思想的脱离现实的观点来宣称人类例外论是如何对我们自己造成精神伤害的。

人工智能的批评应该包括非人类动物

你不必相信人工智能可以变得自主并精心策划我们的灭绝，例如，聊天机器人已经模糊了人类和机器之间的界限，在不存在知觉的地方创造了知觉的幻觉，这是由语言学家艾米丽·本德。萨卡萨斯等人则指出，人工智能取代人类代表了现代社会消除生活低效率的努力的顶峰。“按照市场和技术资本主义的逻辑，如果你愿意的话，人类的低效率最终总是要被处理掉的，”他说。“从某种意义上说，人工智能只是进一步推进了这种逻辑……并得出了合乎逻辑的结论，那就是，你只是在摆脱人。”

这些批评对我来说听起来很真实——但它们也有一种专注于人类道德和精神独特性的方式，而排除了我们一直与他们共享这个星球的其他有知觉的、聪明的生物。萨卡萨斯指出：“人工智能产生的焦虑之一是建立在我们如何区分人类、提升人类或寻找人类独特之处的基础上。” 在一些重要方面，人类在动物中显然是独一无二的。但关于人工智能的批评性话语并没有表现出超越我们自身的思考，或者考虑这一时刻对我们低估动物的影响的兴趣。

例如，对人工智能大语言模型（LLM）最著名的批评之一将人工智能缺乏语言理解能力与动物进行了比较：“随机鹦鹉”的概念，指的是没有思想的聊天机器人如何根据概率模型吐出语言，不考虑意义。“你不是一只鹦鹉，” 《纽约》杂志三月份一篇广为人知的艾米丽·本德简介的标题如此宣称。

我确信本德对鹦鹉没有任何异议——鹦鹉是一种异常聪明的动物，人们认为它们能够以惊人的保真度再现声音，作为它们彼此之间以及与人类交流的一部分。但鹦鹉不是机器，对它们的想象只会强化人/动物二元论，这种二元论使我们对自己的思想产生了脱离实体的看法。就好像我们没有语言可以在不否认动物性的情况下肯定我们作为人类的价值。

人工智能的崛起应该是一个关键时刻，从那时起我们就可以开始认真对待我们与其他有感知的生物生命的关系。如果人工智能能够对我们做出判断，我们应该希望它比我们更加仁慈，它不会像我们对待其他动物那样挑剔、嘲笑或否定我们的能力和需求。如果我们不想被更强大的智能所欺压，我们就没有可靠的防御来继续做同样的事情。

我们不知道有感知力的人工智能是否可能，但如果是的话，我们就不应该构建它

这些都不一定告诉我们机器本身是否可以变得有知觉，或者如果它们可以的话我们应该如何进行。我曾经觉得有感知力的人工智能的想法很可笑，但现在我不太确定了。正如奥吉布林指出的那样，科学方法还没有弄清楚如何解释意识。她写道，现代科学“首先是以排除心灵为基础的”。

如果我们不知道意识从何而来，我们可能需要谨慎地假设它只能产生于生物生命，特别是考虑到我们在动物身上欣赏意识的记录很差。“进化只是反复选择生育婴儿的能力，而我们就在这里。我们有目标，”正如 Kelsey Piper三月份在Ezra Klein Show上所说。“为什么这个过程会让你得到有目标的东西？我不知道。”

我们没有理由相信当前的人工智能具有感知能力，但我们也无法知道这种情况是否会发生变化或如何发生变化。“我们已经到了可以生火的地步，但甚至不具备理解它所需的基本知识，”我的朋友卢克·盖斯勒（Luke Gessler），一位计算语言学家，告诉我。

如果人工智能中的感知能力能够出现（一个很大的假设），我怀疑我们是否愿意承认它，就像我们否认动物中存在感知能力一样。人类非常擅长忽视或谎报我们想要利用的生物的利益（不仅包括动物，当然还包括被奴役的人类、妇女和任何其他被排除在道德考虑之外的阶层）。创造有感知力的人工智能是不道德的，因为我们会把它作为动产带入世界。正如我们从非人类动物的经验中知道的那样，将众生置于财产地位本质上是不公正的，因为他们的福利将永远服从于经济效率和所有者的愿望。“我们将不可避免地给他们带来痛苦，”科幻小说作家特德·姜说。2021 年构建有感知力的人工智能。“在我看来，这显然是一个坏主意。”

在五月的一篇文章中，哥伦比亚大学哲学家 Dhananjay Jagannathan 对人工智能思维问题提出了不同的观点。他借鉴亚里士多德的思想，认为思想的本质不是可以科学推导或植入计算机的东西，因为它是我们作为生物动物生活中不可简化的一部分。亚里士多德的思想指出，“思考就是生命”。例如，浣熊通过拍打物体来了解周围的环境，小鸟通过啄食来了解周围的环境，或者人类的嗅觉生动地触发了遥远的记忆，这些经历都与思考的经历密不可分。他们与世界互动的生物器官。

贾甘纳森写道，其中的一个结果是，以数字方式上传我们的意识并从我们的身体中分裂出来的超人类主义梦想远不是任何形式的解放，而是“自我毁灭”。对于现代人来说，思考与动物性密不可分的想法可能很难理解，因为正如奥吉布林所写，我们的思维概念很大程度上来自计算隐喻。因为我们将我们的认知想象为一台计算机，所以我们开始错误地想象计算机可以思考。

人工智能唤起了我们对动物性的脆弱性和虐待的焦虑

贾格纳森的观点认为，我们可以通过与非人类动物的亲缘关系来理解思想，这有助于澄清二元论、计算经验观的令人不安的地方，人工智能和超人类主义哲学将其推向了逻辑终点。我们可以理解、测量和完善主观体验，将生活视为计算机上编码的信息片段的假设可能会得出明显令人反感的结论。它使人类和非人类生物生命的毁灭成为可能。

例如，著名哲学家威尔·麦克阿斯基尔 (Will MacAskill) 在其 2022 年出版的《未来我们欠什么》 一书中提出，野生动物数量的减少（如果您没有听说过，我们正处于大规模灭绝之中）实际上可能是可取的。他写道，他们的生活可能“平均比没有更糟糕，我认为这是合理的（尽管不确定）”，因为他们可能更多地由掠夺和疾病等痛苦组成，而不是快乐。那么，如果他们从未出生过，也许他们会过得更好——这一论点与超人类主义的冲动一样，即消除生命中的痛苦，并让与机器融合的生物在宇宙中殖民。

消灭野生动物的想法代表了剥夺生命物质内容的驱动力的更极端表现之一。同样，超人类主义哲学家戴维·皮尔斯 (David Pearce)是Herbivorize Predators组织的董事会成员（该组织旨在实现其名称所暗示的目的），他希望通过技术“消除人类和非人类生活中所有形式的不愉快经历，取代遭受“信息敏感的幸福梯度”的折磨。

在现实世界中，当野生动物的存在给我们带来不便时，它们往往会被大规模灭绝，消灭它们实际上在道德上是正义的这一观念可能为人类所从事的生态灭绝提供了理由。谁敢说人工智能有一天不会对我们说同样的话，根据它对我们的痛苦和快乐的冷酷计算，决定最好让我们摆脱痛苦？这与超越物质存在的苦难的超人类主义精神是一致的。

然而，这种对我们以及动物的生物自我的模糊估计，排除了以其他方式评价或解释生命的可能性。我们很难了解动物的内心，更无法判断它们是否认为自己的生活值得过。如果一个功利主义的精算师告诉我，我的余生将有百分之七十的痛苦，我不会选择死，即使我真的相信他们；我想活出我的一生。

在诗人艾伦·夏皮罗的一部作品中，我可以找到一种对动物生命非常不同、更加综合的解释，我一次又一次地回顾这种解释。他 2002 年的诗《欢乐》表达了欢乐、恐惧和悲剧的奇怪纠缠，这定义了我们的生活，他想象，也许野生动物的生活也是如此。他写道，“快乐”是一种“野蛮美丽”的东西，将其比作羚羊躲避狮子：

对我来说，这一愿景并不意味着野生动物的痛苦无关紧要，而是表明它们脆弱而神秘的充实生活值得一过。人工智能唤起了我们对动物性——我们自己以及非人类动物——的脆弱性和虐待的焦虑。它提醒我们我们自己的脆弱性，从机械的角度来看，我们身上那些深不可测或可以牺牲的部分。在一个操纵语言的能力不再是人类独有的能力的世界里，合理化的冲动可能会要求我们共同签署我们自己的过时。相反，我们可能认为我们的生物自我值得保留，并在这样做时邀请我们的动物同胞进入我们的道德圈。