学术发表｜我院吴冠军教授：通用人工智能——是「赋能」还是「危险」

人工智能比人类更懂策略、更有知识、更会创作

        2022年11月，前身为“脸书”的“元”（Meta）在《科学》杂志上发表了一篇题为《在〈外交〉游戏中将诸种语言模型同策略性推理结合的人类水准游戏》的论文。《外交》是由美国玩具公司孩之宝（Hasbro）于20世纪50年代开发的一款七人制经典策略游戏。通过对20世纪初欧洲七大国的“扮演”，玩家需要与其他选手建立信任、谈判和合作，并尽可能多地占领领土。这要求玩家制定复杂的计划并及时调整，理解他人的观点乃至看破其背后的动机，然后应用语言与他人达成合作，最后说服他们建立伙伴关系和联盟等。在游戏时玩家可以遵守或违反对其他参与者的承诺，亦可以私下交流、讨论潜在的协调行动。

       “元”的研究人员开发了名为“西塞罗”（Cicero）的人工智能算法模型，并于2022年8月至10月匿名参加了webDiplomacy.net组织的40场线上《外交》比赛。“西塞罗”的成绩在所有参赛者中高居前10%：它的平均得分为25.8%，是其82名对手平均得分（12.4%）的两倍还多。要知道，《外交》这款游戏完全不同于围棋、国际象棋等游戏，后者的游戏只需要遵照规则进行，而前者则需要在规则之上同其他玩家进行大量沟通，建立信任（抑或背后捅刀）。玩家不仅要懂策略，还需要擅长谈判、说服、结盟、威胁乃至欺骗。人工智能要玩好《外交》，不仅要有强大的策略推理能力，而且要有一流的交流沟通能力。

       “西塞罗”算法模型主要由两部分组成，分别是“策略推理”和“自然语言处理”。两项技术的整合，使“西塞罗”能够针对其他玩家的动机进行推理并制定策略，然后使用自然语言进行交流，达成一致以实现共同目标，形成联盟并协调计划。“西塞罗”会与另一位玩家协商战术计划，向盟友保证其意图，讨论游戏中更广泛的战略动态，甚至只是进行随意的闲聊——包括几乎任何人类玩家可能会讨论的内容。在实际的比赛过程中，“西塞罗”的对手们几乎都未能将它与其他人类玩家区分开来（只有一位玩家有所怀疑）。

       “西塞罗”使用了此前webDiplomacy.net上4万多场《外交》游戏的数据集进行了预训练，这些数据中还包含玩家之间交流时产生的超过1290万条消息。在达成合作、谈判和协调上，“西塞罗”已经超过绝大多数人类玩家。这意味着人工智能在自然语言处理领域取得了里程碑式的成就，甚至意味着向通用人工智能（AGI, artificial general intelligence）的一大迈进。“西塞罗”的成绩标识出，人工智能已经能参与并且比绝大多数人类更好地完成以前被视作“政治”的事务。

       同样在2022年11月，人工智能研究公司OpenAI推出了一个叫作“ChatGPT”的人工智能聊天机器人程序，该程序使用基于“GPT-3.5”架构的大型语言模型，并同时通过“监督学习”（supervised learning）与“增强学习”（reinforcement learning）进行训练。ChatGPT具有极其强大的自然语言能力：它不但可以同人进行谈话般的交互，并能够记住同该用户之前的互动，甚至会在连续性的对话中承认自己此前回答中的错误，以及指出人类提问时的不正确前提，并拒绝回答不适当的问题。在对话中很多用户发现，它还会编程写代码、写学术论文、给企业管理开药方……有不少人工智能专家认为，ChatGPT已到了突破“图灵测试”的边界。2022年2月成为美国国家工程院院士、并坐上世界首富宝座的埃隆·马斯克在推特上写道：“ChatGPT好到吓人（scary good），我们离危险的强人工智能不远了。”

       GPT将AIGC（AI Generated Content，人工智能所生成内容）热潮推上新的顶点。当下，人工智能撰写出来的论文、剧本、诗词、代码、新闻报道……，以及绘画、平面设计、音乐创作、影像创作方面的作品，其质量已然不输于人类创作者——如果不是已经让后者中的绝大多数变成冗余的话。实际上，大量当代创作者明里暗里已经开启人工智能“代写”模式。最近在国内火爆出圈的科幻全域IP《人类发明家：Ashes of Liberty》的创作者Enki曾说道：“在Runway和Stable Diffusion的加持上，《人类发明家》完成了角色的表达，场景的表达、电影海报的表达、logo图标的表达、整个内容总本的相关绘制、NFT 的制作、游戏场景的绘制等。这些工作如果以传统的方式是很难一个人完成的，但是由于AI的强大，作者仅仅使用业余的时间，从8月份到12月份，短短4个月基本完成了所有的内容，这是在以前不敢想像的。”

       人类创作者，竟越来越深度地倚赖人工智能来进行“创作”（有意思的是，他们自我冠名为“人类发明家”）。诚然，这在“以前”——“人类主义”（humanism，汉语学界通常译为“人文主义”）时代——是难以想像的。

       并且，人工智能正在从文本、语音、视觉等单模态智能快速朝着多模态融合的方向迈进；亦即，人工智能能够在文字、图像、音乐等多种模态间进行“转换型/生成型”创作。人工智能生成的作品，越来越好，“好到吓人”。人工智能的能力越来越强，强到令人“不敢想像”。人工智能之“智”，正在使人（“智人”）变得冗余。

       人类正在进入这样一个世界，在这个世界中，人工智能比人类更懂策略，更有知识，并且更会创作。这个世界，诚然是一个“后人类”的世界。

人类主义框架无所不在，我们还用这个框架来评价自身，人类被放置在宇宙的中心

       人工智能，激进地击破近几百年根深蒂固的“人类例外主义”（human exceptionalism）。人类在物种学上将自身称作“智人”（homo sapiens），然而，这个自我界定（实则颇有点自我贴金的意味）在人工智能兴起的今天，恰恰遭遇了前所未有的挑战。

       “人类例外主义”另一个更为人知的名字，就是“人类主义”——这是一个直接以“人类”为主义的思潮。“人类主义”（“人类例外主义”）尽管可以追溯到卡尔·雅斯贝尔斯笔下的“轴心时代”（即公元前800年至前200年），从古希腊的“人是万物的尺度”到中国的孟子“人之异于禽兽者几希”，都是人类例外主义者。

       在人类主义框架下，人类被放置在宇宙的中心，当“仁”——亦即“人”——不让地占据着舞台的“C位”。是故，人类主义亦可称作“人类中心主义”（Anthropocentrism，“C位”即是“中心”之意）。近数百年来，人类主义是如此根深蒂固，乃至于当一个人被评论为“人类主义者”（汉语语境里的“人文主义者”）时，他/她会很清楚，这是对自己的极大褒扬。而一个人能犯下的最大的罪，恐怕就是“反人类罪”了——阿道夫·希特勒就是被视作犯下了“反人类罪”。

       在人类主义框架下，“人”被设定可以同其他“对象”根本性地分割开来，并且因为这个可分割性，后者能够被对象化与效用化为“物”（things），亦即：根据其对于人的有用性确立其价值。人类主义用“人类学机器”（anthropological machine，吉奥乔·阿甘本的术语），确立起一个“人”高于其他“物”（动物-植物-无机物）的等级制。

       近数百年来，人类主义框架已然无所不在，我们用它评判所有“非人类”（nonhumans）——说他们有用或者没用（譬如“益虫”“害虫”），断定是不是“类人”。更进一步，我们还用这个框架来评价自身。当我们确定把理性的人（乃至西方还曾经把白人）定义为一种典范性的“人”时，那么其他所有不符合这个范式的人，就变成了“亚人”（sub-human）。犹太人、黄种人、印第安人、黑人、拉美人（如唐纳德·特朗普口中都是强奸犯的墨西哥人。在2016年总统竞选期间特朗普曾公开声称：“墨西哥送来美国的人都不是好人，他们送来的都是问题人员，他们带来毒品，带来犯罪，他们是强奸犯”，“应该全面禁止穆斯林入境美国”……这些言论非但没有影响特朗普当年一路过关斩将突进到共和党总统候选人位置上，并且在当时每次都使其支持率不降反升）、女人以及最近的LGBTQ……针对他们的各种残忍的政治性操作（典型如纳粹的“最终方案”），就可以在所谓捍卫“人类”（“人性”“人道”）的名义下展开。在人类主义的话语框架里面，这些“人”实际上处在“边缘”乃至“外部”的位置上——他们并非没有位置，而是结构性地处在以排斥的方式而被纳入的位置上（他们恰恰是以被排斥为“亚人”的方式而被归纳为“人”）。

人类主义框架正在遭遇以人工智能为代表的“技术对象”的严峻挑战，面对人类主义所铸造的这台动力强悍的“人类学机器”，存在着两种抗争方式

       在人类社会中根深蒂固的人类主义框架，正在遭遇以人工智能为代表的“技术对象”（technic object）的严峻挑战。技术发展到21世纪，在以雷·库兹韦尔为代表的技术专家眼里，很快将把人类文明推到一个“技术奇点”（technological singularity）上，在抵达该点之后，一切人类主义叙事（价值、规则、律令……）都将失去描述性-解释性-规范性效力。人工智能这个名称中被贴上“人类”标签的“技术对象”，却正在将其创造者推向奇点性的深渊。

       在物理学上，奇点指一个体积无限小、密度无限大、引力无限大、时空曲率无限大的点，“在这个奇点上，诸种科学规则和我们预言未来的能力将全部崩溃（break down）”（史蒂芬·霍金语）。奇点，标识了物理学本身的溃败（尽管它涵盖在广义相对论的理论推论之中）。与之对应地，技术奇点，则标识了人类文明自身的溃败（尽管它涵盖在人类文明进程之中）。

       在面向奇点的境况下，人类主义正在遭受前所未有的挑战。由HBO（美国鼎级剧场）推出的以人工智能为主题的科幻美剧《西部世界》（从2016年到2022年共播出四季），显然就不是一部人类主义作品。该剧中很多主角（人工智能机器人）似乎都明目张胆地犯下了“反人类罪”。该剧讲述了在遥远的未来，一座巨型高科技成人乐园建成，乐园中生活着各种各样的仿生人接待员，人类游客可以在乐园中为所欲为，杀害和虐待仿生人是该乐园的主要卖点，然而这座巨大机械乐园渐渐失去了对仿生人的控制，人类游客被仿生人杀死。可以说，该剧很不合时宜地展示了那些遵守伦理准则、通晓“科技以人为本”的人工智能的前景。

       在以人工智能为代表的“技术对象”正在激进地刺破人类主义框架的今天，我们则有必要反思性地探讨“后人类境况”（the posthuman condition）。我们也要看到，在该境况下，人类主义亦正在全力开动“人类学机器”，包括给人工智能制定“伦理”准则（比如，不能伤害人类），让它懂得谁是“主人”，知晓“科技以人为本”的道理。

       面对人类主义所铸造的这台动力强悍的“人类学机器”，存在着两种抗争方式。第一种反抗的进路，我称之为“新启蒙主义”进路：要通过抗争去争取的，是让更多的人进入到人类主义范式上的“人”的范畴里面来。这个进路实际上的反抗方式，是反内容不反框架，其隐在态度便是：既然人类主义话语是个典范，在这个典范内有那么多的好处，那么我得挤进来成为其中一员。它反的是关于“人”的具体内容（如白人、男人等等），而诉求是把各种被忽略、被排斥的“亚人”都拉进来——通过各种各样平权运动、女性运动、LGBT运动、Queer运动等，把这些“下等人”“奇奇怪怪的人”都拉进来。

       值得指出的是，这个进路确实具有一定的批判性强度，用纳入的方式来将更多被排斥在“典范”之外的“亚人”包容进来。这些斗争运动是有社会性与政治性价值的。但与此同时，这一进路恰恰亦是在确认人类主义框架本身，或者说它没有影响该框架，其努力不过是多拉一些人进入到这个框架中，把一些以前被嫌弃与抛弃的人也弄进来。所谓“包容”只是包容更多的“人”，就像于尔根·哈贝马斯所说的“包容他者”，这个“他者”必须是可以沟通与对话的、具备“沟通理性”（communicative rationality）的。

       进而，“新启蒙主义”进路的根本性局限，恰恰就在于：总会有结构性的“余数”（remainder）。“我”进来了以后，总还会有其他的“他者”在外面，成为人类主义框架下的“余数生命”。这就是所谓“身份斗争”的尴尬。就算LGBT进来了，Q（Queer）也进来了，总还会有这个视域里没有被看到或者看不到的在外面。而且形式上进来了后，是否真正被实质性接纳，也是一个根本性的社会政治问题。2020年的“黑命亦命”（Black Lives Matters）抗争标识出：哪怕二十世纪六十年代黑人民权运动取得了巨大的社会性影响，直到六十年后的今天，黑人也仍然没有真正摆脱“亚人”的地位。“黑命亦命”刺破了现代自由主义-多元主义社会的“所有命皆命”（All Lives Matters）的陈词滥调。

       第二种反抗的进路，可以被称为“后人类主义”的进路。较之“新启蒙主义”进路，这条进路在批判的向度上要激进得多。那是因为，它针对的是框架而非内容——不是哪些人可以进入这个人类主义框架中，也不是要“包容”更多的人；而是去质疑，凭什么这个框架本身就一定是合理的。在人类主义者眼里，后人类主义者笔下各种彻底溢出人类主义框架的论述，总是极其怪异的，比方说他们会讨论动物、怪物、杂交物（半人半动物抑或半人半机器）。

        唐娜·哈拉维在1985年就以宣言的方式，把“赛博格”（半人半机器）视作政治主体，当时震惊了很多学者，而现在则成为了后人类主义的经典文本之一。哈拉维本来是个女性主义理论家，但在她看来，“赛博格”这个概念恰恰具有着可以涵盖女性主义斗争、但又进一步越出其视域的激进潜能——“赛博格”打破了“自然/文化”“有机物/机器”“人/动物”这些二元对立框架，“混淆”了现代性的诸种边界。这就冲破了女性主义框架，亦即，我们是女人，所以我们为女人被纳入而斗争。当哈拉维宣布“我们都是赛博格”时，人类主义框架本身受到了挑战。

       这就是后人类主义在思想史上关键价值之所在，尤其是在新启蒙主义进路构成了主流的社会-政治方案的当代，“后人类”（并不仅仅只是“赛博格”）激进地刺出了人类主义框架。真正的批判，永远是对框架本身的挑战，而不是对内容的增减。“后人类主义”确立起一个新的开放式框架，在其中人类不再占据“C位”。“后人类”指向一个开放性的范畴，换言之，并不存在定于一尊的“后人类”；它更像是一份邀请函，邀请各种在人类主义框架下没有位置的亚人、次人、非人（……）来加入到“后人类-主义”的聚合体（assemblage）中。

人工智能所带来的“全面赋能”，和19世纪的“机器入侵”全然不同，全方位地将人类“驱赶”出去

       在我们的现实世界中，人工智能亦一次次地刷新人们对“智能”的认知，以至于马斯克于2017年就曾联合一百多位人工智能领域专家发出公开信，呼吁限制人工智能的开发。他曾在推特上声称：人类的第三次世界大战，将会由人工智能开启。马斯克甚至于2019年2月宣布退出了他与萨姆·奥尔特曼于2015年12月共同创立的OpenAI，并高调宣称“我不同意OpenAI团队想做的一些事，综合各种因素我们最好还是好说好散”。马斯克转而投资脑机接口项目，旨在使人（至少是一部分人）能够在智能上驾驭住人工智能。现在，人们眼里不再只有人。人类主义框架，被尖锐地撕开了一道缺口。

       让我们再次返回到近期人工智能这一轮新的爆发上。人工智能，正在激进地冲击着“智人”的自我界定。“西塞罗”算法模型与ChatGPT大语言模型，已然使得通用人工智能不再遥不可及、不可想像。“西塞罗”能够在高度复杂的主体间性（intersubjectivity）——可以是人际（interpersonal）或国际（international）——环境中达成合作、谈判和协调。而ChatGPT能编程、写学术综述、创作诗词、剧本、设计广告文案、进行多语种翻译，能做医疗诊断，能帮助企业进行战略分析与管理，能做数据分析与进行预测，能以某知名人物的口吻来表述观点或风格来进行创作……人工智能越来越成为没有能力短板的“全职高手”，它能做很多事，而且做得相当好，极其好，“好到吓人”。

       对于正在从事相应工作的职场人士、专业人士而言，职场的大门还能打开多久？此前是A译者被能力更强的B译者所取代，C设计师比更具创意的D设计师取代，现在是所有的人类从业者都将被“生成型预训练变形金刚”（孩之宝公司超级IP“变形金刚”便是“Transformer”）取代——与后者相较，能力尽皆不足、并且管理成本高昂的前者将全面不被需要。

       人工智能所带来的“全面赋能”，和19世纪的那次“机器入侵”全然不同——当时大量被称为“卢德分子”的纺织工人声称新技术将毁灭世界，并动手摧毁棉纺机器。人工智能的赋能，不只是针对人类的身体能力，并且针对其认知能力。那就意味着，人工智能绝对不只是用机器（智能机器）将工人从工厂车间中“驱赶”出去，绝对不只是针对所谓“低技能岗位”“体力劳动”，而是全方位地将人类“驱赶”出去，包括医生、翻译家、教师、律师、平面设计师、广告文案、理财经理、企业管理顾问、战略分析师等这类主要建立在认知能力之上的“高层次人才”。那么，实际上陷入全面无事可做的数量庞大的人，将何去何从？

       人类正在步入后人类境况中：人类文明将陷入技术奇点。代之以今天媒体专家们所热衷讨论的哪些领域和岗位会受人工智能影响，我们需要讨论人全面“不被需要”的问题：前者只是策略性的讨论（个体策略），而后者才能激活文明性的思考（文明转向）。

       在最根本性的层面上，我们有必要追问：在后人类境况下，失去人类主义框架的人类，将何以自处？

       凯瑟琳·马勒布的说法值得我们仔细品味。她说，面对人工智能的指数级发展，作为一个事实，人类已经在逐渐丧失原有的控制；而关键在于，“去智能地丧失对智能的控制”（to lose control of intelligence intelligently）。这也许就是后人类境况下人类的首要任务。