讲座回顾｜高奇琦教授：国家数字能力与国家治理现代化——从互联网到CHATGPT

       第二，我想谈谈国家治理现代化的内涵及目标。国家治理现代化这一议题非常经典，也非常重要，其是政治学的核心命题。同时，国家治理体系的重点是系统性。那我们要怎么判断国家治理的系统是成体系化的的呢？出于对这一问题的思考，我后来在做指数的过程当中，就把国家治理体系的提炼为三个核心系统，包括秩序系统、赋权系统、创新系统。首先，任何国家的治理肯定要有很好的秩序系统，这个秩序系统既包括它的税收，还包括对暴力的垄断，即个人不能随便滥用暴力。第二个是赋权系统，这是说国家要对社会的单元，包括个体进行充分地赋权。在最早的国家中，比方说前现代的国家，其可能更多强调秩序系统。不过，现代国家一定是强调赋权系统的。比如说今天所讲的民主，其实是在赋权系统上发展起来的。第三个是创新系统。创新是国家发展的持续动力。因为任何国家想要在非常复杂的环境中胜出，就一定要走到产业链的最高端。在国家治理中，其实是很难保证秩序的，国家要有足够资源才能进行暴力垄断，同时赋权也要资源，因而创新其实是保持活力的关键。

       接下来的内容则是对国家治理能力的讨论。什么是国家治理能力呢？我认为，国家治理能力是国家对各种治理资源经过特定机制的合成和转化所产生的国家治理效能。因而，国家治理能力建设的关键是绩效评价。其中最重要的评价是强度评价和有效性评价。我的基本观点是，国家治理能力不是越强越好，任何东西都是双刃剑，强可能有强的好处，但是特别强也会有强的问题。因此我认为，国家治理现代化的一个目标应该是要建设平衡型国家。换言之，应该保持国家与社会的平衡。平衡型国家包含三大平衡，分别是系统间平衡、强度平衡与情境平衡。这里面讲的秩序、赋权、创新代表的是系统间的平衡。强度平衡刚才我已经提到了，即强度不是越强越好。还有就是情境平衡，这是指国家的治理方式在不同的情境下应该是有所区别的。在日常状态下人民权利的行使和在紧急状态下的权利限制是不一样的。所以，这里面需要有平衡，我们不能把例外状态常态化。这也是阿甘本的重要观点，在不同情境中一定要有个平衡。

       第三，我想分享一下人工智能对国家治理现代化的助力与挑战。那么人工智能会对国家治理现代化形成哪些助力和挑战？我的基本判断是：首先，以人工智能技术为支撑的智能革命推动的生产力革命，可能会有效解决人类社会长期面临的资源紧缺问题。前面所提到的秩序系统、赋权系统和创新系统其实都高度依赖于资源的分配，因此智能革命能够为这些系统的高效运行提供了良好的基础。其次，人工智能技术会有助于解决社会赋权之后的共识达成难题。人工智能技术，特别像今天的对话机器技术，用得好的话其实是可以帮助实现很多政治学理想意义上的构想。比方说协商民主的问题。在协商民主的设计中，把大家聚集在一起进行协商成本太高，但是，在未来我们可以运用自然语言处理的一些方法，帮助提取关键词，从而更好地展示各方的意见。所以我认为，人工智能技术出现之后，它对选举民主会产生很大的影响。西方意义的选举民主其实是在第一次工业革命、第二次工业革命发展过程当中，受当时的技术条件所限，而形成的一种比较简便的、低成本的方式。西方国家的选民在此过程中就投一次票，然后在相关时间段内，选民在投票之后就把相关事务委托给被选举人。可其中造成的问题是，人民的很多想法不能很好地输入到政治系统当中。而这时候，就需要强调协商民主的重要性。由于算法可以直接加总和集聚人们的意愿，因此我认为协商民主在新的技术条件下，是完全可以做到的。最后，人工智能作为辅助技术，可以在一定程度上缓解国家和社会的交互需求过载问题。在一些交互需求井喷的时候，政府可能难以做到快速回应，而机器在理论上讲是完全可以做到的。同时，政务系统最早的形式是门户网站，其对用户来说比较不友好，然后第二个阶段是搜索引擎阶段，会略微友好一点。第三个阶段，我认为是智能音箱阶段。就是将来的类ChatGPT的产品，可以叠加到政务系统上。其实，这就是我认为的未来数字政府的形态。在未来，通用人工智能会很了解我们，但是要得到我们的授权。比方说某些人是弱势群体，更多需要政府的关心，而这技术上是可以做到的。这是一个机遇，将带来国家治理的全新变化。但同时，其中也会产生巨大的挑战。比如这些技术的应用会存在安全问题。换言之，设备的泛在化会对公民的隐私构成威胁，这又会对赋权系统形成压力。同时，人工智能和区块链是完全不同的，人工智能一定会产生集聚效应。我们今天所讨论的ChatGPT这种通用语言大模型，其存在的最大问题是会集中在少数寡头手中，让公平问题更加突出。

       所以，我在这里需要特别强调区块链的作用。也就是在第四部分，我将重点和大家报告区块链技术对国家治理现代化的影响。我认为，区块链恰恰是对人工智能的平衡性的技术。区块链有很多的特点，但最重要的有两点，第一个是分布，第二个是加密。分布的好处是什么？它可以分散权力，也即权力不是简单地集中在少数的寡头或是少数权力手中。而加密可以帮助保护隐私。同时区块链还会强调点对点，更有助于公平。

       当然，现在的区块链技术仍然是不成熟的。因为在现在的区块链比特币系统中，它存在很大问题。比特币最初的理想是去中心化，但发展到今天已经成为了新的寡头游戏。然而，国家的法定数字货币目前仍在进行试点推广。这说明国家对于区块链的相关技术也很犹豫。虽然区块链技术存在很多问题，但是这个大方向我认为是不会变的，其效果可能会要在几十年后才能被看得真切。另外，区块链跟政治学的关系十分密切。因为区块链说到底是人类民主理想的技术化。

       在第五大部分，我主要谈一下，在刚性治理与弹性治理之间的平衡型国家。我认为，人工智能和区块链的相互结合有助于实现国家治理体系中三大系统间的平衡。第一，对于秩序系统而言，人工智能作为一种集聚性技术，其推动的生产力革命和共识革命自有积极之处，但其加剧的安全挑战又会对秩序系统形成某种潜在危险。而对赋权系统而言，一方面，生产力革命会使得社会产品丰富，这是社会赋权的物质基础。另一方面，人工智能所加剧的隐私侵犯问题又不利于赋权系统。也就是说，人工智能是集聚性的。这种集聚是一把双刃剑。而区块链恰恰是分布式的，这两者之间如果能结合好，那一定是比较好的。但是不管怎么说，人工智能和区块链都是基于程序的，它们代表的是一种刚性。刚性的东西有好处，它好在于什么地方？

       其实，国家治理现代化最大的问题，是面临人情等传统因素的限制。而刚性的东西对所有人来说具有一种程序平等性，这会有助于现代化。但其中又会产生新的风险。比如说刚性治理可能导致程序智能的异化，进而出现程序智能操纵公民意愿和选举、深度伪造与后真相社会来临、人类自主性减弱和消失等危机。也就是说，刚性治理本质上是把所有的问题转化为技术问题，但它并没有完全解决问题。虽然说大多数的方案主张用技术来解决技术问题，但是我认为政治方案仍然需要由政治系统来实现，而不是由技术系统来做出。换言之，我们最终还要回到政治系统、回到人之中，也就是强调每个公民个体及每个参与者的作用。所以，我在这里反复强调弹性的意义，就是主张一种回到人、回到共同体之下的自由，进而保证经济和社会单元具有充分的活力和创造性，并实现国家与社会之间的动态平衡。

       所以在今天，有几类问题是需要我们迫切去思考的。第一，对一些核心价值的定义，需要在国家与社会之间达成充分共识。比方说，将来ChatGPT可能会引发巨大的社会分裂。现在已经出现了一些端倪，例如对于今天在课堂上要不要引入ChatGPT，人们已经进行了激烈的讨论。有人认为，对于这么先进的生产工具，人们应该要使用；而有人却主张绝对不能用，因为人用后就会依赖于它，进而导致人类堕落的开始。这两种观念是如此不能相容，而这样极化的思维，可能就是今天非常典型的特点。因此，在如何看待机器的问题上就需要有社会共识。

       第二，国家与社会应合力保证人类在治理实践中的自主性。我之前是非常鲜明的人类中心主义者，或者叫保守主义者，而这肯定跟拉图尔的观点是完全相反的。例如，我曾提出来机器人新三原则，也即：其一，机器人永远是辅助；其二，人类决策占比不低于黄金比例；其三，人类应时刻把握着人工智能发展的节奏，并随时准备好暂停或减速。

       第三，在保障国家治理能力有效性的基础上充分对社会个体进行赋权。也就是说，平衡型国家一定要处理好刚性和弹性的问题。国家既要用成果进行国家治理的制度化建设，还要充分向社会和个体赋权。

       第四，国家应在生产力革命的基础上充分鼓励经济和社会单元的创新行为。

为何国家数字能力很重要？

       前面报告的内容进一步引出了国家的数字能力问题。因此，在接下来的报告中，我讨论的核心是，数字革命对国家的能力（或者叫国家治理能力）会产生什么影响？同时它对国家形态、国家的运作方式又会产生什么影响？该如何通过国家治理能力建设来充分应对这场深刻且具有颠覆性的数字革命？

       对于这些问题，我主要从国家秩序能力、国家赋权能力和国家创新能力这三个能力进行分析。对于这三个能力，我将其称之为国家秩序体系。体系本身就是一种能力，其是一体两面的。首先，国家秩序能力主要涉及政治秩序的初始构建，其需要通过建立基本的暴力机器和财政系统来实现对社会资源的获取，从而维持政治机器的基本运作。其次，国家赋权能力则是一种分配能力。政治系统在建立之后必然面临政治合法性的问题。一定是要分配得好，这其实是政治的核心。政治在某种程度上其实就在强调一种分配。而赋权能力则涉及社会财富的分配，以及社会大众权利的进一步保障等问题。另外，国家创新能力主要涉及社会财富的再创造以及再分配。通过社会财富的再创造以及帕雷托改进式的再分配，能够使得全体社会大众在相对满意的情况下推动社会变迁。目前国内外学者在讨论国家能力的构成要素时，更多强调秩序能力和赋权能力两方面内容。而我认为，秩序能力和赋权能力更多反映了前两次工业革命的特征，而在进入第三次工业革命之后，创新能力就显得至关重要。

       数字革命对国家治理能力会产生什么影响？在某些方面，数字革命会加强国家治理能力。例如，数字治理的精准性和高效率可以提高国家治理能力。然而，数字革命对国家治理能力的影响是极为复杂的。它在帮助解决国家治理难题的同时，也在多个方面制造新的挑战和问题。我认为，数字革命使得几个时代的特征越发凸显。这三个特征包括变动性、碎片化和平台化。首先是变动性，比如在转型的过程中，刚才所讲的ChatGPT就是一种典型的转型，它可能对整个教育体系形成很大的冲击，这叫变动性。变动性会产生不稳定，并产生巨大的波动性。其次，是碎片化的挑战非常大。因为很大程度上，人们生活在被数字巨头创造的信息茧房里。我们所处的是一个分散化、碎片化的世界。再次是平台化，它的挑战更大。平台是今天不可避免似乎我们对它又无能为力的东西。我们需要依赖平台，没有平台就没有数字能力，可在过度的依赖中，人们可能会被它异化。因为越来越多的资源会集中在平台企业手中，同时平台企业会进入国家主权的相关领域，甚至在部分领域会挑战国家治理的权限。比方说，为什么国家一定要推国家法定数字货币？其中的一个背景是因为某些支付平台侵入了国家最核心的权力——金融权力。因此，国家必须要拿回来这个权力，否则就会动摇国家的根本。另外，平台企业获取的数字剩余价值既具有生产性和创新性，也具有剥削性和垄断性。它呈现出非常复杂的样态，最近福克斯等很多传播政治经济学学者都讨论过这个问题。

       接下来，我想谈谈我提出的一个概念。这个概念叫做“想象中的数字能力幻觉”。它是指似乎国家在数字革命的背景下会拥有更强的能力。例如，在秩序能力方面，国家可以借助数字技术对政治、社会和经济的发展进程进行掌控。然而，由于自身的数字能力并不强，这实际上从内在结构上对国家的秩序能力提出了诸多重要挑战。因此，我用“想象中的数字能力幻觉”对此加以概括。

       具体而言，由于各方面的限制，国家治理能力在具体的情境中可能会陷入三种困难：即对数字秩序的构建困难、对社会多元力量的赋权困难、对数字资源进行再分配及激发社会活力的困难。第一，国家难以主动地构建数字秩序。第二，国家难以对社会多元力量进行充分赋权。因为社会太碎片化了，大家都有各自想法，国家应付不过来。第三，国家很难通过对数字资源的再分配来激发社会活力。这是难题，国家是希望这么做的。但是，数字资源会越来越集聚，典型的例子就是ChatGPT。大模型之大，不是小公司可以做的，我觉得这是关键的问题。

       进一步来说，在数字革命对国家治理能力形成挑战的过程中，三大能力都面临巨大的威胁，其包括剧烈的波动、不平衡、碎片化、影响创新等，最后我认为它是想象中的数字能力幻觉。那我们应该怎样有所改变呢？我认为，我们恰恰要构建一定程度的国家数字能力。这种构建主要还是围绕着秩序、赋权、创新三大方面。同时，要对它有所评价。那评价的框架是什么呢？

       我认为这种评价主要包含两个指标，一是嵌入，二是自主。自主性涉及的数字核心资源主要包括两类，即数字基础设施和数字人才。数字基础设施的自主性意味着，某些关键领域或者核心技术设施应该由大型国有企业来提供支撑。这种自主性还体现为数字基础设施的国产化。另外，我们同样需要在政府、科研院所以及国企拥有足量的数字化人才，因为数字化转型的关键是人才。当然，国家数字能力的自主性也并不是绝对的越强越好，而是要与经济社会发展的基本条件相契合。因为往往越强的东西，越是不可持续的。所以比较好的做法是施行一种嵌入性委托代理的方法。委托代理其实是下任务，让大企业进行专项整治并让它们自己来解决这些问题。而嵌入性逻辑的关键在于要将国家数字能力与企业数字能力、社会数字能力整合在一起。这样的嵌入性能力可以减少国家在数字领域的投入，同时也可以通过适度授权以及选择性激励等方式激活企业和社会大众的创新潜能。同时，嵌入性逻辑还体现为对社会的嵌入，即对少数群体包容性的体现。

       所以，以这两个指标作为纵轴与横轴会形成四种类型的国家数字能力。最理想的类型是双强平衡型，而最糟糕的类型是双重脆弱型。双重脆弱型意味着国家既没有自主能力，也没办法让平台企业协助自身进行治理。其实，现在在数字领域，更多体现的是一种社会灵活型数字能力。之前在有些方面，国家更多采取的是委托治理，但是在数字治理领域却并非如此。当然，最理想的国家数字能力是，国家自身能力很强，然后又对平台企业有一定的规则约束能力。

       整体而言，国家数字能力构建需要从整体的国家治理体系的角度来考虑，并使其不断地处在动态调整之中。这就需要从整个国家治理系统的角度来考虑对数字能力和数字规则的设计。而动态平衡指的是对自主性和嵌入性形成准确判断以及及时调整。那么，在未来国家数字能力的建设过程中，如何实现自主性能力和嵌入性能力之间的动态平衡呢？我认为这主要包括三大内容。第一，要坚持辩证法和适度原则。这里实际上存在两组辩证法。一是应该辩证看待效率与公平的平衡，另一个是辩证处理收益与成本的平衡。第二，要及时测量和进行动态评估。也就是说，要实现对自主性能力和嵌入性能力这两者进行更加有效和精准的测量。第三，进行阶段性微调。在阶段性微调的过程中，还要准备充足的政策工具箱，使得这样一种微调较少地损害相关单元或个体的实际利益。总之，这样的阶段性微调要在较小社会成本的基础上发生，并以一种柔性治理的方式加以运行。

ChatGPT的创造性破坏效应与国家治理

        第三个大方面，我想和大家讲讲ChatGPT。说起ChatGPT，大家的第一反应，可能只是认为它只是一个聊天机器人。其实，ChatGPT代表的是一种通用大语言模型，它在往通用的方向走。我们今天所用的大模型里，运用了原来大量的深度神经网络的技术，包括这里面写的CNN（卷积神经网络）。还有其他的，比如循环神经网络、GAN（生成对抗神经网络）。其中有个标志性的技术，叫做Transformer。所以GPT的“T”是代表的是“Transformer”，而GPT的全称是Generative Pre-training Transformer，意思是指深层次的预训练转换器。

       ChatGPT中的算法核心是Transformer。Transformer模型是由谷歌提出的，它产生了两个方向的进展。我举个例子，BERT模型适合做完形填空，而GPT是在Transformer方面上进行拓展的，它更适合用来进行内容生成。通用大模型接下来可能会应用到各个领域中去，同时结合这样的知识图谱，它能够解决各种复杂任务，会产生对人较强的代替效应。当然，现在还不能说ChatGPT就是通用人工智能，但是它让我们看到了通用人工智能实现的可能性。这主要体现在它可以写代码、可以生成小说等等，它在很多方面似乎是无所不能的。所以，ChatGPT在本质上是一种通用大模型，它是人工智能的重要进展。

       在最初训练的时候，大模型是一种单语言模型，其是自然语言处理里的分支。人工智能分为几个领域，这些领域包括视觉、语音、自然语言处理和有形体的机器人。其中，自然语言处理是最难的。阿尔法狗的突破其实主要是计算机视觉的突破，它能够通过视觉来对棋面上的信息进行分析。所以，2016年是计算机视觉的进步。但是，最近被人们热议的由OpenAI公司推出的ChatGPT，代表的不是一种视觉处理，它本质上是自然语言处理。它最早源于早期的词嵌入（word embedding）的工作，然后从单语言发展到多语言。什么叫多语言呢？这是指机器具备多样化的基础语言能力，能够分别处理多种自然语言任务，如机器翻译、问答系统、情感分析等。那什么叫多模态呢？这是指机器以多语言训练模型为核心，能够进行文字、图片、视频的同步转化，实现处理多任务的目标。所以，ChatGPT让我们感觉到，智能革命已经来了，或者至少已经在门前。

       在ChatGPT兴起的过程中，可能很多人会有这么一个疑问，即为什么这样的创新没有出现在中国？其实，这里面的原因非常复杂。我先回答另一个问题，那就是为什么这样的创新没有出现在谷歌，而是出现在OpenAI？可能大家对谷歌更为熟悉，相对而言并不太了解OpenAI。因此我们需要思考的是，为什么ChatGPT这样的颠覆性创新现在出现在了小公司而不是大公司？

       其实，这里面至少有两个原因。第一，大公司会特别在意股价，所以它不会投入很多的资金纯粹去做科研。而OpenAI最初就是非营利组织，它的定位是一个专门搞科研的机构和非营利组织，而大公司则需要考虑业务的产出与盈利。第二个原因是公众对大公司的容错度会比较差，如果出现错误，公众可能很难接受大公司的产品，从而导致股价的剧烈波动。但ChatGPT却不同，由于它是小公司的产品，它不用担心股价的问题。它在用户使用过程中，会反复提醒用户，它产出的内容可能是有错漏的。这种提醒使得用户对它有了更强的接受度。

       另外，在位的大公司、大企业不太愿意做这样的剧烈革新。而OpenAI内含一种长期主义，能够为其目标持续迈进。同时，大模型是由数据和算力堆出来的，它在运行过程中亟需算力的支持。而微软的云计算可以给OpenAI提供算力，所以微软给OpenAI投的那几十亿美元当中，其实大部分折算成了算力的使用费用，微软给的并不都是现金。微软以某种资本的方式投入到里面去，然后换取OpenAI的股权。所以OpenAI和上一轮被谷歌收购的DeepMind公司有点类似。它们都像是一种体外生存模式，即先进行体外培育，在体外培育好了之后，大公司再以某种形式进入，并与大公司的核心产品结合。这是美国科技创新中非常突出的一个特点。

       进一步来说，这样的创新为什么没有出现在中国？其实这个问题能够被提出来，本身已经反映了中国的进步。在十年前，我们不大会提这样的问题。而近几年类似的问题被反复提出，其实已经反映了一种巨大的科技创新自觉。至于为什么没有出现，这是因为中国的科技发展还需要经历一定的阶段，我们还有大量的工作要去做，在资金投入等许多方面也需要进行“补课”。有人批评说中国人没有长期主义，都急着赚钱。虽然这种说法确实反映了某些特征，但实质上科技发展与我们的发展阶段有很大关系。只有到了后现代阶段，相关的科技企业才有能力更多地去考虑改变世界、拯救世界的事。当前，中国还处在现代化发展阶段。在这个发展阶段中，相关的科技发展背后存在着一种根本性的结构主义。我认为，接下来在相关的技术创新上，中国进行追赶是没有问题的，但是这种“追”也不能是刻舟求剑式的“追”。其中比较关键的问题就在于，接下来的人工智能发展，可能在创新方式上会进行很多转换，而中国会不会出现这样的原始创新，我认为是比较关键的。ChatGPT已经是过去时了，但如果再给中国两次或三次机会，中国到底能不能抓住新的机会？这个是我们今天亟需思考的问题。

       接下来,我将谈谈ChatGPT的“创造性破坏”效应及其风险。ChatGPT的创造性破坏到底体现在什么方面？其核心在于它会创造新世界，同时打破旧的生产关系。那ChatGPT又会产生哪些风险呢？我认为，第一个是技术风险。ChatGPT背后用的是深度学习算法，具有不可解释性，这个问题并没有得到解决，而这是最大的风险。当然，技术风险还有很多。因为ChatGPT是由数据喂出来的，而数据代表着人类的前见。数据反映了人类的知识，这也就是用伽达默尔所说的前见。用这些数据对ChatGPT进行训练，则将加剧人类的成见。另外，ChatGPT还会造成很多社会风险，比如说它可能造成失业问题，同时它还可能对整个教育体系形成冲击。比如，未来在教育领域可能会出现一种现象，可能我们会需要找鉴定机构去鉴定某些文章是不是由ChatGPT所写的。而在经济风险方面，ChatGPT会加剧寡头垄断，同时对世界分工体系产生非常复杂的影响。原有的世界分工体系非常明确，其已经规定好发达国家与发展中国家的分工。但现在美国正在加紧推行“小院高墙”的措施，它在持续将先进生产力迁回国内。为什么美国要把大量的算力资源集中到本国？为什么它要把台积电搬到美国去？其中的原因是，美国想要完全掌控这些资源。说得通俗点，按照美国人的想法，以后世界分工基本可以不再进行，美国只需要把先进生产力锁闭在其国内及其联盟中即可，这种思路会对世界产生巨大挑战。另外，ChatGPT还蕴含着极大的政治风险。如果ChatGPT被用作意识形态斗争的工具，其将造成非常糟糕而可怕的结果。也就是说，在未来我们可能无法判断一些帖子到底是由人类所发还是由机器水军所发的。需要着重提出的是，ChatGPT还会对传统的政治学学科产生冲击，它会在很多维度上对我们产生认知上的颠覆。

       不过，虽然ChatGPT蕴含着很多技术风险，但我认为我们仍有办法去应对这些风险。在应对的过程中，我认为我们至少应该坚持以下几个原则。第一是开放创新原则。我们不能因为害怕风险而终止创新，我们应该走到创新的最前沿。第二是合力突破原则。我们需要继续发挥新型举国体制的统筹协调作用，在算力等方面的协调中实现“大力出奇迹”。第三是风险共担原则。ChatGPT是一把双刃剑，它既展示了诸多优势，但它又是巨大的风险源头。所以，整个政治制度的设计就会变得至关重要。所以接下来我们需要着重强调国家治理能力的弹性与整个制度的设计。如果国家制度不够有弹性，不能包容里面产生的创造性破坏，整个创新体系就会缺乏韧性并发生断裂。第四是审慎监管原则。对于ChatGPT这类产品，国家不应该总是进行强监管，也不能一关了之。如果选择一关了之的粗暴做法，则有可能也把先进生产力给关掉了。理想的做法是根据不同情境进行平衡监管，保障技术的有序推进。

       总的来说，我们现在正处在一个“乌卡”时代，高度不确定性是这个时代的特点，而ChatGPT似乎又增加了这种不确定性。面对ChatGPT呈现出的冲击性、矛盾性和冲突性，我们应该怎么办？说实话，我也不太清楚。但我想，今天我进行报告的价值就在于把这些问题呈现给大家，并启发大家去思考如何能够通过构建法律机制、增强竞争能力、加强市场应用、防范失业风险、推动教育改革及消除政治风险等方式，促进ChatGPT等技术的向善发展。

文字｜高奇琦

编辑  |  卢昱舟