生成式人工智能的意识形态风险与治理策略:基于政治经济学批判方法的考察
作者 牛子牛
发表于 2025年2月

内容提要 近年来,以ChatGPT为代表的生成式人工智能技术迅猛发展,为国家意识形态安全带来了严峻挑战。应当从马克思主义观点出发,在政治经济学批判视野下考察生成式人工智能的意识形态风险与治理策略。生成式人工智能是机器学习技术的高级形态,其演化路径受到当代资本主义经济结构的塑造。其意识形态倾向是从互联网大数据中“学习”得来的,受到互联网舆论生态的决定性影响。生成式人工智能的行为逻辑脱胎于商品流通逻辑,呈现出“有意义而无真值”的话语特征,有可能造成意识形态实践的“表演化”,威胁社会主义意识形态建设的严肃性。生成式人工智能延续了平台资本的私有性与公共性、集中性与开放性的矛盾,受制于“数据利润率下降”趋势,这为我国赢得新技术条件下的意识形态斗争提供了契机。坚持中国特色社会主义道路,创新意识形态工作形式,尽快研发具有我国自主知识产权的生成式人工智能技术,是解决人工智能意识形态风险的治本之策。

关键词 生成式人工智能 意识形态 当代资本主义 政治经济学批判

〔中图分类号〕B016.98 〔文献标识码〕A 〔文章编号〕0447-662X(2025)01-0065-11

近年来,以ChatGPT为代表的生成式人工智能技术迅猛发展,表现出不逊于人类的表达力、创造力,博得各界广泛关注。生成式人工智能的主要技术突破在于,它不仅能像以往的人工智能一样完成预先设定的单一任务,而且能根据用户指令完成多元任务,包括对话、翻译、写作、检索资料、输出观点、提供决策建议、绘制图像等。生成式人工智能不仅更加全能,而且输出的语言十分自然地道、接近日常用语,绝少“机械感”“违和感”,以至于用户几乎能将它当作“真人”看待。如2018年图灵奖得主约书亚·本吉奥所说:“我最近签署了一封公开信,要求减缓比GPT—4更强的巨型AI系统的发展———它们正在通过图灵测试,还能欺骗一个人相信他在跟真人而非机器对话。”继ChatGPT在语言处理领域取得突破之后,Midjourney、Sora等大模型又在视觉领域展现出强大能力。如Sora能按照用户指令生成一段几十秒的小视频,其内容纯属虚构,效果却可以乱真。有学者据此认为Sora有模拟整个物理世界的潜力,能够发展为“世界模拟器”。

与此同时,生成式人工智能的意识形态风险日渐成为一个紧迫问题。根据海内外大量用户的观察,ChatGPT在与用户对话时会表现出明显的意识形态倾向,偏爱发表符合美式“政治正确”的言论,对与之相左的问题往往避而不谈;在与中国相关的问题上,ChatGPT经常流露出美式偏见,对中国特色社会主义制度做出不公正的评价。 网民运用ChatGPT生成具有意识形态色彩的内容,通过网络平台大量传播,频繁形成舆论热点;“看看AI怎么说”已经成为一种独特的讽刺创作风格。这些迹象表明,生成式人工智能并不是一种意识形态中性的技术工具,而是一种具有内在倾向性的意识形态“主体”、一种具有复杂结构的意识形态生产场域。有鉴于此,有必要从马克思主义观点出发,探索生成式人工智能的意识形态风险与对策。本文主张,以ChatGPT为代表的生成式人工智能的兴起根植于当代资本主义的特殊经济结构,相应的意识形态治理策略也必须在政治经济学批判视野下得到考察。

一、生成式人工智能的经济根源与意识形态效应

以ChatGPT为代表的生成式人工智能是智能技术的高级形式,是当代资本主义对技术发展路径加以筛选和塑造的产物,其意识形态特性有着深刻的经济根源。为此,我们有必要追溯人工智能技术与当代资本主义的互动关系,从中探寻生成式人工智能意识形态偏好的形成逻辑。

当代人工智能技术的主流路径是机器学习技术,其兴起与当代资本主义内在结构紧密相关。20世纪70年代以来,全球资本主义面临严重的资本过剩问题,“福特制”积累体制难以为继,货币资本纷纷从实体领域转移到金融领域以提高利润率,形成了“金融化”的趋势。这为信息技术产业的兴起提供了有利条件。金融资本的主要投资对象不是传统意义上的实体资本,而是“虚拟资本”,即未来的收入流在当下的折现。如马克思所说:“人们把虚拟资本的形成叫作资本化。人们把每一个有规则的会反复取得的收入按平均利息率来计算,把它算作是按这个利息率贷出的一个资本会提供的收益,这样就把这个收入资本化了”。虚拟资本的价格由未来收入的预期决定,这与信息技术产业所生产的“知识产品”情况十分相似。“知识产品”或“知识资产”的价格很难像传统有形产品那样用过去耗费的成本来衡量,其定价更接近虚拟资本,现在的价格取决于未来收益的预期。如扬·穆里埃·布当在《认知资本主义》中所说:“价格形成借用了安德烈·奥尔良曾经强调的一种机制,它本来是在金融投机中运行的:在玩家之间形成一种共同意见。……于是,知识产品的价值形成与证券交易资产的金融估值之间就有了一种很强的关联。”因此,金融资本很容易介入科技资本的发展:金融资本可以利用自身的虚拟资本估值技术,为知识资产建立估值模型,在此基础上募集融资、推动科技企业迅速扩张,以便获得虚拟资本增殖。

在这种金融资本与科技资本紧密联动的“虚拟化”运作模式中,金融资本和实体资本的直接目的都是虚拟资本增殖,而不是真实的利润。这一特征塑造了当代科技资本的运营策略。第一,虚拟资本估值不必建基于真实的财务指标,而是可以建基于一些看似与未来利润相关的“间接指标”,如点击率、流量、用户数量等。这使得平台资本倾向于采取“免费模式”,牺牲短期利润,换取最大的用户规模和最快的增长速度。第二,“免费模式”释放了互联网平台特有的“网络效应”。平台达到一定规模后,包含的节点越多,效能就越强,这又会吸引更多节点加入,形成一个正向循环。这种“网络效应”推动平台规模加速扩张,形成了强大的“协作生产力”,且很容易达成垄断,能够迅速拉升平台企业的虚拟资本价格。第三,上述两个特征共同决定平台资本的运营策略不同于传统工业资本,不是“封闭性”的,而是“开放性”的。平台资本为了最大限度发挥“网络效应”,获得最大的“协作生产力”,就不能独占数字生产资料,必须将其免费开放给其他用户使用,让更多用户共享平台效能。

平台资本的发展为机器学习技术的兴起创造了条件。机器学习并不是人工智能技术的唯一路径,它能在众多技术路径中脱颖而出,得益于它与平台资本运营逻辑的高度适配,其中最关键的环节是数据闭环的创造。机器学习模型为了产生智能,需要不断接受“大数据”的训练。这种意义上的“大数据”不是通常所说的“数据”或“信息”,而是平台资本所创造的一种动态的、自行增殖的数据流。平台资本通过在线服务吸引大量用户,将用户的日常活动(如社交、购物、支付、娱乐等)塑造为必须依赖平台的形式,进而将用户的线上活动编码化、转化成数据记录下来,形成所谓的“大数据”。这些数据可以训练后台的机器学习模型,从而增强平台效能,吸引更多用户,产生更多数据,形成一个自行增殖的数据闭环。由此,人工智能的进化过程与平台资本的增殖过程紧密结合、相互促进,平台资本的发展模式深刻塑造了人工智能技术的演化轨迹。

基于平台资本与人工智能的耦合关系,商品流通逻辑主导了生成式人工智能的发展取向。20世纪70年代“滞涨”危机以来,资本主义始终面对资本过剩与需求不足的严重矛盾。为此,资本主义必须诉诸流通领域的结构转型,在供给和需求之间建立精准连接,以便扩大剩余价值实现的范围,将工人有限的消费能力发挥到极致。因此,流通环节在当代资本主义中的地位迅速上升,以至于目前占据统治地位的平台资本(如社交媒体、电商平台等)在本质上都属于流通环节。机器学习技术的大规模商业化应用最初就是在流通领域实现的。例如,搜索引擎可以根据用户输入的关键词,为其推送他最有可能点击的广告;社交媒体可以将兴趣相近的用户集中在一个群组之内,让商品链接准确触达目标;电商平台可以为用户推送其最有可能感兴趣的商品,将原本不存在的需求“创造”出来。在这些应用场景下,平台资本为了扩大利润,必须触达更多用户,频繁提供用户感兴趣的内容,持续吸引用户注意力,以便创造更多推送商品的机会。正是着眼于这些目标,平台的机器学习算法得到了针对性训练。可见,机器学习的训练目标源于商品流通的需要,训练数据也是商品流通的数据;它势必倾向于做出有利于商品流通的决策,生产并传播有利于商品流通的内容。因此,商品流通逻辑深刻嵌入了机器学习的底层架构之内,决定性地影响着人工智能的演化方向。

基于上述政治经济学考察,我们可以对生成式人工智能影响下意识形态领域的形势做出如下几点判断与解释。

第一,生成式人工智能的意识形态倾向受到商品流通逻辑制约。如前所述,平台资本的主要业务是扩大商品流通,需要生产特定内容、激发特定体验,捕获用户的注意力和在线时间。于是,具有强烈意识形态色彩的内容成为互联网资本的重要引流手段。意识形态生产不再是一个与商品生产相分离的“上层建筑”领域,而是部分地与商品生产相重叠,通过商品生产来进行,服务于商业平台的流量扩张。唯其如此,互联网意识形态领域出现了一系列乱象:有些“意见领袖”输出偏激观点,迎合大众非理性认知;有些自媒体鼓动社会撕裂、传播社会焦虑;有些平台利用争议话题大量引流,蓄意“拉踩”“引战”;凡此种种,不一而足。

生成式人工智能的兴起有可能进一步加剧上述乱象。在生成式人工智能加持下,平台资本不仅有传播分发内容的能力,更有自动生产内容的能力,可以不依赖人力而快速生产大量引流内容。这种内容生产必然更加严重地受到商品流通逻辑的影响。这有可能导致大量带有强烈意识形态偏见的内容充塞网络,加剧舆论生态分化对立,引导网民创作更多的极端意识形态文本,再作为数据反馈回智能算法,形成一个自我放大的恶性循环。

第二,生成式人工智能的意识形态倾向受到其用户群体塑造。生成式人工智能属于广义的机器学习技术,其智能是从平台资本提供的数据闭环中“学习”得来的。人工智能的训练数据集呈现出怎样的特征,智能模型就会受到怎样的塑造。因此,生成式人工智能的意识形态倾向必然受到其所接触的互联网舆论生态的影响。在互联网舆论场中,谁能掌握多数、生成更多符合己方立场的意识形态文本和训练数据,谁就能让人工智能的“立场”靠近自己,制造对己方有利的意识形态斗争形势。以ChatGPT为代表的生成式人工智能发源于西方,目前的用户大多是说西方语言的西方人,其训练数据集带有浓厚的西方意识形态立场,ChatGPT本身也暂时表现出亲西方的意识形态倾向。对此,我们有必要采取开放与引导相结合的态度,动员更多中国用户、中国声音进入生成式人工智能的协作网络,引导网民在使用智能服务的同时输出更多代表中国立场、中国态度的内容,扩大我国主流意识形态在人工智能数据闭环中的比重,力求夺取网络意识形态阵地的领导权。

第三,生成式人工智能具有强大的扩展性、渗透性,很难通过片面封堵的方式防范其意识形态影响。如前所述,平台资本的运营策略是“开放性”的,平台的免费用户越多,平台的“协作生产力”就越强。

本文刊登于《人文杂志》2025年1期
龙源期刊网正版版权
更多文章来自
订阅