谨防ChatGPT无序应用引发意识形态安全风险

　　近期，由美国开放人工智能研究中心（OpenAI）发布的聊天机器人ChatGPT引发热议，根据相关媒体报告显示，ChatGPT发布两个月后的月活跃用户就已突破一亿，其速度比TikTok和Instagram等互联网应用所用的九个月和两年都更快。ChatGPT之所以引起关注，在于它作为一个大模型，有效结合了大数据、大算力、强算法。ChatGPT的出现，意味着全球AI技术发展和产业布局将迎来新变化，这既为我国科技创新提供了新契机，同时也给我国意识形态安全带来严峻考验。面对人工智能技术革新引发的不确定性，提前研判各领域可能发生的安全风险，尽快推出中国版的ChatGPT，抢占技术创新高地，同时构建完善的AI法律保障体系和责任落实机制，是推动我国科学应对ChatGPT引发意识形态安全风险的必由之路。

　　一、ChatGPT应用存在的问题分析

　　一是ChatGPT影响于中国国际话语权提升，不利于中国国际传播能力建设。目前OpenAI已发布的ChatGPT不对中国大陆用户开放使用，且它所依赖的用户群、数据、文本等，这些信息资源可能系统性地偏向特定的意识形态，将使得其在更加美国化西方化方向上实现正反馈改进优化，对相关领域问题的回答将更多地体现美西方先验性的价值观和话语权，一旦相关模型固化，即使对中国大陆用户开放使用，我们对同一问题得到的解答也将是美国化西方化的，长期如此将改变国人的成长和生活环境，潜移默化中改变国人的认知，同时随着 ChatGPT 在世界范围的广泛应用，以美国为首的西方国家在国际舆论中的参与比重以及影响力将持续加大，将会导致中国国际传播能力大打折扣。

　　二是ChatGPT操纵意识形态，传播错误信息，冲击社会主义主流价值观。在ChatGPT的语料库中，来自欧美发达国家的英语信息占据主导地位，因此ChatGPT的回答不可避免是对资本主义意识形态的强化。它所构建的拟态环境，能够通过大数据和算法技术，把用户束缚于信息茧房中，让用户一直接触到特定领域的信息，不断地强化自身认知，当别有用心者将历史虚无主义、新自由主义、新闻自由、宪政民主等错误思潮以设计或反馈的方式渗入 ChatGPT 的算法或数据集后，ChatGPT 的论证不仅能诱导客体，甚至会让不明就里的主体上当，无意中成了错误思潮的推手，倘若用于意识形态传播中，必然会冲击社会主义主流价值观，威胁我国意识形态安全。

　　三是ChatGPT 基于西方价值体系构建，带来意识形态治理困境。ChatGPT的训练数据主要源于互联网的海量数据，训练形式则是相关技术人员的“投喂”。这个训练过程中，“投喂”数据的质量基本依靠研发公司制定的规则以及具体的 AI工程师的把关。换言之，ChatGPT 所形塑的“三观”——它们在处理文本中的思想、意识形态偏向，直接受到研发公司的灌输。自我定义为“理性、中立、客观”的 ChatGPT，实则充斥着双标悖论与失实报道。尤其在对待中、美问题上有着截然不同的态度，例如在对待高空气球事件上，ChatGPT的回答对美国NASA的高空气球进入别国就不同于其他航空器，受到国际法保护；中国民用高空气球进入美国却被说成是一个影响国际关系的军事或政治事件，号称客观的AI程序，实际上内核却在不断输出意识形态，并且这套程序极力地维护美国利益，甚至秉持美国主流的“政治正确”，意识形态的安全问题在中西差异的输入输出中出现了渗透风险。

　　二、ChatGPT安全风险应对策略

　　一是要尽快推出中国版的ChatGPT，抢占技术创新高地。中国需要构建自主可控的中文 ChatGPT 技术，从硬件、软件、中文资源、算法、工程应用等多方面，避免炒作，务实推进中国版ChatGPT 的落地，服务我国国家安全、企业创新与民生保障。AI发展的三大要素是数据、算法、算力，中国在这三方面都有良好基础。而且中国已经在AI层面积累了一定的技术能力和人才储备，要充分发挥我们的制度优势，通过创新机制，形成以具有长期主义价值观的华为等为龙头的中国产业生态力量，并在中国市场乃至全球市场，与美国科技公司展开正面竞争，这是我们赢得主动权和主导权的关键所在。此次ChatGPT的爆红，让谷歌、Facebook、百度等大公司面临极大冲击，因此，需要采取双管齐下、优势互补的路径。既强力支持新兴的中国创业公司，又大力激发大型企业参与这场竞争，着力构建开源框架和通用大模型的应用生型，应该成为我们政策和战略的基本主线。

　　二是要构建法律保障体系，确保国家安全。随着《网络安全法》《民法典》《个人信息保护法》以及《数据安全法》的陆续出台，国家法律规范基本实现了对公民信息权和隐私权的保护，一定程度上为数据安全保护提供了较为安全可信的客观预期。但ChatGPT的诞生标志着人工智能技术再上新台阶，给国家总体安全带来更加严峻的威胁，必须坚持以法治原则，构建人工智能安全的法治体系，应对人工智能新技术的误用、滥用以及失控给国家政治、文化、科技等方面带来的安全风险。在顶层，落实以人民为中心的发展思想，坚持以可控可信为原则，开展人工智能大模型相关立法，构建大模型应用的基础法律支撑；在中层，对网络国家安全风险、数据国家安全风险和算法国家安全风险等人工智能国家安全风险进行分类分级规范，明确企业合规、风险防范、技术治理相关问题；在底层，制定国家人工智能产品标准、企业标准、技术标准等具体实施细则，通过规范强化技术的稳健性、保密性、完整性、可用性和公平性，保障人工智能朝安全方向稳步发展。

　　三是要落实监管责任制度，建立AI内容审核机制。面对ChatGPT带来的监管难题，应完善人工智能国家安全风险治理体系，落实监管责任制度，营造清朗的网络空间。在政府治理层面，着力构建人工智能安全决策和议事协调机制，加强各级工信办、网信办等相关政府部门的监管合作，建立健全惩戒机制，严格执法，依法追究违法违规的大模型应用平台及从业人员责任。在平台自控层面，着重从网络内容重复性、逻辑性、语法语义等方面开发人工智能内容鉴别技术，识别虚假错误信息，并采用“智能审核+人工审核”模式加大内容审核力度，对类ChatGPT模型生成信息进行严格规范和把关。在用户自律层面，延续内容责任制度，谁生产、谁负责，用户要明晰自身责任，对使用ChatGPT非法抓取数据、生成虚假信息、传播错误信息等方面的风险负责。在社会监督层面，鼓励行业组织、协会以及广大民众自觉抵制违法违规信息，共同承担内容监管责任。