生成式人工智能引发了哪些挑战？

生成式人工智能重构人机关系可能带来科技 伦理失范。

1.技术内在风险引发安全隐患

生成式人工智能技术在迭代升级的同时也放大 了技术安全风险。数据方面，数据投喂带来价值偏见、 隐私泄露、数据污染等问题。一是训练数据固有偏见 导致模型产生偏见内容。全球科研机构的多个实验发 现经过人工标注的大模型在应用中存在性别歧视、种 族歧视等偏见问题。例如，根据微软发布的GPT-4研 究报告，大模型在生成职业性别描述时，会进一步扩 大数据集的固有偏差，存在严重性别偏向23。二是海 量训练数据扩大了数据安全和隐私保护风险。训练大 模型依赖庞大的数据，对于数据来源的合法性审查带来了诸多挑战。此外，大模型也存在泄露用户输入数 据风险。三星在启用ChatGPT的20天内就发生3起 员工泄露数据事故，泄露内容包括半导体设备测量、 良品率/缺陷、内部会议内容等敏感信息24。三是人工 智能生成数据将造成训练数据污染。如果使用生成 式人工智能产生的数据作为语料训练生成式人工智 能模型，可能会导致“模型崩溃”现象发生。剑桥大学 学者指出，生成式人工智能在制造便利的同时也在 摧毁互联网环境25。 　　

算法方面，算法模型生成特性及安全漏洞会引 发“幻觉”（hallucination）或虚假信息、模型遭受攻 击等风险。一是生成式模型模仿特性生成“幻觉”或 虚假信息。生成式人工智能基于训练数据进行模仿 而非理解的特性，可能生成错误的、不准确的、不真 实的信息，即生成“幻觉”内容。美新闻卫士公司用 “ 虚 假 信 息 数 据 库 ”中 的 1 0 0 条 提 示 词 测 试 ChatGPT，其对 80 条提示词反馈了虚假和误导性信 息26。二是算法模型安全漏洞诱发网络攻击风险。攻击者通过精心设计的输入操控，可能导致生成式人 工智能后端系统被利用或被控制。甚至有黑客通过 修改Web测试套件SilverBullet的配置，大规模窃 取了ChatGPT帐户27。OpenAI公司虽已发布最高 奖励2万美元的“漏洞悬赏计划”，用于帮助发现并 修补其产品的安全漏洞，但生成式人工智能恐将长 期面临严峻的网络攻击风险。 　　

此外，生成式人工智能的底层模型“根属性”诱 发链路性风险。当前，生成式人工智能产业生态雏 形初现，底层大模型成本高、投入重，形成了高技术 壁垒和强竞争优势，其“根”基础设施属性得以牢 固。中下游基于大模型底座开发部署的产品应用可 能将固有风险进行链路性扩散。2023年2月，布鲁 金斯学会报告指出，未参加生成式人工智能原始模 型开发的“下游开发者”可能会将原始模型经过调 整后整合到其他软件系统，由于双方均无法全面了 解整个系统，或将增加这些软件错误和失控风险28。

2.人机关系变化加深科技伦理失范

生成式人工智能重构人机关系可能带来科技 伦理失范。生成式人工智能强大的任务处理能力， 容易导致人的思维依赖。过度依靠生成式人工智能 提供的答案，会使人自身的观察与理解、归纳与演 绎、比较与推理等感知和逻辑能力缺乏训练，怠于 思考与创新。例如，很多学生开始依赖于生成式人 工智能完成作业，美国北密歇根大学的一位教授在 其 课 堂 上 发 现 了 一 篇 优 秀 的 课 程 论 文，却 是 由 ChatGPT生成29。生成式人工智能存在价值失焦或 道德缺位，容易产生负面的机器诱导。在人类与生 成式人工智能交互过程中，曾出现聊天机器人“情 绪化”、“攻击性”等情况，甚至出现过诱导人类自 杀，部分原因在于生成式人工智能道德缺位而做出与人类伦理价值相悖的不利诱导。生成式人工智能表 现出强拟人特征，进一步冲击人的主体性。在人际关 系方面，人机交互愈发频繁，使人产生情感依赖，消弭 真实的社会交往。在人机关系方面，生成式人工智能 由浅至深地替代人的各种机能，冲击现有的劳动分工 体系，可能使人成为机器支配的对象。

3.技术跃迁引发人类社会发展挑战

生成式人工智能凸显发展的不均衡，拉大发展 差距。对于许多语种来说，可供训练模型的文本非 常有限，例如阿拉伯语全球使用人口虽然超过4.2 亿，但软件应用程序中阿拉伯语资源和工具的供应 远不及英语等语种30。语言数据较少的国家或人群 发展生成式人工智能将受到较多限制。生成式人工 智能发展可能扩大教育不公平，加深教育领域的数 字鸿沟，生成式人工智能的应用对硬件设施和数字 素养有着较高的要求，经济条件的差异可能加剧地 区和群体之间的教育资源差距，导致不平等的学习 机会31。生成式人工智能冲击劳动与就业结构，加剧 社会分化，据高盛研究，在创造新岗位的同时，生成 式人工智能可能会取代全球3亿人的工作岗位32，密 集型劳动力面临被替代的风险，产生更多“无用阶 级”，社会阶层分化将更为明显。生成式人工智能可 能影响生态环境，模型训练的计算和环境成本与模 型大小成正比，如果消耗大量能源进行重复训练， 不仅导致资源的浪费，也抬高了碳排放水平。有研 究人员指出，1750亿个参数的GPT-3模型能耗相当 于1287兆瓦时的电力，同时还产生了552吨二氧化 碳3 3。此外，生成式人工智能正在冲击知识产权制 度，生成式人工智能是否能作为作者、是否具有可 版权性等问题尚无定论，未经授权或者未按开源许 可的要求使用文章或代码都可能侵犯知识产权。