开源热点及技术政策梳理

想了解更多相关内容，可以下载报告《全球开源发展态势洞察（2023年全球开源峰会特刊）》查看，以下内容都是根据该报告总结的，仅供参考。

1.开源热点

DeepMind等12家机构联合 发布AI模型安全性评估框架

在科技进步的浪潮中，一项领先的合作研究项 目引起了广泛关注。DeepMind、剑桥大学、 牛津大学、多伦多大学、蒙特利尔大学、 OpenAI以及Anthropic等一流的学术机构和研 究机构联合发布了一种前沿的用于评估人工智 能（AI）模型安全性的框架。这项创新性的框 架有可能转变未来人工智能模型的开发和实施 方式，成为其核心组成部分。

在这项研究中，研究团队强调对模型潜在风险 和对齐性的全面评估的重要性。他们提出，构 建通用AI系统的开发者必须从早期阶段就开始 关注并评估模型的危险能力，以便及时识别和 预防可能出现的极端风险，从而确保训练、部 署和风险描述等关键步骤的合规性和公信力。 新提出的框架能够精确地评估模型在多大程度 上具有实施危险行为的能力，有助于让决策者 和其他利益相关者了解详情。通过这个框架， 他们能够对模型的训练、部署和安全性做出更 为负责任的决策，从而有效地降低人工智能可 能带来的风险。

富士通发布AI平台 “Fujitsu Kozuchi”

近日，在马德里举行的Fujitsu ActivateNow Technology Summit活动期间，富士通推出了 新型AI平台——Fujitsu Kozuchi，该平台致力于 为全球的企业用户提供一系列强大的AI（人工智 能）与ML（机器学习）技术。FujitsuKozuchi 平台整合了多种解决方案与工具，其中包括： Fujitsu AutoML解决方案，能自动生成机器学习 模型；Fujitsu AI Ethics for Fairness，专门用于测试AI模型的公平性；因果发现AI技术，用于从 各种数据中挖掘复杂因果关系从而得出新发现； Fujitsu Wide Learning，用于模拟科学发现过 程，提供广泛的学习体验。此外，该平台还支持 对合作伙伴公司开源软件（OSS）和AI技术的简 化访问，支持客户探索新的业务领域，并提高其 自身AI开发和运营效率。

澳大利亚计划加强对 人工智能的监管

近日，澳大利亚官员表示，出于对技术滥用的 担忧，正计划加强对人工智能的监管，包括可 能禁止深度伪造和极度真实的虚假内容。澳大 利亚是首批宣布监管人工智能的国家之一，于 2018年公布了自愿道德框架。澳大利亚国家科 学技术委员会发布的一份报告指出，人工智能 生成的内容可能会误导公众舆论，从而在议会 磋商中被滥用。澳大利亚工业和科学部部长埃 德·胡西克（Ed Husic）公开承认，在版权、隐 私和消费者保护等方面的法律目前还有待完 善，并表示鉴于人工智能行业的快速发展，政 府更加坚定要确保其法律框架能起到有效保护 效果。同时，在制定新的人工智能法律过程中， 如果公众对于限制人工智能中的高风险元素有 强烈的诉求，澳大利亚政府将会考虑将这种诉 求纳入新的法律规定中。

2.技术政策

韩国通过《国家尖端战略技术指定案》

在科技进步的浪潮中，一项领先的合作研究项目引起了广泛关注。DeepMind、剑桥大学、牛津大 学、多伦多大学、蒙特利尔大学、OpenAI以及Anthropic等一流的学术机构和研究机构联合发布 了一种前沿的用于评估人工智能（AI）模型安全性的框架。这项创新性的框架有可能转变未来人工 智能模型的开发和实施方式，成为其核心组成部分。 在这项研究中，研究团队强调对模型潜在风险和对齐性的全面评估的重要性。他们提出，构建通用 AI系统的开发者必须从早期阶段就开始关注并评估模型的危险能力，以便及时识别和预防可能出现 的极端风险，从而确保训练、部署和风险描述等关键步骤的合规性和公信力。 新提出的框架能够精确地评估模型在多大程度上具有实施危险行为的能力，有助于让决策者和其他 利益相关者了解详情。通过这个框架，他们能够对模型的训练、部署和安全性做出更为负责任的决 策，从而有效地降低人工智能可能带来的风险。

俄罗斯出台《2030年科技发展规划》

俄罗斯总理米哈伊尔·米舒斯京日前批准《2030年科技发展规划》，文件提出，俄罗斯应形成本国 的、关键和端到端技术的科学、人员和技术基础，建立高科技产品生产基地，通过立足于“国内研 发成果”，解决包括微电子、高精度机床、机器人技术、航空航天工程、无人机、软件、加速器和 带电粒子探测器等产品的对外依赖问题。 《规划》重点支持科学研究、高等和职业教育以及制造业，拟资助的10个大型重点高科技产品项 目清单已获批。该批项目总投资超1000亿卢布（约合12亿美元），计划在2023-2024年间实施， 项目内容与药品、医疗器械、设备生产、机床、电子和无线电电子产品、船舶和船舶设备制造以及 无人机系统有关。 俄罗斯总理米哈伊尔·米舒斯京在强调《规划》目标指标时表示，“为了向创新导向的经济增长转 型，随着该规划的实施，工业和其他领域的创新活动水平将增加2.3倍，相应支出将增加1.5倍。到 2030年，创新型产品和服务的数量将增加1.9倍，专利申请数量将增加2.4倍。技术创新型先进制 造企业的数量应增加1.6倍。国内信息通讯等高技术产品解决方案的份额将增加一倍，自主保障程 度增加到近75%，对外依赖度下降到约25%。” 此外，《规划》还提到，将营造舒适的监管环境，为公司和企业家的高强度创新活动创造条件。