中国人民大学人工智能治理研究院发布七项研究成果

人工智能治理研究多维推进

  近日，中国人民大学人工智能治理研究院一周年院庆暨第八期学术研讨会在中国人民大学举行。七个研究团队分别发布了《人工智能伦理治理研究报告》《人工智能安全治理研究报告》《生成式人工智能治理研究报告》《平台与算法治理研究报告》《人工智能教育治理研究报告》《人工智能治理全球合作进展研究报告》和“人工智能政策法规数据库”。

  主旨报告和分论坛分别围绕人工智能相关治理问题展开深入讨论，力求在跨学科交流中回应人工智能快速发展带来的现实问题，为人工智能治理研究与实践探索提供新的思路。

人工智能立法进入新阶段

  随着人工智能技术的飞速发展，人工智能的法律治理已成为各国新兴领域立法共同关注的重要议题。

  中国人民大学法学院吴玉章高级讲席教授张新宝指出，我国的人工智能立法正在从“要不要立”进入“如何立好”的新阶段，应当借鉴国外相关立法经验，加速供给法律资源；还要加强AI关键要素的公共供给，协调训练数据保护与产业发展，用包容审慎的监管扶持AI产业发展；同时也要衔接现有法律体系、重点监管高风险领域，结合国情配置监管资源。

  北京交通大学法学院付新华教授认为，智能体从“内容生成”迈向“自主行动”，填补法律责任空白应找到数字危险源头。北京航空航天大学副教授赵精武认为，智能体在发生错误的自主决策时，会对业已订立的合同效力产生影响，智能体自主决策应当视为用户真实意思表示的特殊形式。

人机交互引发伦理重构

  随着对话式人工智能日益融入用户的日常生活，它在情感层面的整合也引发了紧迫的伦理问题。

  复旦大学特聘教授王国豫分析了“人际交往”与“人机交互”各自的特点，指出二者在意图结构和情境嵌入方面存在差异，并以此为基础，提出人机交往伦理的规范性重构需要系统性地重新思考不同层面的人机“对齐”。

  北京师范大学心理学部教授刘超指出，利他与合作的深层机制不仅是人类社会得以存续的道德基石，也是AI“价值观对齐”最重要的参照系之一，应当把人类道德认知的经验证据与计算模型“翻译”进AI对齐研究。

安全挑战亟需系统应对

  人工智能的安全问题也引发了全社会广泛的关注。

  中国科学院信息工程研究所研究员，中国科学院大学岗位教授虎嵩林指出，随着AI能力的飞速提升，风险已蔓延至多个领域。在Safety意义上的“安全”方面，大模型安全对齐技术漏洞较多，防护易被突破；在Security意义上的“安全”方面，国产模型在防范AI挖掘漏洞、防止网络渗透能力方面能力显著提升，但仍然存在相当风险，他的团队正以“攻-检-防”一体化的思路探索防护方案。

全球协作推动治理共识

  人工智能快速发展所引发的问题还是全球性的，我们需要关注国际性的治理难题，与其他国家携手应对新的挑战。中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅分析了国际人工智能治理的重要进展与当前面临的问题，特别强调了联合国在推动国际治理中的核心作用。