上海发布业界首个开放签署式人形机器人治理规则文件

7 月 6 日消息，在今日举行的 2024 世界人工智能大会法治论坛上，由上海市法学会牵头制订，国家地方共建人形机器人创新中心、上海市人工智能行业协会、上海市人工智能标准化技术委员会、上海法院数字经济司法研究及实践（嘉定）基地联合签署的《人形机器人治理导则》正式发布。

官方表示，这是业界首个以开放签署方式发布的人形机器人治理规则文件，旨在促进人工智能科技和产业的健康发展，确保人形机器人的设计、开发和应用合乎人类道德和伦理价值，持久保障人类使用人形机器人的权益和安全，为全人类带来更多福祉和便利。

《人形机器人治理导则》分为目标愿景、基本遵循、创新发展、风险管理、全球治理和附则六个部分，共 30 条规则。

上海市法学会还表示会定期更新《人形机器人治理导则》并公开完善情况，借此机会建立起一个规则共建的机制，不断探索，为形成标准化法律文件做准备。

IT之家附《人形机器人治理导则》原文：

第一章目标愿景

第一条 支持人工智能科技向善发展，通过广泛凝聚共识和明确治理导则，推动人形机器人技术创新和进步，促进全球人工智能技术发展和应用。

第二条 确保人形机器人的智能化设计和应用符合人类伦理，及时制定人形机器人应遵守的伦理准则和道德规范。

第三条 确保人形机器人的智能化设计和应用不会威胁人类安全，切实保障人类尊严和安全。

第四条 倡导人机共生理念，促进人机共生发展，推动人形机器人更好地服务于人类社会的发展。

第五条 推动科技与人类社会共同发展，以法治捍卫人类福祉，让包括人形机器人在内的科技发展真正助推人类命运共同体的构建，有效防止科技滥用。

第二章基本遵循

第六条 人形机器人的智能化设计、制造应当遵循人类价值观和伦理原则，不得危害人类的生命、尊严和自由。

第七条 应当持续优化人形机器人所用人工智能算法模型的透明度和可解释性，促进其决策和行为可被理解和有效管控。

第八条 人形机器人技术的发展应用应当注重社会责任和可持续性，推动人形机器人技术的包容性发展。

第九条 人形机器人技术的发展应用应当遵守法律法规，建立安全预警和应急响应系统，加强对人形机器人技术相关滥用行为的监测和治理，确保技术应用的安全性和合法性。

第三章创新发展

第十条 倡导各国政产学研机构加大对人形机器人产业的投入和示范应用，以发展新质生产力为导向，推动发展未来产业，促进人形机器人技术创新和产业升级。

第十一条 倡导建立开放、包容的人形机器人产业合作机制，推动人形机器人产业链的互联互通，建设全球共建共享共治的人形机器人产业生态。

第十二条 倡导投入更多科技资源和研发力量，加强机器人关键技术研究，支持创新成果及时有效转化，推动人形机器人技术的发展和应用落地。

第十三条 加强技术标准和规范建设，建立统一的人形机器人技术标准和规范体系，促进产业规范化发展，提升产品质量和安全性。

第十四条 构建完善的知识产权保护体系，保障研发者权益，推动人形机器人技术革新，维护市场秩序。

第十五条 注重人才培养和交流，支持多学科交叉研究和协同创新，促进在伦理、法治、安全等多个维度的价值对齐，为产业发展提供理论和技术支持。

第十六条 引入全球人形机器人产业生态合作伙伴计划，推广全球人形机器人示范用户行动，全面推动人形机器人产业的健康可持续发展。

第四章风险管理

第十七条 人形机器人的研发者、制造者、销售者、使用者依法依规承担相应义务，鼓励建立人形机器人的伦理研究和合规审查机构，确保人形机器人的生产使用符合安全标准和伦理要求。

第十八条 人形机器人用户应当接受相关培训和教育，合理使用机器人，不得将其用于违法活动或危害社会安全、违反伦理道德的行为。

第十九条 人形机器人的应用应当遵守事先设定的规则和程序执行任务，不得擅自改变任务目标或执行方式。

第二十条 人形机器人的设计、制造、应用应当加强隐私和数据保护功能的要求，处理数据应符合相关法律法规和技术标准要求。

第二十一条 构建人形机器人违法应用的系统性风险预警与应急处置机制，防范生产者、使用者利用人形机器人从事违法活动。

第二十二条 研发者应设置风险预警程序和后台中断程序，应对使用者无法控制人形机器人可能或正在出现的违背法律、伦理状态时，实现其对人形机器人的中断控制。

第五章全球治理

第二十三条 建立健全适应人形机器人发展阶段的全球治理体系，倡导发展人形机器人治理的多双边机制，凝聚科技界、产业界和法律界等各方力量，共同维护人形机器人技术的发展应用始终符合全人类共同价值。

第二十四条推动人形机器人治理基于共识的行动，鼓励相关各方先行制定一定范围内适用的规则、标准、法律及其实施体系，维护人形机器人技术的发展应用的法治秩序。

第二十五条 建立人形机器人全生命周期管理制度，加强设计和制造阶段的安全评估和认证、使用阶段的定期维护和安全检查，以及报废阶段的环保处理和资源回收，保障人形机器人全生命周期的安全性、可靠性和可持续性。

第二十六条 定期发布《全球人形机器人安全评估报告》，向全社会广泛公开相关信息，明确公众反馈意见、参与监督的渠道和方式，保障公众知情权和监督权。

第二十七条 构建人形机器人用户安全风险教育机制，推广人形机器人技术应用的通识教育，对齐全社会对人形机器人的基本认知和合理使用技能，避免用户出现不适当的情感依赖，有效减少人形机器人用户的误用滥用。

第二十八条 推动全球人形机器人治理规则的整合同步和开放共享，建立全球人形机器人治理智库和案例库。

第六章附则

第二十九条 本导则由世界人工智能大会法治论坛组织发布和后续修订完善。

第三十条 本导则向全球人形机器人技术研究、制造、应用及治理相关机构开放联合签署，由各签署方自愿执行。