近日,《2026新加坡共识:全球人工智能安全研究优先事项》正式发布。报告指导委员会成员包括清华大学姚期智院士、张亚勤教授、薛澜教授及上海人工智能实验室主任周伯文、图灵奖得主Yoshua Bengio、加州大学伯克利分校的Stuart Russell和Dawn Song教授、麻省理工大学Max Tegmark教授等。
报告聚焦人工智能智能体快速发展带来的新型安全挑战。来自全球的学者围绕前沿人工智能风险、安全研究重点及治理路径开展多轮交流,从技术安全、风险治理和国际合作等角度提出意见建议,为共识核心内容的形成提供重要学术支持。
《2026新加坡共识》围绕当前人工智能安全面临的关键问题,提出三大全球优先研究方向,并配套发布智能体风险管理报告,提出智能体管控十项基本原则,为各国开展人工智能安全研究和相关政策制定提供参考。报告同时强调加强跨国科研合作,共同提升对人工智能跨境性、系统性风险的识别与应对能力。
近年来,清华大学依托交叉信息研究院、智能产业研究院、人工智能国际治理研究院等平台,持续参与人工智能安全与全球治理领域的国际交流与合作。相关专家积极参与国际人工智能治理议程和共识构建,推动技术研究与治理研究相结合,为构建安全、普惠、负责任的全球人工智能发展与治理体系持续贡献中国智慧。