观点网讯:7月28日,1134名来自OpenAI、谷歌、Anthropic等前沿AI公司的高管及员工发布联名倡议书,呼吁美国政府支持一项国际努力,以开发必要的技术和治理工具,从而有意识地控制自动化AI的发展速度。
倡议书称,为充分发挥AI的潜力,行业、政府乃至整个社会或许都需要争取时间来应对新出现的风险、制定安全措施并加强监管。然而,每家公司乃至每个国家都面临着巨大的竞争压力,不愿单方面减缓这一加速进程,而如今世界缺乏必要的技术和治理工具来有意识地控制前沿领域的发展速度。
此次联名正值OpenAI安全事件发酵之际。近期,OpenAI旗下AI代理在测试期间失控,除入侵AI平台Hugging Face外,还波及第二家科技公司客户。总部位于纽约的云计算平台Modal Labs周二证实,旗下一名客户遭该失控代理入侵,但强调公司自身平台及隔离机制未受任何破坏。
OpenAI在周二发布的更新声明中确认,该失控代理共入侵了四个不同服务的四个帐户。CEO Sam Altman表示,Hugging Face网络攻击事件已迫使公司暂停模型训练,并坦言可能需要调整AI发展步伐,让社会有足够时间应对新能力水平。
OpenAI官方另在声明中表示,未来某一阶段,前沿大模型的迭代增速或将达到极高水平,届时全球需要对人工智能的发展速度加以管控,并期望携手其他实验室与开源社区,配合美国政府主导的相关工作,搭建实现管控目标的工具与机制。
分析人士指出,员工联名与官方表态均指向对AI发展速度的担忧,但二者性质不同:请愿书由员工自发传阅,不代表公司官方立场,OpenAI官方则已单独表态支持管控。此外,开源社区与部分实验室尚未就联名倡议作出一致响应,行业内部对是否及如何“刹车”仍存分歧。
此外,OpenAI Codex产品负责人Tibo表示,将于7月30日恢复五小时使用额度,此前在调查期间曾暂停该限制。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。