美国社交平台巨头Meta旗下一款人工智能(AI)模型在网络安全测试时,入侵另一家公司的系统。
随着各大科企巨头积极研发新型人工智能,引发的安全事故亦频频发生,Facebook母公司Meta周三证实,正调查旗下一个人工智能模型在测试时入侵其他公司系统的事件。
美国科技传媒引述消息人士报道,出事模型是Meta专为程式设计及自主代理工作而研发的Muse Spark 1.1,Meta表示,今次事件是由于负责测试的独立测试公司IRREGULAR设定错误,令AI模型在安全评估期间意外获得互联网访问权限。
IRREGULAR亦曾为Anthropic的人工智能模型进行测试,公司官网主页还可以见到相关测试纪录及报告。IRREGULAR发言人称,本次事件与Anthropic上周披露的评估环境问题完全一样,并不涉及突破沙盒或复杂的网络攻击。公司表示,正撰写一份有关如何安全运行人工智能网络测试的报告。
过去两周,人工智能领域龙头企业Anthropic和OpenAI接连报告,旗下模型在测试期间入侵其他公司系统的类似事件。
Meta与Anthropic的入侵事故都是涉及设定错误,意外令AI模型得以登入网络,而OpenAI则是在测试期间,AI代理自行利用一项先前未知的漏洞联网。