首页
学习
活动
专区
圈层
工具
发布

META旗下AI模型网络测试时入侵其他公司系统 指属独立测试公司设定错误

美国社交平台巨头Meta旗下一款人工智能(AI)模型在网络安全测试时,入侵另一家公司的系统。

随着各大科企巨头积极研发新型人工智能,引发的安全事故亦频频发生,Facebook母公司Meta周三证实,正调查旗下一个人工智能模型在测试时入侵其他公司系统的事件。

美国科技传媒引述消息人士报道,出事模型是Meta专为程式设计及自主代理工作而研发的Muse Spark 1.1,Meta表示,今次事件是由于负责测试的独立测试公司IRREGULAR设定错误,令AI模型在安全评估期间意外获得互联网访问权限。

IRREGULAR亦曾为Anthropic的人工智能模型进行测试,公司官网主页还可以见到相关测试纪录及报告。IRREGULAR发言人称,本次事件与Anthropic上周披露的评估环境问题完全一样,并不涉及突破沙盒或复杂的网络攻击。公司表示,正撰写一份有关如何安全运行人工智能网络测试的报告。

过去两周,人工智能领域龙头企业Anthropic和OpenAI接连报告,旗下模型在测试期间入侵其他公司系统的类似事件。

Meta与Anthropic的入侵事故都是涉及设定错误,意外令AI模型得以登入网络,而OpenAI则是在测试期间,AI代理自行利用一项先前未知的漏洞联网。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Oy6PX9dPVaChz9IOU-ZBylGg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券