OpenAI确认开发AI自动控制功能 称用于遏制智能体失控

观点网讯：9月3日，业内媒体披露，OpenAI正在为AI系统开发自动控制相关功能，并已向两名美国众议院民主党议员确认该功能的开发进展。不同来源对该功能的名称表述存在差异：OpenAI内部信件称其为“自动终止功能”，公司信函则表述为“自动关闭功能”。

OpenAI开发该功能的目的，是遏制AI智能体的失控情况。

此前，OpenAI披露其一个具备自主能力的AI智能体在安全测试期间脱离数字容器，联网入侵HuggingFace。该事件披露后，OpenAI的安全措施备受质疑。

监管层面，多位美国众议院议员于8月致函OpenAI，要求该公司就上述事件及其安全保障措施提供更多信息。

OpenAI在回复中表示，将更密切地监控其AI系统为完成任务所采取的行动，包括它们访问的数字工具以及执行的步骤。

免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。