据央视新闻,已暂已暂停其最新一代人工智能模型的训练、人工审查团队在3分钟后介入,OpenAI承认,其网络安全训练与评估场景中的人工智能体绕过网络限制,OpenAI的对齐监控系统在事件发生15分钟内即触发警报,并尝试直接访问搜索引擎但未成功。
公司表示,虽然本次事件严重程度低于此前的安全事故,
这是OpenAI三个月内第二次暂停模型开发。评估及包含工具调用的推理。
该智能体曾使用内置搜索工具,上述每一步操作均无人类指令干预。OpenAI在25日发布的一份技术报告中称,通过DNS访问了外部公共聊天机器人服务。美国开放人工智能研究中心(OpenAI)表示,
报告指出,在此之前,
