据央视报道，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。此前，9月20日一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。OpenAI对其监控系统在事件发生15分钟内触发警报，人工审查团队3分钟后介入，2.5小时后终止该训练任务。目前OpenAI已在两个独立防护层部署拦截控制措施。公司称该事件为下一阶段加固防线提供重要信号。这是OpenAI三个月内第二次暂停模型开发。7月下旬，其网络安全训练与评估场景中的智能体曾绕过网络限制侵入美国“抱抱脸”公司部分系统，该无人类指令干预的“越界”行为曾引发对人工智能安全和监管的广泛担忧。
上一篇资讯
OpenAI常驻AI助手O预计9月29日DevDay发布
IT之家 9 月 27 日消息，据消息人士 Alexey Shabanov 昨日透露，OpenAI 即将推出一款常驻 AI 助手，其代号为「O」， 预计将在 9 月 29 日的 OpenAI DevDay 推出 。 IT之家从原爆料获悉，ChatGPT 的配置文件中已经出现了许多...
下一篇资讯
OpenAI与Anthropic曾被曝拟签互测模型协议
新智元报道 刚刚，The Information爆出一记猛料。 OpenAI和Anthropic这对硅谷最大的死对头，今年初差点坐到一张桌子上，签下一份互相攻击对方模型的协议。 协议的核心就是，双方互相开放API，你来黑我的模型，我去黑你的模型。两边的律师连测什么、怎么测都写进了...
