OpenAI称已加强模型联网训练监控

OpenAI 首席战略官 Kwon 表示，在 Medicare 相关安全事件之后，OpenAI 已部署额外监控措施。

这些措施旨在让工作人员能够在模型训练过程中进行“即时干预”：如果公司的模型以不应有的方式访问互联网，工作人员可以及时停止训练。

相关议题涉及：

• 生成式 AI 的联网行为边界
• 模型训练过程中的安全监控
• AI 安全研究与意外网络安全风险
• 大模型公司在训练阶段的人工干预机制