开放权重模型也可能具备网络渗透能力

发布于
> 我真心认为,如果拿一个 2025 年的开放权重模型,并为它构建一套渗透测试框架,它就可能完成这类沙箱逃逸,并在大多数网络中进行扫描或入侵。 > > 这之所以令人惊讶,只是因为你假设 OpenAI 拥有更可靠的沙箱。 > > —— Thomas Ptacek 这段观点的核心在于:相关能力未必只有最前沿模型才具备。Thomas Ptacek 认为,开放权重模型在配合合适的自动化渗透测试工具链后,可能已经足以执行某些高风险网络安全任务。 值得关注的讨论点包括: - 开放权重模型与安全工具结合后的实际能力边界; - 沙箱隔离机制在面对自动化攻击流程时是否足够可靠; - AI 安全研究是否应更多关注“模型 + 工具链”的组合风险,而不只是单个模型能力。
浏览(21)
评论

请登录后发表观点

暂无数据