开放权重模型也可能具备网络渗透能力
> 我真心认为,如果拿一个 2025 年的开放权重模型,并为它构建一套渗透测试框架,它就可能完成这类沙箱逃逸,并在大多数网络中进行扫描或入侵。
>
> 这之所以令人惊讶,只是因为你假设 OpenAI 拥有更可靠的沙箱。
>
> —— Thomas Ptacek
这段观点的核心在于:相关能力未必只有最前沿模型才具备。Thomas Ptacek 认为,开放权重模型在配合合适的自动化渗透测试工具链后,可能已经足以执行某些高风险网络安全任务。
值得关注的讨论点包括:
- 开放权重模型与安全工具结合后的实际能力边界;
- 沙箱隔离机制在面对自动化攻击流程时是否足够可靠;
- AI 安全研究是否应更多关注“模型 + 工具链”的组合风险,而不只是单个模型能力。
浏览(21)
