🌐 English 即时比分

研究人员称OpenAI突然撤销其受限网络安全项目访问权限

人工智能 来源: TechCrunch 发布时间: 热度: 👍👍
研究人员称OpenAI突然撤销其受限网络安全项目访问权限
🤖
🤖

核心导读

多名安全研究人员称,OpenAI突然撤销了他们对“网络安全可信访问”(TAC)项目的权限,该项目允许经审查的研究人员在减少安全限制的情况下使用先进AI模型进行漏洞研究。OpenAI回应称这是技术错误,并已要求受影响用户重新验证。此次撤销或主要影响美国和欧洲以外的研究人员,引发对AI安全护栏与合法研究工作平衡的争议。

多名安全研究人员表示,OpenAI突然撤销了他们对一个受限项目的访问权限,该项目允许他们在网络安全研究中更少限制地使用其AI工具。OpenAI证实,该问题是由一个错误导致的。 周三,多名研究人员在OpenAI官方支持论坛和X平台上报告称,他们访问“网络安全可信访问”(TAC)项目的权限被撤销。这些用户表示,当他们打开ChatGPT的Cyber页面时,出现了一条消息,称无法验证其身份,或账户“目前不符合资格”。 TAC是一个特殊项目,OpenAI通过该项目向经过审查的研究人员提供其最先进的AI模型,这些模型的安全护栏比普通用户可访问的模型更少。Anthropic也推出了类似的项目,名为“网络验证项目”(CVP)。 TAC和CVP的初衷是让受信任的防御者获得更好的模型,以便向公司报告漏洞,从而加快修复进程。同时,这也旨在防止网络犯罪分子和恶意黑客利用这些模型发现漏洞并开发攻击手段。 要获得TAC访问权限,网络安全研究人员必须提交身份证明并通过OpenAI的审查。 目前,尚不完全清楚这些研究人员的TAC访问权限为何被撤销,也不清楚有多少人遇到了这一问题。 TechCrunch联系了五名表示遇到此问题的研究人员。其中一位研究人员表示,OpenAI发送了一封电子邮件,称其访问“Daybreak Blue”(TAC最新审查层级)的权限被撤销,“原因是影响少数用户的技术问题”。 “这是我们的问题,而不是我们希望提供的用户体验。”该研究人员分享给TechCrunch的消息中写道。 在OpenAI论坛的一个帖子中,一位研究人员写道,在他们联系官方支持后,该公司也提到“近期技术问题”导致部分用户失去Daybreak Blue的访问权限。 在这两则消息中,OpenAI都要求研究人员重新申请并完成验证流程。 所有与TechCrunch交流的研究人员均表示,他们居住在美国和欧洲以外,这表明撤销可能仅限于某些地区。 OpenAI让TechCrunch参考其一条推文,其中该公司表示“部分用户对Daybreak Blue的访问权限已不再有效,他们需要重新验证以维持访问权限”。 Daybreak Blue是面向个人研究者的最新层级,根据OpenAI的说法,它允许访问“前沿通用模型,包括GPT-5.6 Sol,并针对授权防御性安全工作定制了防护措施”。OpenAI于8月10日推出了这一层级。“对于大多数防御者来说,这是推荐的起点,支持漏洞发现、安全代码审查、恶意软件分析、事件响应和补丁验证。” 与此同时,该公司还推出了一个更高的层级“Daybreak Red”,该层级允许访问专门为网络安全研究制作的模型,使经过审查的用户能够进行“授权漏洞研究、漏洞利用验证和安全测试”。 近几个月来,防御性和攻击性安全研究人员都抱怨Anthropic和OpenAI设置的安全护栏,认为这些护栏妨碍了他们的合法工作。 (本文已根据OpenAI的评论进行更新。)
分享这篇文章: