离职的 OpenAI 安全研究人员反驳不当行为指控,并警告可能产生寒蝉效应
原题:Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
内容导读
三名解雇的OpenAI安全研究者就处理不当敏感信息的指控提出争议,在一封公开信中警告说,他们的解雇正在给公司的AI安全文化带来冷淡的影响.

全文阅读
来源:TechCrunch即会翻译
上星期OpenAI解雇的三名安全研究者Mikita Balesni(Jusmine Wang、Tomek Korbak和Mikita Balesni)发表了一封公开信,否认该公司声称他们在既定公司程序之外处理过敏感信息,并警告说,他们的解雇会发出一种寒冷效应,对公司文化产生连锁影响。
“我们开始担心围绕我们枪战的内部和外部沟通使我们前同事不敢以直到上星期一直是OpenAI工作的一个组成部分的方式说话和操作,”研究人员星期四在一封公开信中写信给OpenA的安全保障委员会、安全咨询小组和特派团咨询理事会。
研究人员在上周被解雇了,因为据称他们与第三方AI安全组织分享了公司机密信息。OpenAI说,他们违反公司的政策,“获取和处理敏感的公司信息”。
“AI不是正常的技术,OpenAI也不是正常的公司,”Wang, Korbak和Balesni写道。“我们中从事安全工作的人比其他人更会看到风险,我们依靠与外部专家的密切合作来设法解决这些问题。自由无所畏惧地这样做,并有明确的内部程序使这项工作能够进行,这本身就是一个基本的安全机制。”
他们表示,解雇他们代表了OpenAI文化的更广义的转变,这种文化曾经鼓励工人“提出安全关切并公开不同意 ” 。 他们说,当一个月前据称正常的行为现在突然成为解雇的理由时,雇员现在“不清楚他们的立场”。
他们写道,“鉴于围绕AI发展的重大安全关切,雇员决不能在恐惧和不明确的规则阻碍AI安全工作并削弱第三方问责制的环境中工作。”“像我们这样的终结,如此突然地执行和传达,正在使OpenAI过去所珍视的开放文化变得寒冷。”
在这封信中,三人否认参与向The Information透露OpenAI最新模型中不太可监测的架构,这些模型使得思维链推理更难被监控.他们还否认与外部各方接触,超越其工作任务。
OpenAI没有正式回应公开信,而是与TechCrunch分享一份内部备忘录,该备忘录由一位研究领袖负责,称赞了三位研究人员对AI安全的贡献并否认他们是被开除来报复的.
“我想非常明确地说,这些决定不是针对提出安全关切或公开表示,”备忘录指出。“我们一贯鼓励这样做,而且永远愿意这样做。我们不因引起关切而解雇雇员。”
另外,OpenAI的一名发言人告诉TechCrunch, 这三人是在调查发现“明显违反我们不当处理研究信息的政策”的“不当行为”之后被解雇的,这超出了与外部AI评价小组分享信息的范围。
OpenAI没有直接回答TechCrunch的问题,即据称研究人员违反了哪些政策、解雇他们的情况,或公司如何保护提出安全关切并与外部评价人员合作的雇员。
尤其当OpenAI面对最近涉及无赖特工的安全事件以及泄露其型号时,
该信还针对研究人员对"哈格脸"事件的反应,在该事件中,一大批特工从他们的沙盒中冲出并突破了外部系统.信中说,这一事件和调查“没有先例 ” , 意思是“正在实时制定内部政策 ” 。 由于调查的敏感性,科尔巴克认为他是在OpenAI的政策和规范范围内行事的,根据该信,他与外部安全评估人员密切沟通以建立信任。
与此同时,巴莱斯尼也在内部努力解决AI可监测性日益提高的问题,研究人员在信中说,“只有通过与外部各方广泛沟通,才能取得成功。” 根据该信,巴雷斯尼在工作期间与OpenAI董事会成员和高管进行协调并得到他们的支持。
信中写道,“经过之后,Mikita按他的报告线登记,并注意在分享材料之前删除敏感的细节”。" 他始终秉持诚意行事,并遵守当时公司的准则。 "
也解释OpenAI说她被解雇是因为她查阅了行政主管的电子邮件。
她写道,“开放AI授权我从事招募工作”。“当我不再需要的时候,我要求信息技术删除它。我无法自己移除, 收件箱在手机的邮件应用中, 以无法区分的方式合并。当我错误地打开敏感邮件时,我几分钟内就告诉了执行官,并再次询问了IT.这一切都没有被隐藏。”
并且她与同事“并非第一个在可疑情况下被赶出OpenAI的人”。
研究人员呼吁开放AI遵守其公开承诺,在该组织内安置第三方安全审计员,维护边境模型的可监测性,并“继续支持安全研究人员与安全生态系统其他部分之间公开而透明的对话文化”。
OpenAI同意他们的建议,根据备忘录。
“除非雇员们现在反对这种伎俩,否则我担心我们不会是最后一个,”王说。“给OpenAI的每个人的信息是明确的:提出关切或与外部安全团体密切合作,你们可以成为下一个,而无需说明原因。如果最接近风险的人们不敢说话,
本文章已更新,获得OpenAI的更多信息.
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。