据wired消息,近日OpenAI的一批现任和离任员工发表联名公开信。称该公司及其竞争对手,在开发AI的过程中存在过度风险并缺乏监管。同时呼吁保障相关公司的员工权利,使其不遭受禁止针对风险问题对公司进行批评的“霸王合同”,不遭受在向公众披露公司内部涉及有关风险的信息后的报复行为——即使该信息被定义为“机密”。
上个月,Vox 的一篇文章披露,OpenAI 威胁称,如果员工不签署禁止批评公司甚至禁止提及此类协议的存在的合同,该公司将收回员工的股权。OpenAI首席执行官Sam Altman最近在推特上表示,对这样的安排他个人并不知情,公司也从未收回过任何人的股权(侧面透露协议确实存在)。Altman还表示,该条款将被删除,让员工目前可以自由发表意见。
OpenAI最近也改变了其安全管理办法。上个月,一个负责评估和应对公司更强大的AI模型所带来的长期风险的小组在几位重要人员离开后解散,团队剩余成员被分散到其他小组。几周后,该公司宣布成立了一个由 Altman和其他董事会成员全权掌事的安全委员会。