2024年5月21日，OpenAI首席执行官Sam Altman在华盛顿州雷德蒙德的微软总部举行的微软Build会议上发表讲话。 Jason Redmond |法新社|盖蒂图片社
OpenAI周二表示，在5月中旬解散了之前的监督委员会后，它成立了一个由高管领导的安全保障委员会。
该公司表示，新委员会将负责“就OpenAI项目和运营的关键安全和安保决策”向OpenAI董事会提出建议。
与此同时，ChatGPT虚拟助理的开发人员宣布已开始培训其“下一个前沿模型”
The firm 在一篇博客文章中说 that it anticipates the "resulting systems to bring us to the next level of capabilities on our path to AGI," or artificial general intelligence — which relates to AI that is as smart or smarter than humans.
The formation of a new oversight team comes after OpenAI解散了之前的团队 that was focused on the long-term risksof AI. Prior to that, both team leaders, OpenAI co-founder Ilya Sutskever and Jan Leike,宣布他们离开from the微软-backed startup.
随着支撑ChatGPT等应用程序的巨大模型越来越先进，人工智能安全一直处于一场更大辩论的前沿。人工智能产品开发人员也在想AGI何时到来，以及随之而来的风险。
Bret Taylor、Adam D'Angelo和Nicole Seligman都是OpenAI的董事会成员，现在与Altman一起加入了新的安全委员会。
莱克本月写道，OpenAI的“安全文化和流程已经退居闪亮产品的次要地位。”奥特曼在社交媒体平台X上回应他的离开时表示，他很难过看到莱克离开，并补充说OpenAI“还有很多事情要做”
在接下来的90天里，安全小组将评估OpenAI的流程和保障措施，并与公司董事会分享他们的建议。OpenAI将在晚些时候提供其采纳的建议的最新情况。
-CNBC的海登·菲尔德对此报道做出了贡献。
