OpenAI成立安全与安保委员会，加快大模型商业化进程

从解散超结盟团队，到引入Indent团队，再到成立由董事会主导的安全委员会，从这一系列动作不难看出，OpenAI在安全与商业的博弈中逐渐向后者倾斜。萨姆·奥特曼正在将OpenAI推向商业化的道路。

从首席科学家Ilya Sutskever的离职，到旨在解决人工智能安全治理问题的“超结盟”团队，解释了OpenAI最近的争议似乎是为了回应外界对其安全治理的质疑。5月28日，在官网中，OpenAI宣布成立安全保障委员会，并宣布他们已经开始训练下一个前沿模型，并预测由此产生的系统将“把我们带到通往AGI的下一个能力水平”。

OpenAI发布的公告

新的安全治理团队p50发布会具体时间

根据OpenAI发布的公告，上述安全保障委员会由董事Bret Taylor和Adam D & apos该委员会由安吉洛(Angelo)、妮可·塞利格曼(Nicole Seligman)和萨姆·奥特曼(CEO)领导，将负责就OpenAI项目和运营的关键安全和安保决策向董事会所有成员提出建议。

布雷特·泰勒和亚当·德安吉罗都是萨姆·奥特曼去年年底回到OpenAI后组建的新董事会成员。其中，董事长布雷特泰勒(Brett Taylor)毕业于斯坦福大学，曾任脸书首席技术官和Salesforce联席首席执行官。黑莓9800手机参数

OpenAI表示，安全和安保委员会的首要任务将是在未来90天内评估和进一步开发OpenAI的流程和保障措施。在90天结束时，安全和安保委员会将与全体委员会分享其建议。在理事会进行全面审查后，OpenAI将以安全可靠的方式公开分享关于所采纳建议的最新信息。

在公告中，OpenAI表示，“虽然我们很自豪能够构建和发布在能力和安全性方面处于行业领先地位的模型，但我们欢迎在这个重要时刻进行激烈的辩论。”

在人员构成上，除了领导层，OpenAI技术和政策专家亚历山大·马德瑞(Aleksander Madry)(准备总监)、翁莉莲(安全系统总监)、约翰·舒尔曼(校准科学总监)、马特·奈特(安全总监)和雅各布·乔奇(校准科学总监)。歌曲变音软件

此外，OpenAI还将保留和咨询其他安全、安保和技术专家来支持这项工作，包括前网络安全官员、为OpenAI提供安全建议的罗布·乔伊丝(Rob Joyce)和约翰·卡林。

安全与商业的博弈

在过去的几个月里，OpenAI的人事变动持续引起各界关注，尤其是OpenAI前首席科学家Ilya Sutskever离职后，引发了一系列连锁反应。伊利亚离职后，OpenAI负责安全的超级团队联席主管简·雷科(Jan Schmidt)也宣布离职。他在社交网站上发布了13条推文，透露了他离开OpenAI的真实原因，其中提到了他对AGI的安全治理问题没有像推出“闪亮产品”和计算资源分配那样优先的不满。两人离开OpenAI后，他们带领的超对齐团队也出现了分歧。

据Vox报道，熟悉OpenAI的消息人士透露，安全意识很强的员工已经对奥特曼失去了信心。一位不愿透露姓名的公司内部人士说:“这是一个信任一点一点崩塌的过程，就像多米诺骨牌一个接一个倒下。”

所以OpenAI在这个时间点宣布成立安全保障委员会，更像是对人工智能安全问题的回应。

但从委员会的组成来看，OpenAI选择由内部人士而非外部人士组建这个委员会，并没有公开说明成员的职能范围。有专家指出，OpenAI成立这样一个企业监督委员会，类似于谷歌的高科技外部顾问委员会。实际上在实际监管上做的很少。所有报告将同时发送给领导层和董事会。虽然领导是决策者，但董事会有权推翻决定。

此前，OpenAI已经招募了总部位于美国加州的数据安全初创公司Indent，提供与数字安全相关的服务。5月23日，Indent联合创始人兼CEO福阿德·马丁(Fouad Matin)在X上宣布加入OpenAI，负责安全相关工作。根据Indent team在X上发布的信息，他们加入了OpenAI的准备团队，而不是超对齐团队，负责前沿模型的准备和客户的数据管理。

从解散超结盟团队，到引入Indent团队，再到成立由董事会主导的安全委员会，从这一系列动作不难看出，OpenAI在安全与商业的博弈中逐渐向后者倾斜。萨姆·奥特曼正在将OpenAI推向商业化的道路。

未经允许不得转载：科技让生活更美好 » OpenAI成立安全与安保委员会，加快大模型商业化进程