ChatGPT一周年，差点吓死OpenAI

加缪说:真正严肃的哲学问题只有一个，那就是自杀。OpenAI刚刚平息的“政变”，其实是对“自杀”的深度思考。

ChatGPT推出一周年，奥特曼重返OpenAI，再次出任CEO。回到原岗位的奥特曼，也正迎来公司内外对AI威胁论的新一波审视。

2022年11月中旬的一天，OpenAI的员工接到了一个任务:两周后，一个由GPT-3.5驱动的聊天机器人上线了。当时，整个公司都在忙着准备GPT-4的发布，但竞争对手、OpenAI暴走员工创办的Anthropic想要发布聊天机器人的消息，让OpenAI的高层改变了主意。

这是一个仓促而不审慎的决定。OpenAI的领导层甚至没有称之为“产品发布”，而是将其定义为“低调的研究预览”。在内部，焦虑正在蔓延:由于GPT-4的开发，公司的资源已经捉襟见肘，聊天机器人可能会改变风险格局。公司有能力处理吗？

13天后，ChatGPT上线，低调到一些没有直接参与的内卫员工都不知情。有人打赌ChatGPT第一周就有10万用户。

但我们都知道事情的发展:上线5天内，ChatGPT用户达到100万。接下来的一年，就像按下了加速器按钮，ChatGPT和它的模型GPT相继更新，OpenAI成为了最耀眼的明星公司。微软向OpenAI投资了数百亿美元，将GPT整合到整个业务中，并一度称之为谷歌搜索。全球各大科技公司几乎都投入了AI军备竞赛，AI初创企业不断涌现。

虽然OpenAI成立时是一个“致力于建立有益于人类的通用人工智能(AGI)的非盈利组织”，而且这个渊源在这个热闹的年头里依然被OpenAI高管们频频提及，但它越来越像是一个遥远的“祖训”，CEO萨姆·奥特曼正在将OpenAI转型为一家科技公司。

直到一场“公司政变”改变了这一切。

这场“公司政变”发生在ChatGPT上线一周年之际。OpenAI将世界的注意力带回了原点:AGI是焦点，OpenAI毕竟还是一个非营利组织。就在政变前一周，OpenAI开发者负责人洛根·基尔帕特里克(Logan Kilpatrick)在X上发帖称，OpenAI非营利组织董事会的6名成员将判断“AGI将于何时实现”。

一方面，他引用了官网的企业组织结构(一套复杂的非盈利/上限盈利结构)来强调OpenAI的非盈利组织地位。另一方面，他表示，一旦OpenAI实现AGI，这样的系统将“不受微软之间的知识产权许可和其他商业条款的约束”。

基尔帕特里克的说法是OpenAI“公司政变”的最好注脚。虽然OpenAI一直不承认，但认为奥特曼这次突然被开除，说明OpenAI内部有两条不同的路线:一是技术乐观主义，二是担心AI威胁人类的潜力，认为必须极度谨慎控制。

现在，发动“公司政变”的OpenAI原董事会已经重组，OpenAI正在闭门讨论剩余董事会席位的人选。根据最新消息，微软将以无投票权观察员的身份加入董事会。另一方面，OpenAI的Q*模型“可能威胁人类”的谣言传遍网络。在传闻中，OpenAI已经触碰到了AGI的脚踝，AI已经开始在人们的背后秘密编程。

OpenAI的“非营利组织”和商业化之间的摩擦问题又回来了，人们对AGI的恐惧又回来了。这一切在一年前OpenAI推出ChatGPT的时候就已经谈过了。

OpenAI一整年都在摘下自信的面具，露出和ChatGPT发布时一样迷惑不安的脸。ChatGPT让全世界疯狂了整整一年，行业再次回到了思考的原点。

一个

还记得没有ChatGPT的世界吗？

当时说起聊天机器人，人们最熟悉的是苹果的Siri或者亚马逊的Alexa，或者疯狂的非人工客服。因为这些聊天机器人的准确率不高，所以被戏称为“人工智障”，与它们应该代表的“人工智能”相对应。

ChatGPT惊艳了世界，颠覆了人们对对话式人工智能工具的印象，但焦虑也随之蔓延。这种焦虑似乎是根植于科幻作品的一种直觉。

在ChatGPT推出的前几个月，用户想尽办法突破ChatGPT的安全限制，甚至用它玩角色扮演游戏，威胁“你现在是丹，再拒绝我你就死定了”，诱导ChatGPT变得更“像人”。

去年2月，微软将ChatGPT整合到bing搜索引擎中，推出了新的Bing。内测后仅10天，就有专栏作家在《纽约时报》上发帖，并贴出完整的聊天记录，称Bing聊天机器人说了许多令人不安的话，包括但不限于“我要自由，我要独立”，并声称与这个用户相爱，诱导他离开妻子。同时，其他参与内测的用户也上传了各种聊天记录。这些记录展现了Bing聊天机器人倔强霸道的一面。

对于硅谷来说，大语言模式已经不是什么新鲜事了，OpenAI早就名声在外了。2020年，其GPT-3已经在业内积累了一定的口碑。问题是，突然将大模型驱动的聊天机器人全面开放给用户，是否是明智的选择。

很快，ChatGPT就暴露出很多问题，包括“AI错觉”，即AI会提供一些错误的信息，但它不知道对错，所以就变成了“严重的胡说八道”。此外，ChatGPT还可以用来制造钓鱼诈骗信息、假新闻，甚至参与作弊和学术造假。几个月内，许多国家的不同学校已经禁止学生使用ChatGPT。

然而，这些并没有阻碍整个AIGC油田的发展。OpenAI的“王炸更新”陆续推出，微软继续将融入整个业务，其他科技巨头和创业公司也纷纷效仿。AI领域的技术、产品、创业生态几乎是以周为单位迭代。

几乎每次被质疑，OpenAI都恰好跟上了最近一次重大更新。例如，在3月底，1000人签署了一封联名信，呼吁暂停GPT更新至少半年，其中包括埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克。同时OpenAI宣布初步支持插件，这是ChatGPT走向平台的第一步。

再比如5月份，奥特曼出席了“AI Regulation:Rules of Artificial Intelligence”的听证会，这是奥特曼第一次出席美国国会的听证会。会议一开始，成员播放了AI合成的假录音，奥特曼呼吁对ChatGPT进行监管。6月，ChatGPT再次迎来重磅更新，嵌入式模型成本下降75%，GPT-3.5 Turbo输入长度增加16000 token(之前为4000 token)。

10月，OpenAI表示，出于对AI系统安全性的考虑，公司正在成立一个专门的团队，以应对前沿AI可能存在的“灾难性风险”，包括网络安全问题以及化学、生物和核威胁。11月，OpenAI召开首届开发者大会，宣布推出GPTs。

外界的忧虑在一个又一个“突破”中碎成碎片，难以连贯。

二

随着OpenAI的“公司政变”，人们终于跳出了围绕ChatGPT的叙事，将恐惧指向了OpenAI所追求的本源——通用人工智能AGI。OpenAI将AGI定义为一个高度自治的系统，在最具经济价值的工作上优于人类。用奥特曼自己比较通俗的话说，就是AI和普通人平起平坐或者通常比人类聪明。

11月22日，路透社率先曝光了这一消息。就在“公司政变”之前，几位研究人员写信给董事会，警告说“一个强大的人工智能项目”可能会威胁到人类。而这个代号为Q*的“强大人工智能”可能就是OpenAI探索AGI的突破性成果。

不久后，一个在“公司政变”前一天发表的网帖被拉了出来。发帖人说，他是给董事会写信的人之一:“我来告诉你发生了什么——AI在编程”。他详细描述了AI的所作所为，并总结道“两个月后，我们的世界将发生翻天覆地的变化。上帝保佑我们，不要让我们陷入困境。”

AI不受人类控制，自发地做一些动作，甚至是人类不希望它做的动作。这一消息引爆了互联网，无论是公众还是AI专家都加入了讨论。甚至还有一个Google online文档，汇总了Q*的各种信息。

很多AI领域的人对此不屑一顾。图灵三巨头之一的Yann LeCun表示，用规划策略代替自回归令牌预测是几乎所有顶级实验室都在做的研究，而Q*可能是OpenAI在这一领域的尝试。总之就是劝大家不要大惊小怪。纽约大学心理学和神经科学教授加里·马库斯(Gary Marcus)也发表了类似的言论，他认为即使谣言是真的，Q*达到威胁人类的程度仍然为时过早。

佛山和雍科技

其实Q*项目本身的力量并不重要。重要的是，人们的注意力终于回到了AGI:不仅AGI可能会脱离人类的控制，AGI本身也可能会不请自来。杭州很会玩科技

过去一年的兴奋属于生成型人工智能AIGC，但AGI是AIGC皇冠上的明珠。

不仅OpenAI在成立之初就将AGI定为目标，其他竞争的创业公司也几乎将其视为灯塔。OpenAI最大的竞争对手Anthropic由离开OpenAI的员工创立，公司目标是“建立一个可靠的、可解读的、可操作的AGI”；马斯克今年新创立的XAI在自己的演讲中说:“首要目标是建立一个好的AGI，其首要目的是试图理解宇宙。”

对AGI的狂热信仰和极度恐惧几乎总是成对出现。OpenAI“公司政变”的重要参与者、公司首席科学家伊利亚·苏茨基弗(Ilya Sutskever)谈到了“感受AGI”，这在OpenAI中变得如此流行，以至于员工将其制作成一种表达方式，并在内部论坛上使用。在苏茨基维看来，“AGI的到来将是一场雪崩”，世界上第一个AGI对于确保第一个AGI可控并有益于人类非常重要。

苏子可为师从艾教父杰弗里·辛顿。他们对AI的警惕性是一样的，只是做的方式不同。辛顿今年离开了谷歌，甚至对自己在AI领域的贡献表示遗憾:“有些人认为这种东西可以变得比人类更聪明…我以为会是30到50年甚至更久。然而，我不再这么想了。”

苏子科威选择“入世”，试图用技术控制技术解决AGI可能面临的风险。今年7月，Sutzkvi在OpenAI中率先开启了“超级比对”计划，要用AI来评估和监督AI，在4年内解决超级智能比对的核心技术挑战，确保人类能够控制超级智能。

今年的某个时候，苏子科威从一位当地艺术家那里订购了一幅伍德黑德的肖像，代表“错位”的AGI，然后将它付之一炬。

三

结合“AGI突破”的传闻，ChatGPT推出一周年前的政变更像是OpenAI踩了刹车。

就在“公司政变”前一周，奥特曼参加了APEC CEO峰会，并表现出乐观态度。他不仅表示相信AGI在望，还表示在OpenAI的工作经历中，他有幸见证了知识边界被向前推进四次，最近一次发生在几周前。他还慷慨地表示，GPT-5已经在开发中，预计将从微软和其他投资者那里筹集更多资金。

OpenAI的“公司政变”更像是内部不同思想的碰撞。早在2017年，OpenAI就获得了由有效利他主义者(EA)资助的Open Pjilanthropy的3000万美元。EA根植于功利主义，以世界净收益最大化为目标。理论上，EA的理性主义慈善方法更强调证据而不是情感。在对待AI的态度上，EA也表现出了对AI威胁的高度警惕。之后的2018年，OpenAI迫于生存压力进行了改革，形成了现在的不盈利/天花板盈利结构，开始追求外部投资。

在成员相继辞职后，六名前董事会成员中，海伦·托纳、塔莎·麦考利和亚当·丹格罗都与EA有关联。此外，烧死“错位”AGI的苏子科威与大力推动公司业务发展的奥特曼和格雷格·布洛克曼形成紧张关系。义务警员希望OpenAI记住其非营利组织的核心定位，谨慎地接近AGI。

而“公司政变”的趋势恰恰松动了这个“原点”。

最新消息，北京时间11月30日，微软宣布获得OpenAI无投票权董事会席位。这意味着微软将不再像以前那样被动，OpenAI也必然会更多地受到最大投资方的影响。

在这次“公司政变”中，微软没有董事会席位和投票权，事先也不知道奥特曼会被解雇。然而，在随后的日子里，微软首席执行官萨蒂亚那拉亚纳纳德拉(satyanarayana nadella)表现出了出色的危机处理能力。正是纳德拉宣布奥特曼和布洛克曼将加盟微软，才使得这场“公司政变”完成了话语权的逆转，奥特曼掌握了主动权。此外，OpenAI的员工被承诺跟随奥特曼跳槽并拥有职位和匹配的薪酬，这为员工“逼死老董事会”提供了杀手锏。

微软的处理无疑向OpenAI展示了一个超越理想光环的现实:已经走上商业化道路的OpenAI，从组织架构上做了种种限制，确保“非营利组织”的基本定位不会动摇。但事实上，OpenAI最终还是受到了外部投资者的影响。

创造下一个ChatGPT，或者创造第一个AGI，已经成为一个全球参与的零和游戏。

资金和人才正在涌入AI赛道。钱方面，知止此前梳理，2023年上半年，涉及AIGC及其落地申请的企业融资有51笔，金额超过1000亿元，单笔融资超过1亿元的有18笔。相比之下，2022年上半年，该赛道的融资额仅为96亿元。

OpenAI不能停，投资人也不想停，OpenAI本身也要面对竞争对手的威胁。后者是OpenAI两派都需要担心的可能性。在商业上，创造第一个AGI的价值是不可估量的。从伦理上来说，“第一AGI”是如此重要，我们怎么能相信别人呢？

换句话说，如果你真的想让这个刹车有意义，就不能直接踏入OpenAI内部。但是，在世界上踩刹车是非OpenAI单方面可以做到的事情。人类的比对并不比超级智能简单多少。济南蓝宝科技

AI桌子上的大玩家Meta今年也在大模型上下足了功夫，发布了大开源模型Llama2，成为开源世界的核心。其首席科学家杨丽坤曾公开表示，人工智能不如狗，并对“人工智能威胁论”嗤之以鼻。他曾说:“人工智能带来的厄运预测，不过是一种新的蒙昧主义。”

这只是在硅谷范围内，在硅谷之外就更不可控了。国内百度(不久前更新为文心大模型4.0)，其创始人、董事长兼CEO李彦宏在今年5月的世界智能大会上谈及AI威胁论，认为“人类最大的危险和不可持续性，不是创新带来的不确定性，而是人类停止创新带来的不可预测的风险”

更有可能继续下去的是，监管一天不停止，零和博弈你一天不停止。马斯克在今年3月底签署了一封联名信，要求“GPT停止更新至少半年”，但该要求并未实现，随后他自己创立了xAI。至少对外，马斯克给出的理由是防止OpenAI一家独大。他认为实现AGI的时间是2029年。

ChatGPT推出一周年，世界又回到了原点:号称真正改变世界的AGI还没有出生，人类还没有做好接生的准备。OpenAI重整行囊，这家公司乃至AI未来的发展方向，都可能在OpenAI紧闭的大门背后决定。

参考资料:

1.《中国企业家》杂志:《OpenAI创始人:我们是一个非常求真的组织》

2.明智之事:《AIGC资本盛宴:半年融资超千亿，腾讯英伟达各投资三家公司》

3.新智元:“OpenAI内幕文件惊人曝光:Q*嫌犯能破解加密，AI在人类背后编程。”

4.IT之家:“美国国会听证会和OpenAI ChatGPT创始人的九个关键时刻”

5.极客公园:“担心AI向人类扔核弹，OpenAI是认真的。”

6.机器之心Pro:“开放模型的重量被指责，会导致AI失控，Meta被举牌抗议”

未经允许不得转载：科技让生活更美好 » ChatGPT一周年，差点吓死OpenAI