查看原文
其他

没有员工,OpenAI 什么也不是!

lencx 浮之静 2024-03-10

这几天被 “❤️” 和 “OpenAI is nothing without its people” 刷屏了,OpenAI 走到现如今这个局面,其内部原因很复杂,网上各种八卦吃瓜新闻不断。这篇文章或许并非事实真相,但我尽可能让自己保持客观中立,将收集到的信息进行重新梳理。

解雇事件

美国时间周五下午,董事会解除了 Sam Altman 首席执行官的职务,理由是他未能对董事会“一贯坦诚”(了解更多:OpenAI 大地震:Sam Altman 和 Greg Brockman 离职,微软加强与 OpenAI 合作!)。他的盟友 Greg Brockman 辞去董事长职务,但仍留在公司。此后的董事会由四人组成:OpenAI 首席科学家 Ilya Sutskever、问答网站 Quora 创始人兼首席执行官 Adam D'Angelo、科学家和科技企业家 Tasha McCauley,以及乔治城大学安全与新兴技术中心的 Helen Toner[1](在人工智能政策和全球人工智能战略研究方面拥有深厚的专业知识)。

  • 董事会解雇 Sam Altman:OpenAI 董事会在上周五(2023.11.17)解雇 CEO Sam Altman 后,引起了众多业界领袖和投资者的惊讶,他们警告说,失去 Altman 的领导,该初创公司可能难以维持目前的发展速度。

  • OpenAI 成员集体抗议:包括共同创始人 Brockman 在内的许多 OpenAI 成员上周因对 Altman 被解雇的决定表示抗议而离开公司,OpenAI 似乎正在面临自我解体。Brockman 表示,将有更多前 OpenAI 的顶尖人才加入微软。有多名员工发帖或转帖 “OpenAI is nothing without its people”,超过 700 多名 OpenAI 员工签署了一封公开信(九成以上),表示除非公司董事会辞职并重新任命被解雇的 Sam Altman 为首席执行官,否则他们可能会辞职并加入 Sam Altman 在微软的团队。

  • OpenAI 新 CEO 任命:在周末(2023.11.19),OpenAI 董事会、投资者、团队成员试图让 Altman 重返 OpenAI,但未能成功。董事会随后任命前 Twitch 首席执行官 Emmett Shear 为 OpenAI 临时 CEO。

  • Sutskever 的道歉:OpenAI 首席科学家兼董事会成员 Ilya Sutskever 在 X 上发布了一条道歉的帖子。他表示深感遗憾参与了董事会的行动,并承诺尽其所能团结公司。

  • OpenAI 的混乱局面:Altman 的离职和随后的动荡,源于一年前 ChatGPT 的发布。OpenAI 不再是一家非盈利公司,而是向着商业化迈进。各种冲突日益凸显:非盈利的初心与现如今商业化的冲突,AI 乐观派和保守派的冲突等等。

  • Altman 和 Brockman 加入微软:微软 CEO Satya Nadella  在周一(2023.11.20)宣布聘请 Sam Altman 和 Greg Brockman 领导一个“新的高级 AI 研究团队”,Altman 将担任团队首席执行官。Nadella 强调了微软历史上在融合不同企业文化方面的经验,例如 GitHub、Mojang Studios 和 LinkedIn。

  • 微软从 OpenAI 混乱中获益:微软被视为这场混乱中的最大赢家,其股价在周一早上的交易中上涨。它不仅通过 Altman 和 Brockman 获得了 OpenAI 的关键技术团队,而且还避免了反垄断诉讼的风险。

上周五,Altman 被董事会争议性解雇。这周一,OpenAI 处于公开叛乱状态,超过 730 名员工签署了一封公开信,威胁要离职,除非董事会辞职并重新任命 Sam Altman 为 CEO,以及联合创始人兼前总裁 Greg Brockman。值得注意的是,信件的签署者包括公司首席科学家兼董事会成员 Ilya Sutskever,他被指责是首先策划针对 Altman 的董事会政变。到美国东部时间周一下午 5:10,OpenAI 大约 770 名员工中的大约 738 人,即公司约 95% 的员工,已签署该信件。

事件当事人

这次 Sam Altman 被解雇事件,出现了多个事件当事人,为了让大家有更直观的了解,在这里汇总了他们的一些个人信息和主要成就。

OpenAI 的组织架构,图片来源:Our structure[2]

Sam Altman

出生:1985 年 4 月 22 日
Sam Altman[3]:OpenAI 前首席执行官 CEO

Sam Altman 是一位美国企业家和投资者。曾在 2019-2023 年担任 OpenAI 的首席执行官,以及 2014-2019 年担任 Y Combinator 总裁。目前,他在微软领导一个先进的 AI 研究团队。

Altman 在密苏里州圣路易斯长大,8 岁时收到了第一台苹果 Macintosh 电脑。曾短暂就读斯坦福大学(Stanford University)计算机科学专业,但未完成学业。Altman 联合创立了基于地理位置的社交网络应用 Loopt,在 2012 年以 4340 万美元卖给了 Green Dot Corporation。他还短暂担任过 Reddit 的 CEO,在 Y Combinator 工作,推动了多项重要项目。

在 OpenAI,他作为创始成员之一参与了公司的发展,在 2019 年全职担任 CEO,直到 2023 年被董事会撤职。在投资领域,奥特曼投资于技术初创公司和核能公司,包括 Airbnb 和 Stripe 等。

Altman 还参与了 COVID-19 大流行期间的 Project Covalence 项目,帮助快速启动临床试验,在硅谷银行储户挤兑期间为多家初创公司提供资本。政治方面,他曾计划参与加州州长竞选并支持民主党候选人。2023 年 5 月,他进行了一次世界巡访,访问了 22 个国家,会见多位领导人和外交官。于 2023 年被《时代》杂志评为全球最具影响力的 100 人之一。

Greg Brockman

出生:1988 或 1989 年
Greg Brockman[4]:OpenAI 前总裁兼联合创始人(President & Co-Founder)

Greg Brockman 是一位美国企业家、投资者和软件开发者。他是 OpenAI 的联合创始人之一,并曾担任该组织的总裁直至 2023 年 11 月。Brockman 的职业生涯始于 2010 年加入 Stripe,后在 2013 年成为该公司首位 CTO。2015 年,他离开 Stripe 与 Elon Musk 和 Sam Altman 共同创立了 OpenAI,并在那里担任 CTO。他在 OpenAI 的早期负责领导多个项目,包括 OpenAI Gym[5] 和 Dota 2 机器人 OpenAI Five[6](OpenAI Five 是第一个在电子竞技比赛中击败世界冠军的 AI),并参与了 GPT-2 和 GPT-4 的开发。2023 年 11 月,Brockman 在 Altman 被解雇后,虽然被告知将从 OpenAI 董事会中撤出但仍对公司至关重要,随后他宣布离开 OpenAI。不久后,微软 CEO Satya Nadella 宣布 Brockman 和前 OpenAI CEO Altman 将加入微软,领导一个新的先进 AI 研究团队。


Altman 和 Brockman 对 OpenAI 董事会当天的行为感到震惊和悲痛。他们首先感谢了在 OpenAI 共事过的同事、客户、投资者,以及所有联系他们的人。他们描述了事件的经过:Ilya 在周五中午通过 Google Meet 告知 Sam 被解雇,Greg 则在接到 Ilya 的短信后被告知将从董事会撤离,但仍对公司至关重要。同时,OpenAI 发布了一篇相关的博客文章(OpenAI announces leadership transition[7])。据他们所知,除了 Mira(在前一晚得知)之外,管理团队在不久后得知了这些变动。尽管面临这样的局面,他们对大家的支持表示感谢,并表示自己会没事,预示着未来会有更好的事情发生。

Ilya Sutskever

出生:1985 或 1986 年
Ilya Sutskever[8]:OpenAI 首席科学家(Chief Scientist)兼联合创始人

Ilya Sutskever 是一位在俄罗斯出生的以色列裔加拿大计算机科学家,专注于机器学习领域。他是 OpenAI 的联合创始人、董事会成员和首席科学家。Sutskever 在深度学习方面做出过重大贡献,与 Alex Krizhevsky 和 Geoffrey Hinton 共同发明了卷积神经网络 AlexNet,并参与了 AlphaGo 论文的撰写。他曾在以色列和加拿大接受教育,获得多伦多大学的计算机科学博士学位。在职业生涯中,Sutskever 曾在谷歌大脑工作,参与开发了序列到序列(Seq2seq)学习算法和 TensorFlow,后来离开谷歌,成为 OpenAI 的联合创始人和首席科学家。2023 年,他宣布领导 OpenAI 的 “ Superalignment” 项目。该项目试图在 4 年内解决超级智能的对齐问题。他写道,即使超级智能看起来很遥远,它也可能在十年内实现。

Sutskever 是导致 2023 年 11 月董事会开会、Altman 被解雇和 Brockman 辞职的主要推动者。部分原因是由于对公司应该如何致力于 AI 安全的程度上存在冲突。董事会会议后不久的一次全体会议中,Sutskever 表示解雇 Altman 是“董事会履行其职责”,尽管在接下来的一周里,他对参与 Altman 的罢黜表示遗憾。Altman 的解雇和 Brockman 的辞职导致 OpenAI 的 3 名高级研究员辞职。

Altman 引用了 Sutskever 的帖子:我深感遗憾自己参与了董事会的行动。我从未想过要伤害 OpenAI。我热爱我们共同创造的一切,我将竭尽所能团结公司。
这两条视频可以让你更加深入地了解 Ilya Sutskever 是一个怎样的人,强烈建议看完视频。

Mira Murati

出生:1989 年 12 月 16 日
Mira Murati[9]:OpenAI 首席技术官(CTO,chief technology officer)

Mira Murati 出生于阿尔巴尼亚弗洛拉,自 2018 年起担任 OpenAI 的首席技术官。她曾在加拿大的皮尔逊联合世界学院(Pearson United World College of the Pacific)就读高中,后在科尔比学院(Colby College)和达特茅斯学院(Dartmouth College)获得双学位。在加入 OpenAI 之前,Murati 曾在特斯拉(Tesla)和增强现实初创公司 Leap Motion 工作。作为 OpenAI 的首席技术官,她领导了 ChatGPT、Dall-E 和 Codex 等项目,并监督了公司的研究、产品和安全团队。2023 年 11 月 17 日,她在 Sam Altman 突然被撤职后,短暂担任 OpenAI 的临时首席执行官,直到两天后被 Emmett Shear 替换。

Emmett Shear

出生:1983 年Emmett Shear[10]:OpenAI 现临时 CEO

Emmett Shear 是人工智能公司 OpenAI 的临时首席执行官,于 2023 年 11 月 19 日被任命,此前他是 Twitch 的首席执行官,自该平台成立时就担任此职,直到 2023 年 3 月。此外,Shear 还是风险投资公司 Y Combinator 的兼职合伙人。

Shear 在华盛顿州西雅图长大,曾在长青学校就读(Evergreen School for Gifted Children),在那里他结识了后来的联合创始人 Justin Kan。他们因为数学和《万智牌》(Magic: The Gathering)游戏结下不解之缘。Shear 在耶鲁大学获得了计算机科学专业的理学学士学位。

在职业生涯中,Shear 与 Kan 一起加入了 Y Combinator 的首批课程,共同开发了一个名为 Kiko 的日历应用程序。他们还创立了 Justin.tv,一个 24/7 的 Justin Kan 生活直播视频平台,后转型为提供直播视频流的平台。此外,他还帮助推动了 Justin.tv 的游戏内容发展成为独立品牌 TwitchTV。

在 Twitch,Shear 带领公司发展成为一个专注于游戏内容的流行平台,最终在 2014 年被亚马逊以 9.7 亿美元收购。2023 年 3 月,他宣布辞去 Twitch 首席执行官职务。

除了在 OpenAI 和 Twitch 的工作,希尔还在 Y Combinator 为新创业公司提供建议,在 COVID-19 大流行期间通过 Twitch 捐赠 100 万美元,以支持 SF New Deal 这个非营利组织。

Shear 曾公开表示,他担心人工智能对文明造成的影响,他认为“P(Doom)”,即人类因人工智能而灭绝的概率在 5% 到 50% 之间(许多网友认为被选为临时 CEO 的很大原因来自他的这番言论属于保守派阵营)。

公开信息

今天,我收到了一个电话,邀请我考虑一个难得的机会:担任 @OpenAI 的临时首席执行官(CEO)。在与家人商议和短暂反思后,我接受了这个职位。之前,因为我 9 个月大儿子的出生,我辞去了 Twitch 首席执行官的职位。陪伴儿子的每一刻都如我所愿般充满意义,我也正享受着远离全职工作的生活。之所以接下这份工作,是因为我相信 OpenAI 是目前世界上最重要的公司之一。董事会向我说明了情况并请求我担任这一角色,我并没有轻率决定。归根结底,我认为如果能出一份力,我就应该去做。

今天,我尽可能多地了解情况,与董事会、一些主要合作伙伴沟通,并倾听员工的意见。我们与 Microsoft 的合作依然稳固,接下来几周我的重点将是确保我们继续为所有客户提供优质服务。不出所料,OpenAI 的员工表现非常出色,且极具使命感。但是,围绕 Sam 被撤职的过程和沟通显然处理得很糟糕,这严重破坏了我们的信任。

未来 30 天,我有以下三个计划:

  • 聘请独立调查员彻查至今为止的整个过程,并提出一份详尽报告。

  • 尽可能多地与我们的员工、合作伙伴、投资者和客户交流,记录重点,并分享关键发现。

  • 针对最近的一系列离职情况,对管理和领导团队进行改革,使其成为推动客户成果的有力团队。

根据这些措施的结果,我将在组织内部实施改革——如果必要,甚至包括大力推动重大治理变革。这些改变将在 30 天内逐步实施。OpenAI  的稳定和成功至关重要,我们不能让任何动荡干扰这一进程。我也将努力解决核心问题,尽管在很多情况下,我认为可能需要超过一个月才能取得实质性进展。

我对 Sam 和整个 OpenAI 团队所建立的一切深表敬意。它不仅是一个卓越的研究项目和软件产品,更是一家非凡的公司。我之所以来到这里,是因为我认识到了这一点,并且我想尽一切努力来保护并进一步发展它。

现在是凌晨 1 点,明天我会继续这项工作。

PS:我之所以在这里发布此信息,是因为我认为在这种情况下,公众有权知晓这些信息,但请不要指望将来所有内部通信都通过公开渠道进行。

PPS:在接受这份工作之前,我已经了解了此次变动背后的原因。董事会并不是因为对安全问题上的分歧撤换 Sam,他们的理由完全不同。如果没有董事会对我们强大模型的商业化给予支持,我是不会轻易接受这份工作的。

Satya Nadella

出生:1967 年 8 月 19 日Satya Nadella[11]:微软公司董事长兼首席执行官(Chairman and CEO)

Satya Nadella 是一位印度裔美国企业高管,目前担任微软的执行董事长兼首席执行官。他于 2014 年接替 Steve Ballmer 成为微软 CEO,并于 2021 年接替 John W. Thompson 成为董事长。在成为 CEO 之前,Nadella 是微软云和企业集团的执行副总裁,负责公司计算平台的构建和运营。

Nadella 出生于印度海得拉巴的一个讲泰卢固语的印度教家庭。他在海得拉巴公立学校接受教育,后在马尼帕尔理工学院(Manipal Institute of Technology)获得电气工程学士学位,随后在威斯康星大学密尔沃基分校(University of Wisconsin–Milwaukee)获得计算机科学硕士学位,并在芝加哥大学布斯商学院(University of Chicago Booth School of Business)获得 MBA 学位。

Nadella 的职业生涯始于太阳计算机公司(Sun Microsystems),后于 1992 年加入微软。在微软,他领导了公司向云计算的转型和开发了全球最大的云基础设施之一。曾担任多个重要职务,包括服务器与工具部门总裁和在线服务部门研发高级副总裁。

在他的领导下,微软进行了多项重要收购,包括 Mojang(因《我的世界》游戏而出名)、Xamarin、LinkedIn 和 GitHub。Nadella 推动了微软文化的转变,强调同理心、协作和持续学习的重要性(使命:赋予地球上的每个人和每个组织更大的能力)。自 Nadella 担任首席执行官以来,截至 2018 年 9 月,微软股价已上涨两倍,年增长率为 27%。

2018 年,被《时代》杂志评为百大最有影响力人物之一。2019 年,被《金融时报》评为年度人物,并被《财富》杂志评为年度商业人物。2020 年,他在孟买的 CNBC-TV18 印度商业领袖奖颁奖典礼上被认定为全球印度商业偶像。2022 年,获得印度政府颁发的莲花装勋章(Padma Bhushan),这是印度第三高的平民奖项。Nadella 还出版了一本名为《Hit Refresh》的书,探讨了他的人生、在微软的职业生涯以及他对科技未来的看法,并宣布将这本书的利润捐给微软慈善事业,通过该慈善事业捐给非营利组织。

以下视频是关于 OpenAI 的一个采访:

Adam D'Angelo

出生:1984 年 8 月 21 日
Adam D'Angelo[12]:Quora 首席执行官(CEO),致力于 Poe[13]

Adam D'Angelo 是一位知名的美国互联网企业家,以联合创立并担任 Quora 首席执行官而闻名。他曾是 Facebook 的首席技术官和工程副总裁,直到 2008 年。2009 年,他创立了 Quora,并在 B 轮融资中投资了 2000 万美元。D'Angelo 还是 OpenAI 董事会的成员。

D'Angelo 在菲利普斯埃克塞特学院完成高中学业,并在加州理工学院(California Institute of Technology)获得计算机科学学士学位。他与 Mark Zuckerberg 共同开发了 Synapse Media Player,并创建了 BuddyZoo 网站。

他在青少年时期就在计算机编程竞赛中取得了显著成就,包括在美国计算机奥林匹克竞赛和国际信息学奥林匹克竞赛中获奖,以及在 ACM 国际大学生程序设计竞赛中获得多项荣誉。

在 Facebook 收购 Instagram 之前,D'Angelo 曾是 Instagram 的顾问和投资者。他于 2018 年加入 OpenAI 董事会,并在 2023 年投票决定移除 Sam Altman 作为 OpenAI 的首席执行官。

据爆料:因他的公司 Poe 由于 OpenAI 发布的 GPT 产品(OpenAI 开发者大会速览:GPTs 和模型 API)而变得过时而感到愤怒。对董事会没有提前通知他感到不满,认为这让他的竞争对手获得了优势。D'Angelo 被指责操纵董事会中的有效利他主义(EA)成员,让他们相信存在关于 AI 的重大风险,并声称 Sam Altman 故意隐瞒信息。D'Angelo 的目标是敌意接管 OpenAI —— 这一切都是为了打倒他的头号竞争对手。在这一系列事件中,亚当因忙于律师事务而拒绝发表公开声明,他被视为这一切背后的主要策划者。

Tasha McCauley

Tasha McCauley(出生:1983 年) 是 OpenAI、人工智能治理中心、有效利他主义中心和人工智能目标研究所的董事会成员。同时也是 GeoSim Systems 的首席执行官和 Fellow Robots 的联合创始人。她在技术创新领域擅长领导能力和远见卓识。

包括 Tasha McCauley 等关键决策者在内的董事会选择罢免 Sam Altman 首席执行官职务。将大权被移交给 Mira Murati。内部人士透露,McCauley 在除掉 Altman 的过程中发挥了关键作用。

其他观点

微软可能并非赢家

与一些报道相反,以下这段观点认为,微软并不是最近几天围绕 OpenAI 事件的赢家。上周五早上,微软对 OpenAI 的投资约为 110 亿美元,这为他们带来了大量潜在收益,同时保持了一定距离,使其能对外声称自己的技术优于竞争对手。然而,到了周日早上,微软面临失去这笔投资并显得愚蠢的风险,因为他们在没有真正治理控制的情况下做出了巨额投资。

虽然目前微软的状况比周日好,但远不如上周五。他们可能聘请许多 OpenAI 团队成员,但这并不会给微软带来太多之前没有的优势,反而带来了新的声誉风险和执行风险。帖子认为,OpenAI 高级人员在微软的留存率将接近零(超过三年),因为与 OpenAI 的独立性和清晰使命相比,微软的大公司环境可能不足以激励这些人才。所以对于微软和 OpenAI 来说,这是一个糟糕的周末,且目前看来,情况短期内不太可能好转。

Ilya 在不知情下被卷入

我将此有趣的深层嵌套评论从 alphanerd 提升到顶层:

如我在其他地方所发表,我认为这是 Dustin Moskovitz 和 Sam Altman 之间的冲突。Ilya 可能在不知情的情况下被卷入此事(这可能解释了他为何撤回自己的立场)。Dustin Moskovitz 是 FB 的早期员工和 Asana 的创始人。他还创立了(与许多微软(MSFT)高层一起)一个名为 Open Philanthropy 的非营利组织,该组织是有效利他主义的早期支持者,也给 OpenAI 提供了 3000 万美元的赠款。他还是 Anthropic 的早期投资者之一。

大多数 OpenAI 董事会成员都与 Dustin Moskovitz 有关。

  • Adam D'Angelo 是 Asana 的董事会成员,同时也是 Moskovitz 和 Altman 的好朋友

  • Helen Toner 曾在 Open Philanthropy 为 Dustin Moskovitz 工作,并管理了他们对 OpenAI 的赠款。当 McCauley 是那里的董事会成员时,她还是 AI 治理中心的成员。Toner 离开后不久,AI 治理中心从 Open Philanthropy 获得了 100 万美元的赠款,McCauley 加入了 OpenAI 的董事会

  • Tasha McCauley 代表 AI 治理中心,该中心通过 Open Philanthropy 获得了 Dustin Moskovitz 的 100 万美元赠款,McCauley 最终加入了 OpenAI 的董事会

过去几个月,Dustin Moskovitz 也越来越多地对 AI 安全发出警告。

本质上,这看起来像是 Sam Altman 和 Dustin Moskovitz 之间的分裂。

Geoffrey Irving 爆料

Geoffrey Irving[14] 是 DeepMind 安全研究员和可扩展调整团队负责人。他发了一篇帖子,内容大意:

作者对 OpenAI 董事会解雇 Sam Altman 一事的看法与矛盾。作者尊敬的人物,如 Helen Toner[15] 和 Ilya Sutskever,面临着许多批评,这促使他发表个人观点,但同时强调这些观点与他的雇主无关,并提到可能存在的利益冲突。

作者对 Helen 和 Ilya 持有强烈的支持态度。他认为 Ilya 是一位杰出的机器学习研究者,其对 AI 安全性的观点在过去两年中有所改进。同时,作者称赞 Helen 是一位出色的战略和通才研究者,并对她接受董事会职位持保留态度。尽管他曾建议 Helen 不要加入董事会,但她和其他人认为增加董事会中的独立成员很重要。

关于 Sam Altman,作者表达了强烈的负面看法。他分享了与 Sam 共事两年的经历:Sam 对他个人总是友好,但在不同场合对他撒谎,并对包括作者的亲密朋友在内的其他人行为欺骗、操纵甚至更糟。这种“对我总是很好”的情况使作者在分享负面信息时感到困难,因为这些信息大多涉及第三方。

最后,作者提到自己对董事会解雇 Sam 的具体原因不了解,并对周五及周末发生的事件感到困惑。他认为根据公开信息,似乎出现了一些战术和战略上的错误,但这与涉及人员的深思熟虑不相符。因此,他认为在有更多信息公开之前保留完整的判断是合理的,尽管他知道这对许多人来说可能看起来不合理。

OpenAI 内部的混乱

翻译:lencx
原文:Inside the Chaos at OpenAI[16]

要真正理解过去 48 小时发生的事件—— OpenAI 首席执行官 Sam Altman 令人震惊的突然下台,紧接着有报道称公司正试图将他重新请回,再到另一则惊人的消息,即他实际上不会回归——我们必须明白,OpenAI 并非一家普通的科技公司。至少,它与互联网时代的其他划时代公司如 Meta、谷歌和微软不同。

OpenAI 成立于 2015 年,最初是一家非营利机构,致力于创造能够“惠及全人类”的人工通用智能(AGI)(了解更多:一文读懂 OpenAI)。公司的构想是,OpenAI 将更像一个研究机构或智库。公司章程直截了当地声明,OpenAI 的“首要法定责任是对人类负责”,而不是对投资者或甚至员工负责。

然而,这种模式并没有持续太久。2019 年,OpenAI 推出了一个“限利润”模式的子公司,可以筹集资金、吸引顶尖人才,并最终制造商业产品。但非营利董事会保持了全部控制权。这些公司细节是 OpenAI 迅速崛起和 Altman 令人震惊的下台的核心。Altman 在周五被 OpenAI 董事会解职,是公司两个意识形态极端之间权力斗争的高潮——一个来自硅谷的科技乐观主义团队,由快速商业化所激发;另一个深陷于 AI 对人类构成的存在风险的担忧中,主张极度谨慎地控制。多年来,这两派势力设法共存,虽然途中也有一些波折。

这种微妙的平衡在一年前几乎就在这一天被打破,这要归因于让 OpenAI 获得全球知名度的产品:ChatGPT。从外部看,ChatGPT 似乎是有史以来最成功的产品发布之一。它的增长速度超过了历史上任何其他消费者应用程序,似乎单枪匹马地重新定义了数百万人对自动化的威胁和承诺的理解。但它使 OpenAI 走向截然相反的方向,加剧并恶化了已经存在的意识形态裂痕。ChatGPT 加速了创造盈利产品的竞赛,同时也给公司的基础设施和专注于评估和减轻技术风险的员工带来了前所未有的压力。这加剧了 OpenAI 各派系之间已经紧张的关系,Altman 在 2019 年的一封员工电子邮件中将其称为“部落”。

据《大西洋月刊》与 OpenAI 的 10 位现任和前任员工进行的交谈显示,公司正经历一场使领导层两极分化的变革。(我们同意不透露这些员工的姓名——他们都表示担心就 OpenAI 的内部运作向媒体坦诚地讲话会遭到报复)结合他们的陈述,可以看出,赶制商业化产品的压力日益增大,与公司声明的使命格格不入,直到 ChatGPT 和随后快速推出的其他产品使一切走向导火索。一位消息人士告诉我们:“在 ChatGPT 之后,已经清晰可见获得收入和利润的途径。你不再能借口称自己是一个理想主义的研究实验室了,现在就有客户想要得到服务。”

我们仍不确定 Altman 被解雇的确切原因,也不完全了解他的未来走向。今天下午,Altman 访问了位于旧金山的 OpenAI 总部,讨论可能的协议,但他没有回应我们的置评请求。董事会在周五宣布,经过“审慎的审查过程”,发现“他在与董事会的沟通中并不总是坦诚”,因此失去了对他作为 OpenAI 首席执行官能力的信心。随后,一位 OpenAI 发言人确认了首席运营官发给员工的内部备忘录,称解雇是由于 Altman 与董事会之间的“沟通崩溃”,而不是因为“不当行为或与我们的财务、商业、安全或安全/隐私实践有关的任何事项”。但没有给出具体的详细信息。我们所知道的是,过去一年在 OpenAI 是混乱的,主要是由于公司方向的严重分歧。

2022 年秋天,在 ChatGPT 发布之前,OpenAI 全体员工都在为公司迄今为止最强大的大型语言模型 GPT-4 的发布做准备。团队们忙于完善技术,这种技术可以编写流畅的散文和代码,并描述图像的内容。他们努力准备必要的基础设施来支持该产品,并完善策略来确定 OpenAI 会允许和不允许哪些用户行为。

在这一切中,OpenAI 内部开始传出竞争对手 Anthropic 正在开发自己的聊天机器人的传言。这场竞争个人化了:Anthropic 是在一批员工因担心公司发布产品的速度过快而于 2020 年离开 OpenAI 后成立的。11 月,OpenAI 领导层告诉员工,他们需要在几周内推出一个聊天机器人,据三名当时在公司的人士称。为了完成这项任务,他们指示员工发布一个现有模型 GPT-3.5,带有基于聊天的界面。领导层小心翼翼地将这项工作框架为“低调的研究预览”,而不是产品发布。Altman 和其他高管表示,通过将 GPT-3.5 投入人们手中,OpenAI 可以收集更多关于人们如何使用和与 AI 互动的数据,这将有助于公司推动 GPT-4 的开发。这种方法也符合公司的更广泛部署策略,逐步将技术释放到世界上,让人们逐渐习惯它们。包括 Altman 在内的一些高管开始复述同样的话:OpenAI 需要让“数据飞轮”开始转动。

一些员工对匆忙推出这一新的会话模型表示不安。公司已经被 GPT-4 的准备工作和应对聊天机器人可能改变风险格局的准备工作压得喘不过气来。就在几个月前,OpenAI 才推出了一个新的流量监控工具,用于跟踪基本的用户行为。该工具的功能尚在完善中,目的是了解人们如何使用公司的产品,这将进一步指导公司如何应对技术可能带来的危险和滥用。其他员工则认为,将 GPT-3.5 转变为聊天机器人可能不会带来太大挑战,因为该模型本身已经经过了充分的测试和完善。

公司还是推进了计划,并于 11 月 30 日发布了 ChatGPT。这次发布如此低调,以至于许多没有直接参与的员工,包括那些负责安全功能的员工,甚至没有意识到它已经发生。据一名员工说,其中一些知情人士甚至开始打赌,赌第一周可能有多少人使用这个工具。最高的猜测是 10 万用户。OpenAI 的总裁在推上宣布,该工具在前五天内就达到了 100 万用户。"低调研究预览"这个词很快在 OpenAI 内部流行起来,员工们甚至将其制作成笔记本电脑贴纸。

ChatGPT 的巨大成功给公司带来了极大压力。为了应对流量激增,研究团队的计算资源被重新分配。随着流量的持续飙升,OpenAI 的服务器屡次崩溃;流量监控工具也反复失效。即使该工具在线,员工也难以利用其有限的功能来深入理解用户行为。

公司内的安全团队推动减缓进度。这些团队努力完善 ChatGPT,使其拒绝某些类型的滥用请求,并对其他查询作出更恰当的回应。但他们在构建像自动禁止反复滥用 ChatGPT 的用户的功能等特性方面遇到了困难。与此同时,公司的产品部门希望借助这股势头,加大商业化的力度。公司迅速招募了数百名新员工,以便大力发展公司的产品。2 月,OpenAI 发布了 ChatGPT 的付费版本;3 月,公司迅速推出了一个 API 工具,或应用程序编程接口,帮助企业将 ChatGPT 整合到他们的产品中。两周后,公司最终发布了 GPT-4。

据三名当时在公司的员工透露,这一连串新产品让情况变得更糟。流量监控工具的功能严重滞后,提供的关于哪些流量来自 ChatGPT 和 GPT-4 通过新 API 工具整合到哪些产品的可视性非常有限,这使得理解和阻止滥用变得更加困难。同时,API 平台上的欺诈行为开始激增,因为用户大规模创建账户,以利用每个新账户附带的 20 美元按需服务信用额。阻止欺诈成为首要任务,以减少收入损失并防止用户通过创建新账户来规避滥用执法:已经人手不足的信任与安全团队的员工被从其他滥用领域重新分配,专注于这个问题。在不断增加的压力下,一些员工出现了心理健康问题。沟通不畅。同事们只有在 Slack 上注意到同事消失后,才发现他们已经被解雇。

GPT-4 的发布还让专注于进一步上游 AI 安全挑战的对齐团队感到沮丧,比如开发各种技术使模型遵循用户指令,防止它发表有毒言论或“幻觉”——自信地将错误信息作为事实陈述。该团队的许多成员,包括越来越多担心更先进 AI 模型存在风险的人,对 GPT-4 被迅速推广到其他产品感到不安。他们认为他们所做的 AI 安全工作还不够。

高层的紧张局势也达到沸点,随着 Altman 和 OpenAI 总裁 Greg Brockman 鼓励更多的商业化,公司首席科学家 Ilya Sutskever 对于 OpenAI 是否坚守其创建有益 AGI 的非营利机构使命越来越担忧。根据多年来一直与 Sutskever 保持密切联系的 AI 先驱 Geoffrey Hinton 的说法,过去几年,OpenAI 的大型语言模型的快速进展使 Sutskever 更加确信 AGI 即将到来,因此更加专注于预防其可能的危险(Sutskever 没有回应置评请求)。

为了迎接这种全能技术的到来,Sutskever 开始表现得像一个精神领袖,据与他一起工作的三名员工告诉我们。他不断、热情地反复一个口号:“感受 AGI”,指的是公司即将实现其最终目标的想法。在 OpenAI 2022 年的假日派对上,该派对在加州科学院举办,Sutskever 带领员工高呼:“感受 AGI!感受 AGI!”这个口号本身足够流行,以至于 OpenAI 员工在 Slack 中创建了一个特殊的“感受 AGI” 反应表情符号。

Sutskever 对 OpenAI 技术的力量越来越有信心,他也越来越与公司内部的存在风险派系结盟。根据两名了解情况的人士的说法,为了今年的一次领导层外出活动,Sutskever 委托一位当地艺术家制作了一个木制雕像,代表一个“未对齐”的 AI ——即一个不符合人类目标的 AI。他点燃它,象征着 OpenAI 对其创始原则的承诺。7 月,OpenAI 宣布成立一个所谓的超级对齐团队,由 Sutskever 共同领导研究。OpenAI 表示,将扩大对齐团队的研究,开发更上游的 AI 安全技术,并为 AGI 在本十年内到来的可能性做好准备,专门使用公司现有计算芯片的 20%。

与此同时,公司的其他部分继续推出新产品。在超级对齐团队成立后不久,OpenAI 发布了强大的图像生成器 DALL-E 3。本月早些时候,公司举办了首次“开发者大会”,Altman 在会上推出了 GPTs,这是一种无需编码就可以构建的定制版本的 ChatGPT。这些产品再次出现了重大问题:据公司更新,OpenAI 遭遇了一系列故障,包括在 ChatGPT 及其 APIs 上的大规模中断。开发者大会后的三天,据 CNBC 报道,微软因安全考虑短暂限制了员工对 ChatGPT 的访问。

尽管如此,Altman 继续前进。在被解雇前的几天,他正在为 OpenAI 的持续进步制造炒作。他告诉《金融时报》,公司已经开始研发 GPT-5,并在几天后暗示在 APEC 峰会上有令人难以置信的成果。他说:“就在过去的几周里,我有幸身处于这样一个房间,我们在推动无知的面纱后退,发现的前沿向前进。”他说:“能够做到这一点是我职业生涯的荣耀。”据报道,Altman 还在寻求从软银和中东投资者那里筹集数十亿美元,以建立一家能与英伟达和其他半导体制造商竞争的芯片公司,同时降低 OpenAI 的成本。在一年时间里,Altman 帮助将 OpenAI 从一个混合研究公司转变为全速增长的硅谷科技公司。

在这种背景下,公司内部紧张关系的激化就不难理解了。OpenAI 的宪章将原则置于利润、股东和任何个人之上。公司部分由 Sutskever 现在代表的那个派系——那些担心 AI 潜在威胁的人,他们的信念有时似乎植根于科幻小说领域——共同创立,这个派系也构成了 OpenAI 当前董事会的一部分。但 Altman 也将 OpenAI 的商业产品和筹资努力定位为实现公司最终目标的手段。他告诉员工,公司的模型仍处于早期开发阶段,OpenAI 应该商业化并产生足够的收入,以确保它可以在对齐和安全问题上不受限制地投入资金;据报道,ChatGPT 正朝着每年产生超过 10 亿美元的目标迈进。

Altman 的解雇可以看作是 OpenAI 不寻常结构的惊人实验。这一实验现在可能正解构我们所知的公司,并随之改变AI的发展方向。如果 Altman 在投资者和当前员工的压力下重返公司,这将是一次巨大的权力巩固。它将表明,尽管有宪章和崇高的信条,OpenAI 毕竟只是一家传统的科技公司。

即便没有 Altman,这个动荡的周末也展示了在我们这个时代最具影响力的技术进展中,实际上只有少数人有发言权。AI 的未来正由富有的技术乐观主义者、狂热的末日预言者和数十亿美元的公司之间的意识形态斗争来决定。OpenAI 的命运可能悬而未决,但公司的理念——它所倡导的开放性——显示了其局限性。未来似乎将在闭门会议中决定。

最后

这几天我一直在关注事件动态,也看到了一些吃瓜群众的奇葩发言。想写文章,却不知从何下笔(信息更新频繁,每天都有反转,感觉越理越乱...)。我想说的是:在不清楚整个事件全貌时,武断发言和站队只会显得自己很无知!最后也希望 OpenAI 能够顺利渡过这次难关,一群有梦想的人在一起,一定可以创造出更大的价值!

References

[1]

Helen Toner: https://openai.com/blog/helen-toner-joins

[2]

Our structure: https://openai.com/our-structure

[3]

Sam Altman: https://twitter.com/sama

[4]

Greg Brockman: https://twitter.com/gdb

[5]

OpenAI Gym: https://github.com/openai/gym

[6]

OpenAI Five: https://openai.com/research/openai-five-defeats-dota-2-world-champions

[7]

OpenAI announces leadership transition: https://openai.com/blog/openai-announces-leadership-transition

[8]

Ilya Sutskever: https://twitter.com/ilyasut

[9]

Mira Murati: https://twitter.com/miramurati

[10]

Emmett Shear: https://twitter.com/eshear

[11]

Satya Nadella: https://twitter.com/satyanadella

[12]

Adam D'Angelo: https://twitter.com/adamdangelo

[13]

Poe: https://poe.com

[14]

Geoffrey Irving: https://twitter.com/geoffreyirving

[15]

Helen Toner: https://twitter.com/hlntnr

[16]

Inside the Chaos at OpenAI: https://www.theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050

继续滑动看下一个

没有员工,OpenAI 什么也不是!

lencx 浮之静
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存