最豪华AI创业访谈：DeepMind创始人如何做个人助理，AI不止是效率革命

也附上播客视频，机器转写翻译，英文很行的可以直接服用，比文字体验好。

以下为对话内容，经 Founder Park 编辑。

使用计算机

越来越像是在对话

Heather Mack:

Reid Hoffman 和 Mustafa Suleyman 是消费级 AI 公司 Inflection 的共同创始人。该公司去年成立，并在 Greylock 孵化。

现在，Inflection 已经悄悄地开发了一款产品，我们今天将听到很多关于它的信息，但我想先从一些背景介绍开始。

现在是 AI 领域的一个匆忙充实的时期。早期的初创公司和地球上最大的科技公司们正在开发许多不同的工具，主要是为企业场景设计的。

然后我们有像 ChatGPT、GPT-4 和 DALL-E 这样的东西，它们吸引了公众的注意力，并真正推动人们意识到 AI 已经变得多么先进。

你们两个都深度参与了 AI 领域的工作。Mustafa，你被广泛认为是该领域的先驱。2010 年，你共同创立了 DeepMind，该公司在 2014 年被 Google 收购。然后你担任 DeepMind 的应用 AI 负责人，2019 年加入 Google 担任 AI 产品和 AI 政策副总裁，直到 2022 年 1 月你加入 Greylock。

Reid，你在斯坦福大学主修符号系统，并在至少十年中一直投资于该领域，你也资助了 OpenAI。你目前是几家以AI为重点的公司的董事会成员，包括 Inflection AI 和 Tome，你曾在 OpenAI 的董事会上任职多年。

现在，以此为背景。快速给我描述一下，当下 AI 世界有什么特点，你会如何描述现在的AI？

Mustafa Suleyman

哈哈，不太现实（surreal）。

这绝对是我在科技领域生活记忆中，最激动人心的时期。完全是惊人的。即使是我们这些，多年来一直在开发这些系统的前沿人员，都感到进步的速度令人惊讶。

感觉像是技术上最富有成效的时期之一，就像是不同的软件和算法的寒武纪大爆发。每个人都在实验，每个人都在尝试新的事物，我认为这将是多年来最富有成效的时刻之一。非常令人兴奋。

Reid Hoffman

我认为正如Mustafa所说，世界已经开始看到这一时刻：互联网影响巨大，移动设备影响巨大，云计算影响巨大。而AI——我在演讲中称其为“增强智能”，因为它在各种方式上都是我们的伙伴——将推动所有这些事情。

事实上，我在演讲中提到了这一时刻，并试图让人们理解这是我们的“啊哈”时刻；我们增强人类能力的时刻，而且我认为要抓住这个机会。

有一件事情，很多人——甚至是非常聪明的人，甚至是技术的创造者——总是先考虑他们的恐惧和不确定性，而不是可能性和希望。

我们实现那些美好未来的方式，当蒸汽机、印刷机、电力的转型，所有这些事情是，“噢，那就是我们想要驶向、划向的未来，这就是我们需要做的事情。” 我认为这就是我们所处的时刻，而且我认为在很短的时间内，实际上每个专业活动都将被AI放大。

而这只是一个开始。

Heather Mack

你们一年多前宣布共同创立 Inflection AI。
当时，你们简单地将其描述为一个以 AI 为先的消费级产品公司。除此之外，没有什么其他的消息了，除了 Inflection 试图颠倒人类和计算机的角色——不是我们试图理解如何与它们交流，而是反过来的。
现在你们进度如何？Inflection已经建立了什么？

Mustafa Suleyman

我认为可以这样想，自从我们开始开发软件以来，我们一直要求人类理解机器语言。我们必须学习它们的编程语言和接口，这是一个巨大的限制。

但这一切即将改变。

因为历史上第一次，计算机实际上能够用与我们相同的自然英语语言与我们交流。我们认为这将彻底改变数字体验（digital experience）的含义。

现在你用计算机做的每件事都会越来越像一次对话。你的AI将会问你问题，会澄清，会试图改进你的理解。通过迭代的反复，你将能够传达你真正的意图。事实上，你将能够分享你的感受，而不仅仅是你的想法或你需要找到的东西，而是你的情感状态。

这将创造一种非常不同的体验，与软件和技术以前所能做的事情完全不同。

Reid Hoffman

我认为从 Inflection AI 的角度来看，帮助人们管理他们的整个生活是很重要的。

把我们的生活看作是一次旅程，其中一部分是我们的工作，一些旅程是与朋友和家人的联系，一些旅程是在某个特定的晚上选择做什么有趣的事情。

现在，我们有了这些语言上复杂、功能强大的工具，可以与我们进行交互（显然，我们现在说的是英语，但众所周知，它们可以使用任何语言，这是使它们变得惊人的一部分）。它们可以成为伟大的个人助理、个人AI。

Mustafa 组建了一个专业的团队，从许多不同的AI项目中汇聚了专业知识，因为他是业内非常资深的专家了。

他们意识到，如何使这些人工智能代理不仅仅是问题的回答者，而是对话的参与者，帮助你沿着自己的生命之路前进？帮助你与其他人类建立联系，帮助你决定你可能想做什么，问你问题，帮助你思考你想要的生活，或者你想要工作的方式。这个团队一直在非常紧张地工作，为个人智能Pi带来不同的训练方式，他们做得非常出色。

不止高效处理信息

还有陪伴感的范式革命

Heather Mack

请介绍一下使用Pi的体验。打开手机上的Pi后，如何快速上手？如何开始使用？

Mustafa Suleyman

所以说，Pi 其实是你的个人 AI。它随时随地与你同在。有时你会想通过 WhatsApp 与它交流，有时它会在 Instagram 上可用，有时你会在桌面与它交谈，也有 iOS app。

因此，从一开始，我们就试图建立这样一种动态，即一种多平台体验。

无论你需要 Pi 在哪里，它都应该为你服务。这不是你下载的东西，也不是你在手机上保留的 app。这实际上是你与AI建立的持久关系，在未来，这将是一种永久存在的关系，帮助你理解周围的世界。

有时，它会在那里倾听，提供支持，并在你需要发泄时为你提供帮助。其他时候，它会帮助你找到有用的信息。它会以一种简洁、对话和有点非正式的方式呈现信息。但有时它会很有趣，很傻，很有创意，帮助你消除那些卡住的时刻，你试图想出一个新想法或制定一个计划。

在其他场合，你可以想象它在你做出艰难决定时为你提供帮助。你可能正在考虑搬到另一个城市或换工作，或者你正在准备与老板进行艰难的谈话。你的AI将作为你的搭档，帮助你作为共鸣板，帮助你为生活中重要的时刻做准备。

在许多方面，它标志着这个新时代的本质。它不仅是一种新平台或新技术，而是一个全新的范式。就像智能手机或互联网是一个新范式一样。我认为，在将来，每个人都会拥有一个个人 AI，它将使我们更聪明，更有生产力，我希望最终会更有同情心和更善良。

Heather Mack

但有很多使用大型语言模型的工具。Pi 和它们的主要区别是什么？
当你说这是一种更加情感敏锐和友善的东西时，你是如何构建的？

Mustafa Suleyman

我认为在未来几年中，将会出现许多不同类型的AI，而我们非常专注于个人 AI。这种类型主要是帮助你更尊重和更有同情心地对待自己，以此连接你与外部世界，并更加友善和有同情心地对待朋友、家人和同事。你可以把它看作是一个思想伙伴，一个反思和理解周围世界的地方。

我认为这是一种不同的语气和风格，人们可能会因不同目的而转向不同的 AI。我们的看法是，到目前为止，AI 的大部分关注点都集中在智商和信息上，而事实上，我认为大多数人正在寻找一种对话。他们希望建立有用的关系，并反思他们生活中的棘手时刻。这就是我们介入的地方。

Reid Hoffman

还有其他的事情，我们需要进行一些专向开发，例如它会记住之前与你的对话。这是一个持续的对话。它不仅仅是“哦，你问了这个问题，这是你的即时维基百科答案”，这是现在正在发生的一些惊人的AI技术。但这也是像“好的，我在和你交谈”。这是一个持续的上下文和对话，它正在迭代。所以它感觉像是你的个人 AI。

Heather Mack

我真的很好奇，你认为人们为什么想要这个？

Mustafa Suleyman

我认为在过去的 20 年中，软件对我们非常有用。它在我们试图做一些实际的事情时帮助我们。它是一种实用功能-你可能想找到特定的信息，你可能想要预订一辆车的乘车服务，你可能想要购买你的杂货，UI 的效率让你快速得到你想要的答案。

在这个新的技术时代，我们可以创建更丰富的体验，以满足我们在世界上具有的情感需求和欲望的全部范围。

提供一点肯定，一点信心的提升，提供一个地方来获得反馈并有人或AI关注你，问你问题，我认为这是一项很好的服务。

世界上的许多人并不总是能轻松获得这种支持。

实际上，我认为这往往是我们在健康和幸福以及在生活中取得成功时的巨大差异。在你的生活中有社交支持只会让你感到更自信、更有韧性，更能成功地在工作或家庭中取得成功。

我认为这可能是一个非常重要的贡献，如果我们成功了，我们可能在未来几年内能够做出。

Reid Hoffman

你的生活质量取决于你一起度过生活的人。是你的朋友。当你有幸与家人建立健康互动关系时，是你的家人。是你的同事，是你享受特定工作、特定团队和公司的原因，也是你留在那里或转到另一个公司的原因，所有这些都构成了你的社交互动的组合。

Pi 设计的部分目的是帮助你让这些社交互动更加丰富和有存在感。

它是一个放大你的工具，提升你的能力，可以帮助你完成那些“我需要和我的朋友 Sarah 或 Bob 进行这种棘手的对话，我该怎么做？”的对话。

你有一个工具可以和它交谈，我们会记住你所进行的对话。

如果我们可以和更多的人谈论所有这些不同的事情，并且他们可以被训练来帮助我们更好地处理这些事情，那真的太好了。

Heather Mack

它并不意味着要取代你的个人关系，而在某些方面，它是一次测试。

Reid Hoffman

因为不是像“只跟我说话，不要跟别人说话。”

它是“让我帮助你如何与其他人有真正有意义的互动。当然，你也可以与我有有意义的互动，但它不是替代，而是帮助。”

Heather Mack

我可以期望它反映我的个性吗？

Mustafa Suleyman

我们的一个基本承诺是，在我们诺力让 Pi 是诚实和真实的。它仍然是一个早期版本，因此它并不总是做到这一点。它经常记错事情并且事实上是错误的。AI是一种新型的事物，它是一个“它（it）”，是我们设计的软件。

小模型会爆发

比GPT4小20倍可以做同样的事

Heather Mack

如果我们考虑更广泛的企业AI生态系统，Pi的存在对其他企业和开发人员意味着什么？

Mustafa Suleyman

我们对组织的看法是，我们是一个 AI studio。

Pi是我们创建的第一个AI，但在接下来的几年里，可以想象我们将开发许多具有不同个性、不同专业知识和不同能力的不同AI。其中一些可以想象是企业或商业AI，可能是我们与某些组织深度合作的AI，帮助他们构建能真正反映其品牌、可以谈论他们的产品或帮助他们解决消费者问题的AI。

因此，在我们的发布中，我们还将发布我们的API，让其他企业有机会玩我们的基础模型。我认为我们方法中的一个相当独特的事情是，我们开发自己的基础模型。

在过去的一年左右时间里，我们实际上已经能够构建出一些世界上最好的大型语言模型。我们非常兴奋地与其他开发人员和企业分享我们正在开发的对话风格。

Reid Hoffman

而且，再次提到 Mustafa 组建团队的一部分，他作为 DeepMind 的联合创始人，曾与 DeepMind 和 Google Brain 的杰出人才合作，并在其他组织中工作。他集合了一群领先的规模（scale）开发者、规模研究人员和发明家，带来了设计思维、文化和下一代所需的团队，并且完成了这件事情。这也是为什么 Inflection 正在构建的模型是对众多优秀模型的额外贡献。

OpenAI 模型也是很好的模型，并且可以通过API获得。这为开发人员和希望构建任何类型的 AI 能力的人创造了更丰富的领域。

Mustafa Suleyman

是的。我的意思是，现在是一个不可思议的时代，因为那些非常大的模型肯定会非常成功。但是每年也有越来越小、越来越高效的模型。现在我们可以用比 GPT-4 少 15 到 20 倍的参数来实现相同的功能。这些模型将越来越多地成为开源的，很多小型开发者都能够利用它们。

这正是推动创新、创意和发展爆发的一部分，也就是说，每个人都将开始使用这些大型语言模型，并将它们集成到他们自己的用例中。我认为将会有惊人的创意爆发。

Heather Mack

Reid，你多年来分享了许多基于创立和扩大LinkedIn的经验。尤其是在你讨论个人和职业生活中友谊的重要性时，主要的经验之一是必须在恰当的时机进行。那么现在是Pi进入市场的恰当时机吗？

Reid Hoffman

嗯，也许不是进入荒野，而是进入文明社会。

但我认为，显然我们正处于这个巨大的拐点（inflection）上。Mustafa和团队想出的名字，拐点。

是的。AI来源于互联网、移动设备和云服务，它可以赋予我们超能力。我们也希望这种超能力能够贯穿我们生活的方方面面。拥有一种个人化的AI是为了处理生活中的各种事务。

而且，我们希望这种AI不仅仅是回答问题，还可以问问题。因为，当我的朋友问我一些问题时，我也会从中发现一些我自己还没有想到的问题。这是我成长和进步的一种方式。

现在之所以会出现这种情况，这将是一个 AI 成为年度人物的一年，因为我们将为人们提供所有这些神奇的时刻和超能力。

其中一些超能力应该是：我们如何在生活的广泛背景下进行导航，当然，包括工作，但不仅仅是工作。

不让AI犯错

主动给人发「好人卡」

Heather Mack

人们已经在 AI 方面工作了几十年了（比如像 Mustafa 这样的人），当然在此之前也有人在研究。但是在我们能够真正感受到它的时候，它感觉就像是刚刚出现并且发展速度比我们跟得上要快，就像那句著名的话：“逐渐然后突然”。这引发了许多可以理解的担忧。
Inflection是如何应对众多的安全/隐私问题的，而且你们正在产品中构建的防护措施是什么？

Mustafa Suleyman

是的，这是一个非常重要的问题，也是 Inflection 在构建 Pi 时非常关注的问题。实际上，安全可能是我们构建Pi的最重要的部分。

我们的做法是展示我们希望 Pi 模仿的好的和坏的行为示例。有时是一个人做这个模仿，有时是其他版本的AI做这个模仿。然后，Pi 能够观察两个或三个或四个不同的对于特定问题的良好反应示例的并排比较。一旦它这样做了，成千上万次，甚至是数百万次，它就学习到了建立我们真正想要遵循的行为策略模型的方法。这是我们所做的关键之一。

另一件事是我们非常关注用户与 Pi 的交互方式。随着时间的推移，人们能够信任Pi非常重要。我们认为信任实际上是设定明确边界的一个函数。因此，Pi非常小心地主动尝试列出它满意的交互类型以及其他禁止的交互类型。

例如，有些人已经创建了 AI 来促进恋爱关系，这对于Pi来说是禁止的，我们也不会追求这一点。因此，每当 Pi 看到看起来可能会朝着那个方向发展的对话时，它都会坚定地反对。

Heather Mack

一开始就给你好人卡（friend zone）？

Mustafa Suleyman

是的，你很快就会被发张好人卡，而且它以非常礼貌、友好、尊重的方式来给你好人卡，但它也很坚定。这种界限设定和明确的期望是我们安全计划的一个非常基本的部分。

Reid Hoffman

而安全的一部分不仅仅是避免负面影响，可能会导致自我伤害或其他伤害，而且还包括正面影响的放大。所以，问题是如何...问你一些问题，帮助你发现自己喜欢的事情，可能想要与你交谈的其他人，你的朋友和生活中的人或同事。

因此，安全不仅仅是“让我们避免负面影响”。它还要看共同经历的对话河流去哪里？它试图处于一个更健康、充实、有意义、更快乐的地方。

Heather Mack

同样的，Reid，我想再深入探讨一下，你曾参与构建社交媒体平台。当时人们对这些平台的力量和潜力充满了乐观主义，这些公司的创始人和投资者很多时候会低估可能出现的潜在问题。
现在我们面临着这些问题，而且很难改变。那么AI与社交媒体平台有何不同？或许你可以谈谈从社交平台中学到的教训，帮助我们不再犯同样的错误。

Reid Hoffman

Mustafa已经提到了其中一些主题，但总体来说，我们需要确保自己问了一些正确的问题，并以正确的方式创建了协调。比如说，如果我们正在追求与Pi的互动模式，那么“尽可能多地花时间陪伴我”可能与对人们生活有益的方式背道而驰。

回顾LinkedIn的早期设计，我们的目标是节约时间，而不是浪费时间。我们的理念是如何让每一分钟对人们有所帮助？如果一个人只在 LinkedIn 上使用了五分钟，那也很好。如果一个人只在 Pi 上使用了五分钟，那也很好。如果它是一个增强的、质量的体验，可以帮助人们在 LinkedIn 的情况下处理他们的工作和生活，在Pi的情况下，包括工作的广泛背景，但也包括我们周五晚上在做什么？或者我如何同我的朋友 Sarah 或 Bob 进行这个具有挑战性的对话？这些都是这样的事情。你要问问题来获得这些协调，并设计你的商业模式来实现这些协调。

因此，我认为这就是我们从社交媒体方面学到的教训：当你看到所有的猖獗问题和质疑时，LinkedIn 得到的比其他平台少得多，部分原因是因为我们在之前有意识地定下了目标，并明确了自己的立场。同样，在 Inflection 和 Pi 方面，我们已经清楚地表明了我们的目标是什么，我们如何为人们的生活增加价值，以及我们试图避免的方面，因为我们认为这不会增加价值。

Mustafa Suleyman

我认为与商业模式相关的另一件非常重要的事情是，正如 Reid 所说，我们非常重视找到一种，不会让我们迫使你在平台上保持参与或分散注意力的盈利机制。

同样，我们也不想推动那种让人上瘾的、带来愤怒、愤慨、绝望或虚假信息的多巴胺刺激。

这些东西确实激励人们在平台上花费更长的时间，有时是因为他们因此获得报酬。我们非常清楚，这是需要随着AI的发展而改变的一种现象，新的商业模式需要出现来实现这一目标。

其中一个重要的方面是我们公司法律架构上的关注点。所以Reid和我在共同创立公司时非常明确，我们多年的讨论其实都是围绕如何从根本上激励一个组织去做正确的事情。实际上这意味着什么？

其中一个很重要的部分就是说：“这家公司的目标是尝试平衡股东的财务需求，不仅是我们的用户的需求，还包括受到我们决策影响的人和社会。我认为公司的决策制定和激励机制应该融入到社会更广泛的利益中，并且公益公司提供了一个法定义务，要求公司董事在做出所有决策时积极平衡这些考虑因素。

这与普通公司确实有很大不同。它并不能解决所有问题，而且它确实是一种实验性的结构。因此，随着我们更加熟悉这种结构的运作方式，它可能会带来自己的挑战。但对我们来说，我认为它为我们设定了一个北极星和一个意图，一个方向，如果我们在长期成功，我们将真正产生实质性的影响。

Reid Hoffman

它的工作原理是，当你不是公共利益公司时，默认的法律结构是你必须基于股东的利益做出决策。尽管在这方面有一些灵活性，因为这是一个问题，即短期股东，长期股东等等，但基本上是股东。成为公共利益公司允许你维持一个明确的使命，就像我们拥有的一种有益的健康AI。然后根据你的技术对客户或社区的影响做出决策。

技术的浪潮

始终是平等的故事

Heather Mack

我可以想象出很多其他情境下，这样的工具会非常有用。
所以我们正在谈论的是，它将会增强能力，而不是取代它们。最理想的情况是，让我们所有人都更有生产力、创造力、知识、支持、倾听和在Pi的情况下得到更好的推广。
但说实话，当我们看看正在开发AI的人们，那些最能从成功的企业中受益的人，有很多熟悉的面孔。更加直白地说，许多在上一波科技浪潮中表现出色的人，现在也是那些真正投身于AI并可能从这一浪潮中获得巨大利益的人。你认为这种观察准确吗？

Reid Hoffman

是的。所以看，我认为这是一个很好的问题。最重要的是要确保好处能够传播到很多人，而不仅仅是有机会的人。我在 Greylock 感到非常荣幸，可以投资并且不仅仅是 Web 1.0 和 Web 2.0 的一部分。如果你把 AI、Web 3.0 或者其他方式看作是这样做的一种方式，我也很幸运。但你有像穆斯塔法这样的人，他来自工人阶级背景，现在是 AI 领域的企业家。我们希望有代表性的声音加入进来。这也是我们与妇女、来自有色人种社区的企业家以及其他人合作的原因，以实现这一目标。

看，包容性在所有这些方面都非常重要。在技术的好处方面确保其非常广泛也非常重要。关键是确保好处能够传播到很广泛的人群。重要的是要把每个人都带进来。

Mustafa Suleyman

回顾消费硬件在过去 20 年的爆炸式增长，这是在摩尔定律 50 年的基础上实现了芯片成本的降低，这是一个非常了不起的故事。无论你是亿万富翁还是年薪 2 万美元，几乎每个人都能获得相同质量的硬件，无论是在移动设备、笔记本电脑还是台式机上。

现在，这是一个非常平等的故事。

我打赌，在未来十年内，我们将看到同样的轨迹，关于智力和关于善良、同情心和情感支持的获取方面。这将是历史上最具变革性的时刻之一，因为现在你不再需要资源才能获得世界上最好的辅导老师。你不再需要在成长时期拥有一个真正支持、善良的家庭或伴侣来鼓励你等等。这实际上现在将面向所有人。我认为，这将迅速成为一种非常便宜和可访问的资源。

想想看，这将如何影响未来 10 到 20 年的文明。它将如何加速生产率，将如此多的创造力、企业家精神等新声音带入生产力经济中。我认为，尽管我们有很多理由对再分配问题和放大问题保持关注和谨慎，正如 Reid 所说，但我们也有很多理由对即将到来的浪潮感到非常乐观和兴奋。

HuggingFace万字访谈：OpenAI不足为惧，每个公司都会有自己的GPT-4

马斯克聊年轻人教育、社区管理和人生幸福，巴菲特强烈推荐观看

OpenAI 和 Google 会输给谁？

美国人真的开始害怕AI了

别再逼着用户跟AI聊天了！

图灵奖得主、谷歌副总裁 Hinton 离职，对毕生工作感到后悔和恐惧

Ilya 斯坦福访谈：AI意识，开源和 OpenAI 商业化，AI研究的未来