我们很高兴翻译和摘要发布比尔·盖茨与人工智能领域的开拓者、OpenAI负责人萨姆·奥特曼最近进行的一场引人入胜的对话，盖茨和奥特曼对人工智能不断发展的前景进行了简洁而深刻的探索。讨论深入探讨了人工智能模型的现状、技术进步的社会影响，以及人类在人工智能完善的世界中未来的角色。希望本文章能够为那些对AI技术发展感兴趣的人提供方向指引。
作者：张长旺，旺知识，CCF理论计算机科学专业委员会
1 - 未来五年我们将理解大语言模型
盖茨：今天我的客人是山姆·奥特曼。当然，他是OpenAI的首席执行官。长期以来，他一直是一名企业家和科技行业的领导者，包括运营YCombinator，该公司做出了许多令人惊叹的事情，例如为Reddit、Dropbox、Airbnb提供资金。在我录制这段视频后不久，当他被解除OpenAI首席执行官职务时，我完全感到惊讶。解雇后的几天里发生了很多事情，包括几乎所有OpenAI员工都表示支持，而Sam又回来了。因此，在您听到我们的对话之前，让我们先与Sam联系一下，看看他的表现如何。
奥特曼：我想，你知道很多人都说过这样一个事实：团队从未感到如此高效、如此乐观或如此出色。所以，我想这就像所有这一切的一线希望。从某种意义上说，这对我们来说就像是一个真正的成长时刻，我们非常有动力变得更好，并成为一家为我们面前的挑战做好准备的公司。
盖茨：我很荣幸看到你的工作不断发展，但我对此非常怀疑。没想到ChatGPT会这么好。这让我大吃一惊，而且我们并不真正理解编码。我们知道数字，我们可以观察它的乘法，但是莎士比亚的思想是在哪里编码的呢？您认为我们会了解这种表述吗？
奥特曼：百分之一百。尝试在人脑中做到这一点非常困难。你可以说这是一个类似的问题，就是有这些神经元，它们是相连的。这些连接正在移动，我们不会切开你的大脑并观察它是如何演变的，但我们可以完美地用X射线检查。在可解释性方面已经有一些非常好的工作，我认为随着时间的推移将会有更多的工作。我认为我们将能够理解这些网络(GPT)，但我们目前的理解还很低。正如您所期望的，我们所了解的一点点对于改进这些事情非常有帮助。抛开科学好奇心不谈，我们都有动力去真正理解它们，但它们的规模是如此巨大。
我们还可以说，莎士比亚在你的大脑中的哪个位置被编码，以及它是如何表示的？我们真的不知道，但在某种程度上，说我们还不知道我们应该能够完美地进行X光检查、观看并进行任何我们所知道的测试，这让我们感觉更不令人满意。
盖茨：我很确定，在未来五年内，我们会理解它（大语言模型）。就训练效率和准确性而言，这种理解将使我们比今天做得更好。
奥特曼：百分之一百。你可以在技术史上的许多历史中看到这一点，有人做出了实证发现。他们不知道发生了什么，但它显然有效。然后，随着科学理解的加深，他们可以让它变得更好。
在我们的例子中，构建GPT-1的人自己解决了这个问题，这有点令人印象深刻，但对其工作原理或原因没有深入了解。然后我们得到了缩放定律。我们可以预测情况会好得多。这就是为什么当我们告诉您我们可以进行演示时，我们非常有信心它会发挥作用。我们还没有训练过模型，但我们非常有信心。这导致我们进行了一系列尝试，并对正在发生的事情有了越来越好的科学理解。但它确实首先来自于实证结果。
2 - 多模态、推理性、可靠性、定制性、个性化、自适应是未来2年AI趋势
盖茨：展望未来两年，您认为（AI）一些关键的里程碑是什么？
奥特曼：多模态肯定很重要，语音，图片，最终视频。显然，人们确实想要这样。我们推出了图像和音频，其反应比我们预期的要强烈得多，我们将能够更进一步。但也许最重要的进步领域将围绕推理能力。目前，GPT-4只能以极其有限的方式进行推理。还有可靠性。如果你问GPT-4大多数问题10,000次，那么这10,000个问题中的一个可能相当不错，但它并不总是知道哪一个，并且你希望每次都能得到10,000个问题的最佳响应，因此增加可靠性将很重要。
可定制性和个性化也将非常重要。人们想要从GPT-4中得到非常不同的东西：不同的风格、不同的假设集。我们将使这一切成为可能，并使其能够使用您自己的数据。能够了解您、您的电子邮件、您的日历、您喜欢如何预订约会、连接到其他外部数据源等等。这些将是一些最重要的改进领域。
盖茨：在现在的基本算法中，它只是前馈、乘法，因此生成每个新单词，本质上是在做同样的事情。如果您达到这样的程度（例如在求解复杂的数学方程时），您可能必须应用任意次数的变换，那么推理的控制逻辑可能必须更加复杂，我会很感兴趣不仅仅是我们今天所做的。
奥特曼：至少，我们似乎需要某种自适应计算。现在，我们在每个令牌上花费相同的计算量，一个愚蠢的令牌，或者计算一些复杂的数学。
3 - AI可能需要全球联合机构监管
盖茨：这是一个很好的案例研究，当您谈论监管时，您是否清楚将制定什么样的监管？
奥特曼：我想我们已经开始解决这个问题了。对这个领域施加过多的监管是很容易的。您可以查看很多以前发生过这种情况的示例。而且，如果我们是对的，结果可能并非如此，但如果我们是对的，并且这项技术能够发展到我们认为的那样，它将影响社会、地缘政治权力平衡，以及很多事情，对于这些仍然是假设的，但未来非常强大的系统-不像GPT-4，而是具有100,000或100万倍计算能力的东西，我们已经社会化了一个全球监管机构的想法，该机构会关注这些系统超级强大的系统，因为它们确实具有如此大的全球影响力。我们谈论的一种模式是类似国际原子能机构的模式。对于核能，我们也做出了同样的决定。由于潜在的全球影响力，这需要某种全球机构。我认为这是有道理的。会有很多短期问题，这些模型可以说什么、不可以说什么？我们如何看待版权？不同的国家会对这些问题有不同的看法，这很好。
盖茨：有些人认为，如果存在如此强大的模型，我们就会害怕它们——核监管在全球范围内发挥作用的原因基本上是每个人，至少在民用方面，都希望分享安全实践，而且一直以来极好的。当你进入核武器的武器方面时，你就没有同样的东西了。如果关键是阻止整个世界做危险的事情，你几乎需要全球政府，而今天在气候、恐怖主义等许多问题上，我们发现我们很难合作。人们甚至援引中美竞争来解释为什么任何放缓的想法都是不合适的。任何放慢速度或放慢速度以小心谨慎的想法都很难执行吗？
奥特曼：是的，我认为如果它给人的印象是要求放缓，那将非常困难。如果它相反说，“做你想做的事，但任何高于某个极高功率阈值的计算集群”——考虑到这里的成本，我们谈论的可能是世界上五个，类似的东西——任何这样的集群都有提交给相当于国际武器视察员的人员。该模型必须可供安全审核，在训练期间和部署之前通过一些测试。我觉得这是可能的。我以前不太确定，但今年我在世界各地进行了一次大型旅行，并与许多需要参与这一活动的国家的元首进行了交谈，几乎得到了普遍的支持。这并不能拯救我们脱离一切。对于规模小得多的系统来说，仍然会出现问题，在某些情况下，可能会出现非常严重的错误。但我认为这可以帮助我们应对最大的风险。
4 - AI显著提高生产率，提别是对于编码、医疗、教育领域
比尔盖茨：我确实认为人工智能在最好的情况下可以帮助我们解决一些难题。
奥特曼：首先，我始终认为值得记住的是，我们正处于这条漫长而连续的曲线上。现在，我们拥有可以执行任务的人工智能系统。他们当然不能做工作，但他们可以完成任务，并且生产率会提高。最终，他们将能够做更多我们今天认为是工作的事情，当然，我们也会找到新的工作和更好的工作。
我完全相信如果你为人们提供更强大的工具，他们不仅可以工作得更快一点，而且可以做质量不同的事情。现在，也许我们可以将程序员的速度提高3倍。这就是我们所看到的，也是我们最兴奋的类别之一。它运行得非常好。但是如果你让程序员的效率提高三倍，这不仅仅是他们可以做三倍多的事情，而是他们可以-在更高的抽象层次上，使用更多的脑力-他们现在可以想出完全不同的东西事物。这就像从打孔卡到更高级的语言不仅让我们编程速度更快，还让我们做这些高质量的新事情。我们确实看到了这一点。
当我们研究可以完成更完整任务的后续步骤时，您可以想象一个小智能体，您可以说：“为我编写整个程序，我会一路问你几个问题，但是它不会只是一次编写几个函数。”这将带来很多新的东西。话又说回来，它会做更复杂的事情。有一天，也许有一个人工智能可以让你说：“为我创办并运营这家公司。”然后有一天，也许会有一个人工智能，你可以说，“去发现新的物理学。”我们现在看到的东西非常令人兴奋和精彩，但我认为值得始终将其放在这项技术的背景下，至少在未来五年或十年内，该技术将处于非常陡峭的改进曲线上。这些是有史以来最愚蠢的模型。
编码可能是我们今天最兴奋的生产力提高的单一领域。目前它已被大规模部署并大规模使用。医疗保健和教育是我们也非常兴奋的两件事。
5 - AI将影响劳动力市场，社会需要更快适应
盖茨：有点令人畏惧的是，与以前的技术改进不同，这次技术改进可以非常迅速，而且没有上限。它的想法是，它在很多工作领域都达到了人类水平，即使它不做独特的科学，它也可以做支持电话和销售电话。我想你和我确实有一些担忧，除了这件好事之外，它会迫使我们比以前更快地适应。
奥特曼：这就是可怕的部分。这并不是说我们必须适应。这并不是说人类的适应能力不强。我们经历了这些巨大的技术变革，人们所做的很大一部分工作可能会在几代人的时间内发生改变，而在几代人的时间里，我们似乎很好地吸收了这一点。我们已经在过去伟大的技术革命中看到了这一点。每一次技术革命都变得更快，而这将是迄今为止最快的一次。我觉得这可能有点可怕，那就是社会必须适应的速度，以及劳动力市场将会发生的变化。
盖茨：人工智能的一个方面是机器人技术，或者是蓝领工作，当你的手脚能力达到人类水平时。ChatGPT令人难以置信的突破让我们专注于白领事物，这是非常合适的，但我确实担心人们正在失去对蓝领事物的关注。那么您如何看待机器人技术？
奥特曼：对此非常兴奋。我们太早启动机器人了，所以我们不得不搁置该项目。由于错误的原因，这很困难。它并没有帮助我们在机器学习研究的困难部分取得进展。我们正在处理糟糕的模拟器和断裂的肌腱之类的事情。随着时间的推移，我们也越来越意识到，我们首先需要智力和认知，然后我们才能弄清楚如何使其适应身体。我们构建这些语言模型的方式更容易开始。但我们一直计划回到这个话题。
我们已经开始对机器人公司进行一些投资。在物理硬件方面，我终于第一次看到在那里构建了真正令人兴奋的新平台。在某些时候，我们将能够使用我们的模型，正如您所说的，通过它们的语言理解和未来的视频理解，说：“好吧，让我们用机器人做一些令人惊奇的事情。”
盖茨：如果那些在腿部方面做得很好的硬件人员真的得到了手臂、手、手指部件，然后我们将它们结合起来，而且价格也不是高得离谱，这可能会改变很多蓝色的就业市场。
奥特曼：是的。当然，如果我们倒退七年或十年，预测、共识预测是，影响将首先是蓝领工作，其次是白领工作，创造力可能永远不会，但肯定是最后，因为那是神奇的，人类。
显然，它完全走向了另一个方向。我认为关于为什么会发生这种情况有很多有趣的结论。创造性的工作，GPT模型的幻觉是一个功能，而不是一个错误。它可以让你发现一些新事物。然而，如果你让机器人移动重型机械，你最好做到非常精确。我认为这只是你必须跟随技术发展的一个例子。你有先入为主的观念，但有时科学并不希望如此。
6 - 需要思考后稀缺世界中的社会组织方式
盖茨：现在，对于我来说，人工智能，如果你确实获得了令人难以置信的能力，AGI，AGI+，我担心三件事。一是坏人控制了系统。如果我们拥有同样强大的系统的好人，希望可以最大限度地减少这个问题。
由于某些原因，我对此不太关心。我很高兴其他人也是这样。让我有点困惑的是人类的目的。我很兴奋，嘿，我擅长从事疟疾和消灭疟疾工作，并招募聪明的人才并为此应用资源。当机器对我说：“比尔，去玩泡菜球吧，我已经消灭了疟疾。你只是一个思维迟钝的人”，那么这在哲学上是一件令人困惑的事情。你如何组织社会？是的，我们要改善教育，但是教育要做什么，如果走到这个极端，这我们还有很大的不确定性。第一次，未来20年可能出现的机会不为零。
奥特曼：研究这项技术有很多心理上困难的部分，但这对我来说是最困难的，因为我也从中得到了很多满足。从某种意义上说，这可能是我做过的最后一件困难的事情。
盖茨：我们的思维是围绕稀缺性组织起来的；教师、医生和好想法的稀缺，在一定程度上，我确实想知道，在没有这种稀缺的情况下成长的一代人是否会找到如何组织社会和做什么的哲学概念。也许他们会想出一个解决方案。恐怕我的思想已经被稀缺所塑造，我什至很难去思考它。
奥特曼：这也是我告诉自己的，也是我真正相信的，尽管我们在这里放弃了一些东西，但从某种意义上说，我们将拥有比我们更聪明的东西。如果我们能够进入这个后稀缺的世界，我们就会找到新的事情去做。他们会感觉很不一样。也许你不是在解决疟疾，而是在决定你喜欢哪个星系，以及你将用它做什么。我相信我们永远不会缺少问题，我们也永远不会没有不同的方式来找到满足感，为彼此做事，了解我们如何以这种方式为其他人类玩我们的人类游戏，这将仍然非常重要。这肯定会有所不同，但我认为唯一的出路就是通过。我们必须去做这件事。我们必须去做这件事。这是一条不可阻挡的技术路线，价值太大了 我很有信心。我们会成功的，但感觉确实会很不一样。
盖茨：如何将其应用于当前的某些问题，例如为孩子找导师并帮助激励他们，或者发现治疗阿尔茨海默氏症的药物，我认为如何做到这一点是非常清楚的。人工智能是否可以帮助我们减少战争，减少两极分化；你可能会认为，当你推动情报发展时，不两极分化是常识，不发生战争也是常识，但我确实认为很多人会持怀疑态度。我希望人们能够解决人类最棘手的问题，比如我们是否能够相处融洽。我认为，如果我们认为人工智能可以为人类之间的相处做出贡献，那将是非常积极的。
奥特曼：我相信这会给我们带来惊喜。这项技术的功效将让我们大吃一惊。我们必须找出答案并看看，但我非常乐观。我同意你的观点，这将是多么大的贡献啊。
7 - 生成式AI使用成本将急速下降
盖茨：就股权而言，技术通常很昂贵，就像个人电脑或互联网连接一样，而且成本下降需要时间。我猜运行这些人工智能系统的成本，看起来不错，每次评估的成本会下降很多？
奥特曼：成本已经大幅下降。GPT-3 是我们推出时间最长、优化时间最长的机型，在推出的三年多时间里，我们已经将成本降低了 40 倍。对于三年的时间来说，这是一个很好的开始。至于 3.5 版，我敢打赌，目前我们已经将其成本降低了近 10 倍。4 型是新产品，所以我们还没有那么多时间来降低成本，但我们会继续降低成本。我认为，在我所知道的所有技术中，我们的成本降低曲线是最陡峭的，远远超过摩尔定律。这不仅是因为我们想出了如何让模型更高效的方法，还因为我们对研究有了更好的理解，我们可以在更小的模型中获得更多的知识和能力。我认为，我们将把智能的成本降低到接近于零的程度，这将是社会的一次前无古人后无来者的变革。
现在，我对世界的基本模型是智力成本、能源成本。如果你能同时降低这两个方面，那么你可以拥有的东西的数量，你可以为人们提供的改进的数量，这是相当巨大的。我们正处于曲线上，至少在情报方面，我们将真正、真正兑现这一承诺。即使按照目前的成本（同样，这也是有史以来最高的，并且远远超出我们的预期），每月20美元，您就可以获得大量GPT-4访问权限，并且价值超过20美元。我们已经走了很远了。
8 - OpenAI是一家小但不年轻的公司
盖茨：竞争怎么样？很多人同时做这件事是一件有趣的事情吗？
奥特曼：这既令人烦恼，又充满激励性且有趣。我相信你也有类似的感觉。它确实促使我们做得更好、做得更快。我们对我们的方法非常有信心。我认为我们有很多人正在滑向冰球所在的地方，而我们也将前往冰球要去的地方。感觉还可以。
盖茨：我认为人们会对OpenAI的规模如此之小感到惊讶。你们有多少员工？
奥特曼：大约500名，所以我们比以前更大一些。
盖茨：但这很小。按照谷歌、微软、苹果的标准——
奥特曼：它很小。我们不仅要经营研究实验室，现在还必须经营真正的业务和两种产品。
盖茨：它主要是一家年轻的公司吗？
奥特曼：这是一家比一般公司更老的公司。这不是一群24岁的程序员。包括三十多岁、四十多岁、五十多岁员工。
我已经对此进行了反思。我认为公司总体上已经变老了，我不知道该怎么解释。我认为这对社会来说是一个坏兆头，但我在YC追踪到了这一点。随着时间的推移，最好的创始人逐渐变老。就我们而言，它比平均水平要老一点，但仍然如此。
9 - 聚集顶尖人才，使命驱动，不急于短期变现
盖茨：通过在YCombinator帮助这些公司的角色，你学到了很多东西。我想这对你现在所做的事情来说是很好的训练。
奥特曼：OpenAI做了很多非常违背YC标准建议的事情。我们花了四年半的时间才推出我们的第一个产品。我们创办公司时根本不知道产品是什么。我们没有与用户交谈。我仍然不建议大多数公司这样做，但在YC学习并看到这些规则后，我觉得我明白了何时、如何以及为何我们可以打破它们。我们确实做了一些与我见过的其他公司截然不同的事情。
盖茨：关键是你聚集的人才，让他们专注于非常非常大的问题，而不是一些近期的收入问题。
奥特曼：我认为硅谷投资者不会为我们提供所需的支持，因为在开发产品之前我们必须花费大量资金进行研究。我们只是说，“最终这个模型会足够好，我们知道它会对人们有价值。”但我们非常感谢与微软的合作，因为这种超前收益的投资并不是风险投资行业所擅长的。
盖茨：也许过去了。我对Satya的深思熟虑给予了极大的赞扬，因为他思考了“如何将这个出色的人工智能组织融入到大型软件公司中？”这是非常非常协同的。
奥特曼：是的，这太棒了。不过，你确实触及了它，这是我从YCombinator学到的东西。我们说过，我们将在这方面聘请世界上最优秀的人才。我们将确保我们在前进的方向和AGI使命上保持一致。但除此之外，我们将让人们做他们的事情。我们将意识到这将经历一些曲折并需要一段时间。
我们的理论被证明是大致正确的，但一路上的很多策略被证明是非常错误的。我们只是试图遵循科学。
盖茨：我记得去看演示时就想，好吧，这个的创收途径是什么？那是什么样子的？在这个疯狂的时代，您仍然拥有一支令人难以置信的团队。
奥特曼：是的。优秀的人确实希望与优秀的同事一起工作。
盖茨：这是一种吸引力。
奥特曼：那里有一个很深的重心。而且，这听起来很老套，每家公司都这么说，但人们对公司的使命感触很深。每个人都想参与 AGI 的创建。
10 - 盖茨和奥特曼的团队和个人发展建议
盖茨：这一定很令人兴奋。当你出现并用演示再次让我震惊时，我可以看到能量；我看到了新朋友、新想法。你继续以令人难以置信的速度前进。
人才有很多种不同形式。在我职业生涯的早期，我想，只是纯粹的智商，就像工程智商一样，当然，你可以将其应用于财务和销售。事实证明这是错误的。建立拥有适当技能组合的团队非常重要。让人们思考，针对他们的问题，他们如何建立一支拥有所有不同技能的团队，这可能是我认为最有帮助的一个。是的，告诉孩子们，你知道，数学、科学很酷，如果你喜欢的话，但真正让我惊讶的是这种天赋组合。
你呢？您有什么建议？
奥特曼：我想说大多数人对风险的存在误判。他们害怕离开舒适的工作去做他们真正想做的事。事实上，如果他们不去做他们回顾自己的人生时就会说 '天啊，我从来没有去创办我想创办的公司或者我从来没有尝试去做一个人工智能研究员' 我认为这样做风险更大。
盖茨：如果你能让人们从事一份让他们觉得自己有目标的工作，那就更有趣了。有时，这就是它们能够产生巨大影响的方式。
奥特曼：这是肯定的。
盖茨：这是一次很棒的谈话。在未来的几年里，我相信我们会进行更多的讨论，因为我们会努力以尽可能最好的方式塑造人工智能。