正在阅读:

干货32分钟:比尔·盖茨和山姆·奥特曼都说了些什么?

扫一扫下载界面新闻APP

干货32分钟:比尔·盖茨和山姆·奥特曼都说了些什么?

未来5到10年,现在的大模型会显得“愚蠢不堪”。

文|适道

如果让你列举人工智能领域的领军人物,有一个名字你可能会听得最多:山姆·奥特曼(Sam Altman)。但如果让你列举软件时代的巨擘,则一定会出现比尔·盖茨(Bill Gates)的大名。

1月12日,OpenAI的CEO山姆·奥特曼(Sam Altman)作为特邀嘉宾,参加了由比尔·盖茨(Bill Gates)主持的播客节目《为我解惑》(Unconfuse Me)。在这期节目中,两位不同时代的先导者,共同探讨了人工智能的现在及未来、对人类社会的影响、人工智能监管的形式,以及各自对个人和团队发展的建议等等。

整场对话长达 32分钟,信息量巨大。其中包括:1、未来两年间,GPT模型的关键里程碑将是多模态,即涉及语音、图像和视频等多个模式的生成和表达;2、大模型将在推理、定制化、个性化、自适应等方面极大发展;3、人工智能将在编程、医疗、教育等领域提高生产力,解放人类创作力;4、未来5到10年,对人工智能的训练效率和准确性理解将取得更多进展,现有的大模型会显得“愚蠢不堪”;5、当前大模型正处于最快速的成本下降曲线上,这将成为社会转型的关键;6、长出了人工智能做“大脑”的机器人产业很可能影响劳动力市场,尤其是蓝领工作等等。

值得注意的是,虽然两位大佬在交谈中没有发生明显的碰撞,但二者的立场态度似乎有所不同。例如,Altman对人类社会适应人工智能保持乐观态度,并暗示——人工智能可以解放人类创造力,而不是抢占人类的工作机会;而Bill Gates似乎更担心人工智能所带来的负面影响。此外,和Altman相对激进的风格不同,Bill Gates更多是作为抛出问题的采访者和倾听者。

适道对完整版访谈进行了简译。为方便大家丝滑阅读,改写、删除了一些不影响原文内容的表达。

01 开场——重提OpenAI政变

Bill Gates:今天的嘉宾是Sam Altman。他是 OpenAI的首席执行官。长期以来,他一直是科技行业的创业者和领导者,包括经营 Y Combinator,这家公司做了很多了不起的事情,比如投资 Reddit、Dropbox、Airbnb。

在我录制节目不久后,Altman被解除了 OpenAI 首席执行官的职务,解雇后的几天内发生了很多事情,包括几乎所有 OpenAI 员工联名支持Sam回归,而现在,Sam又回来了。所以,在你听到我们的对话之前,让我们先来了解一下Sam,看看他现在过得怎么样。

Bill Gates:你还好吗?

Sam Altman:哦,天哪。这真的太疯狂了,我还好。这是一个非常激动人心的时期。

Bill Gates:团队情况怎么样?

Sam Altman:我猜,很多人都注意到了这样一个事实,那就是团队从未如此高效、乐观、出色。这也正是所有事情背后的一丝慰藉。在某种意义上,这是我们成长的真正时刻,我们非常有动力变得更好,变成一个全副武装,迎接挑战的公司。

Bill Gates:太棒了。所以,我们在对话中不会讨论那件事。然而,你会听到Sam致力于建立一个安全、负责任的人工智能的承诺。我希望你喜欢这次对话。欢迎来到《为我解惑(Unconfuse Me)》。我是Bill Gates。

Bill Gates:今天,我们将主要聚焦于人工智能,因为它如此令人兴奋,人们同时也对它感到担忧。欢迎,Sam。

Sam Altman:非常感谢你邀请我来参加节目。

02 回顾——ChatGPT源于结果先行

Bill Gates:我有幸见证了你们的工作进展,但刚开始时,我其实非常怀疑,也没期待过 ChatGPT 能做得这么好。实际上,我们并不懂这种编码形式。我们知道数字,看到它相乘,但如何将莎士比亚的作品编码?你认为我们能对这种表达产生更深的理解吗?

Sam Altman:百分之百可以。要在人脑中做到这一点非常难。可以说,这是一个相似的问题,这些神经元彼此相连。但连接在变化,我们不可能切开大脑来观察,但我们可以完美地透视。

目前,我们在可解释性(interpretability)方面,已经展开了一些非常棒的工作,而且我认为随着时间推移,会有更多的解释出现。我们将能够理解这些(神经)网络,即便我们目前的理解能力还很低。而正如你所乐见的一切,我们凭着目前了解的那一点,已经能很大程度上改进人工智能模型了。

所以,撇开科学好奇心不谈,我们都有动力去真正地了解它们,尽管它们的规模是如此庞大。我们甚至还可以说,莎士比亚的作品是在你大脑的哪个位置编码的,又是如何表现的?

Bill Gates:我们不知道。

Sam Altman:我们确实不知道。可以说,在这些我们本应能够完美透视、观察并进行任何测试的大量数据中,现在我们还是找不到答案,这就让人兴致缺缺。

Bill Gates:我非常确信,在接下来的五年内,我们会理解它(LLMs)。就训练效率和准确性而言,这种理解将让我们未来做的比今天能做的好得多。

Sam Altman:百分之百同意。你会在众多技术的发展历程中看到这一点。即,人们虽然不知道所以然,但在结果上却又行得通。而此后,随着人们对科学理解的加深,这项技术也会变得更好。

Bill Gates:是的,在物理学、生物学中,有时只是随便一通乱试,然后就“哇”的一声——这究竟是怎么实现的?

Sam Altman:在我们以往的案例中,构建 GPT-1 的那个人自己解决了这个“哇”的问题,这令人印象深刻。只不过,我们没有深入理解它是如何工作的,以及为何是有效的。之后,我们才有了拓展规律,借此预测它(GPT)会变得多好。

这就是为什么当我们告诉你可以做演示时,我们相当有信心。虽然当时我们还没有训练模型,但我们信心十足。后来我们做了大量尝试,并对正在发生的事情有了越来越深入的科学理解。但现在从头来看,这(GPT)确实源于实证结果先行。

03 展望——未来两年主旋律:多模态、推理性、可靠性、个性化、自适应

Bill Gates:当你展望未来两年,你认为,在人工智能发展上,会出现哪些重要的里程碑?

Sam Altman:多模态(Multimodality)肯定会很重要。

Bill Gates:你指的是语音输入、语音输出?

Sam Altman:语音输入、语音输出,然后是图像,最终是视频。显然,人们是真的需要这些。我们已经推出了图像和音频,反响比我们的预期要强烈得多。我们将会进一步推进这些功能,但也许,最关键的进步将围绕推理能力展开。

现在, GPT-4 的推理能力和可靠性还非常有限。比方说,对于大部分问题,如果你问 GPT-4 10000 次,这10000 次中可能有一次回答得很好,但 GPT-4不一定知道这是哪一次。而你却希望自己的每次询问,都能得到这 10000 次中最好的回答。因此,GPT可靠性的提升将非常重要。

可定制性和个性化也非常重要。人们对 GPT-4 的需求各不相同:不同的风格,不同的假设集,我们将会让所有的这些成为可能,还能让GPT-4 使用你自己的数据。它会足够了解你、了解你的电子邮件、你的日历、你喜欢的预约方式,并与其他外部数据源连接,所有这些都将是最重要的改进领域。

Bill Gates:在目前的基础算法中,GPT只是在做简单的前馈、乘法。所以,看起来是生成了每一个新词,但它本质上都在做同样的事情。我很感兴趣的点是,如果你们最终能解出复杂数学方程等难题,那么你们可能要做多次应用变换,这时候,用于推理的控制逻辑可能比我们今天所做的要复杂得多。

Sam Altman:至少,我们似乎需要某种形式的自适应计算。现在,我们在每个问题上都花费相同的计算量,无论是做一道简单题还是一道复杂的数学题。

Bill Gates:是的,比如说,「解决黎曼假设……」

Sam Altman:那可要进行大量计算。

Bill Gates:但它所使用的计算量跟写个“The”一样?

Sam Altman:对,我们至少得让它能进行下去。我们还需要在这之上解决更复杂的东西。

04 监管——效仿国际原子能机构(IAEA)

Bill Gates:我们俩都参加过一个参议院的教育会议,很高兴大约有 30 名参议员都参加了那次会议。毕竟(人工智能)是一个如此重大的变革,我不认为我们在吸引政客关注这方面做的太过。当你谈论监管时,你是否清楚要构建哪种类型的监管?

Sam Altman:我们已经开始解决这个问题了。对人工智能领域进行过度监管是非常容易的,你可以看到,过去许多此类事情在发生。如果我们是正确的,并且人工智能能够发展到我们所设想的那样,即——影响社会、地缘政治力量的平衡,以及很多事情。

对于这些仍然是假设性的,但未来极其强大的人工智能——不是说 GPT-4,而是针对计算能力是GPT-4的 10 万倍或 100 万倍的系统,我们已经接受了一个全球监管机构的想法,这个机构将紧盯这些超级强大的系统,因为它们确实会产生如此大的全球影响。

我们谈论的一种模式是类似国际原子能机构(IAEA)。例如,在“核能”方面,我们做出了同样的决定。而由于人工智能潜在的全球影响力,需要一个全球性的机构(监管)。我认为这是合理的。当然,在此期间会出现很多短期问题,比如可以说什么,不可以说什么;我们如何看待版权问题,对此,不同的国家会有不同的考虑,这都没问题。

Bill Gates:一些人认为,如果存在如此强大的模型,我们就会对此感到害怕——全球核监管之所以行之有效,是因为每个人,至少在民用方面,都希望共享安全实践,这一点做得非常好。

而当涉及核武器时,就不会出现这种情况了。因为问题的关键在于,阻止整个世界做危险的事情,就需要有全球政府(合作)。但从目前我们所能看到的众多问题中,例如气候问题、恐怖主义,你可以看到我们(全球政府)很难达成合作。人们甚至援引中美竞争,来解释任何放缓的想法都是不对的。难道说,任何放慢脚步的想法,或者说放慢脚步以求谨慎,都很难实施吗?

Sam Altman:是的,我认为要求放慢发展速度是非常困难的。如果改成“做你想做的事,但任何计算集群都不能超过一个特定、极高的功率门槛”——鉴于巨大的成本,我们可能只会看到五个这样的模型——任何这样的集群都必须接受类似国际武器检查员的审查。该模型必须可供安全审核,在训练期间和部署之前通过一些测试。我觉得这是可能的。

我以前还不太确定以上想法是否可实现,但今年(2023年),我周游世界各地,并和许多需要参与这一活动的国家的元首交谈,几乎得到了普遍的支持。虽然这不能保证我们能够脱离一切风险。毕竟,对于规模小得多的人工智能系统来说,仍然会出现问题。但我认为以上举措可以帮助我们应对人工智能带来的最大风险。

05 应用——解放人类创造力,尤其是编码、医疗、教育领域

Bill Gates:现在,我们看到人工智能带来了很多生产力方面的提升,这是非常棒的事情。你最兴奋的领域是哪些?

Sam Altman:首先,我始终认为,我们正处于一条漫长、连续的发展曲线上。现在,我们拥有了可以执行任务的人工智能。当然,虽然它们不能完成一份完整的工作(一个岗位能做的所有事情),但它们可以完成一些任务,并提高人类员工的生产力。最终,人工智能将能从事更多今天人类所做的工作,而我们人类当然也会找到新的、更好的工作。

我完全相信,如果你为人类提供更强大的工具,人类不仅仅可以工作得更快,还可以做一些质变的工作。比如现在,我们可以将程序员的工作速度提高三倍。这就是我们所看到的,也是我们最兴奋的领域之一,人工智能做得非常好。

但是,如果你能让程序员的效率提高三倍,那么,程序员能做的事情就不仅仅只是(在数量上)多了三倍。因为,人类程序员可以能在更高的抽象层次上,使用更多的脑力去构思完全不同的事情。这就好比从打孔卡(punch card)跃升到更高级的语言,不仅让我们编程速度更快,还能解放人们做高质量的创新事物。大家也看到了这一点。

而当我们将目光投向下一代人工智能时,你可以将它想象成一个小代理(Agent),对它说:“帮我写完整个程序,我会在过程中问你几个问题,不仅仅是一次只写几个函数这么简单”。如此下来,就会诞生很多新生事物。而它(人工智能)也能做更复杂的事情。例如,在未来某天,你可以对人工智能说:“帮我建立并运营这家公司。”“去发现新的物理学。”等等。

我认为,至少在未来的五年或十年内,人工智能技术将处于一条非常陡峭的成长曲线上。而在那个时候,我们现有的这些模型都会变成最愚蠢的模型。

编程或许是我们今天感到最兴奋的一个提高生产力的领域。目前,它已经被大规模部署使用。医疗保健、教育是另外两个我们非常期待的快速发展领域。

06 社会——机器人影响劳动力市场

Bill Gates:令人生畏的是,与以往的技术发展轨迹不同,人工智能的进步速度非常快,而且没有上限。它可以在很多工作领域达到人类的水平,即使做不出独特的科学研究,它至少能打客服、销售电话。尽管人工智能是一件好事,但它迫使我们比以往任何时候都要更快地适应这项技术。

Sam Altman:这才是可怕的地方。并不是说我们必须适应,也不是说人类没有超强的适应能力。在我们经历过的一些大规模技术变革中,人类所从事的大量工作可能是在几代人的时间内发生变化,而在这漫长的时间中,我们可以很好地消化这些变化。

虽然,每次技术革命都会变得更快,但人工智能将是迄今为止最快的一次。这就是我觉得有点可怕的地方——我们的社会到底要以何种速度去适应人工智能的发展,应对劳动力市场将发生的变化。

Bill Gates:人工智能的一个方面是机器人技术,或者说蓝领工作,当机器人具有和人类一样(灵活)的四肢时,我担心人们会不再关注蓝领。你如何看待机器人?

Sam Altman:我对此非常兴奋。我们很早就开始研究机器人,以至于不得不搁置那个项目。我们一直在处理糟糕的模拟器和肌腱断裂之类的问题。

随着时间的推移,我们越来越意识到,(机器人研发)首先需要解决智能和认知问题(机器人的大脑部分),然后才能弄清楚“如何让‘大脑’适应身体的物理特性”的问题。而从我们构建语言模型的过程来看,问题从这里开始就会变得容易解决。

我们一直计划回到这个项目(机器人研发)上来。目前,我们已经对一些机器人公司进行投资。在物理硬件方面,我也终于第一次看到了真正令人兴奋的新平台出现。到时候,我们就能利用自己的模型,就像你刚才说的,利用它们的语言理解能力和未来的视频理解能力,说:“好吧,让我们用机器人做一些了不起的事情吧。”

Bill Gates:如果那些已经把“腿部”做得很好的硬件人员能把手臂、手掌和手指做出来,我们再把它们组合起来,且价格不贵得离谱,那么这将会迅速改变很多蓝领类工作的就业市场。

Sam Altman:是的。当然,如果我们回溯七到十年,大家的共识是机器人先会影响蓝领工作,其次才是白领工作。

创造力工作可能永远不会被影响,要影响也起码是最后一个,因为创造力是魔法,是人类的强项。

显然,现在的情况可能正好相反。我认为这其中有很多有趣的原因能够解释。因为,在创造性工作方面,GPT 模型的幻觉是一个功能,而不是缺陷,它能让你发现一些新事物。

然而,如果你要让机器人移动重型机械,最好能做到非常精确。我认为这是一个必须顺应技术发展的例子。你可能会有一些先入为主的观念,但有时科学并不往那个方向发展。

07 成本——生成式AI使用成本将急速下降

Bill Gates:就公平性而言,技术通常很昂贵,比如PC或互联网,成本下降需要时间。我猜,运行这些人工智能系统的成本可不是小数字,每次评估的成本会下降很多?

Sam Altman:已经降了很多。GPT-3 是我们推出时间最长、优化最久的模型,在推出的三年多里,我们已经将成本降低了 40 倍。对于三年的时间来说,这是一个很好的开始。至于GPT-3.5版,我敢打赌,目前我们已经将其成本降低了近 10 倍。

因为GPT-4 是新产品,我们还没有那么多时间来降低成本,但我们会继续努力。

我认为,在我所知道的所有技术中,我们的成本下降曲线是最陡峭的,远胜于摩尔定律。

这不仅是因为我们想出了如何让模型更高效的方法,还和我们对研究产生了更深的理解有关,我们可以在更小的模型中获得更多知识和能力。未来,我们将会把智能的成本降低到接近于零的程度,而这对社会来说,将是一次前无古人,后无来者的变革。

现在,我的世界基本模型由智能成本和能源成本组成(Bill Gates笑了)。如果你能同时降低这两方面的成本,你能拥有更多的东西,为人们带来更大的改善。我们正处在(降低成本)的曲线上,至少在智能方面,我们将真正实现这一承诺。

即使按照目前20美元/月的价格,你就能获得大量的 GPT-4 访问权限,而(你获得的价值)远远超过了 20 美元。我们已经降得很低了。

08 观察——最佳创始人比以往更老一些

Bill Gates:那竞争呢?很多人一下子挤进这个赛道是不是很有趣?

Sam Altman:既令人生厌,又充满动力和乐趣,我相信你也有过类似的感受。这促使我们做得更快、更好,我们对自己的方法很有信心。有很多人正滑向冰球所在的位置,而我们也将前往冰球要去的地方。感觉还可以。

Bill Gates:我认为人们会对 OpenAI的规模之小感到惊讶。你们有多少员工?

Sam Altman:大约 500 人,我们的规模还比以前稍微大了一些。

Bill Gates:但还是很小,要是以谷歌、微软、苹果的标准来看。

Sam Altman:确实很小,我们不仅要做实验室,现在还要经营一家真正的企业和两款产品。

Bill Gates:你们是一家年轻的公司吗?

Sam Altman:比平均年龄要大一些。这里不是一群 24 岁的程序员。

Bill Gates:的确,我的视角有些扭曲了,因为我已经 60 多岁了,毕竟你比我年轻。但你说得对,你们很多人已经四十多岁了。

Sam Altman:三十多岁、四十多岁、五十多岁(的人)。

Bill Gates:这不像早期的苹果、微软,那时我们真的还是孩子。

Sam Altman:对,我也反思过这个问题。我认为现在公司普遍变老了,我不认为这是件好事。我在YC想到过这个问题。可能随着时间的推移,那些最佳的创始人逐渐变老。就我们而言,比平均水平要老一点,但仍然如此。

Bill Gates:这很有意思。

09 创业——聚集顶尖人才,不急于短期收益

Bill Gates:你在 YC 的经历中学到了很多,我想这对你现在的工作也是很好的锻炼。

Sam Altman:非常有帮助。

Bill Gates:包括看到错误。

Sam Altman:完全正确。实际上,OpenAI 做了很多和 YC 建议相反的事情。我们花了四年半时间,才推出了自己的第一个产品。而在公司成立之初,我们对产品没有任何概念,我们也没有和用户交流(虽然我不建议大多数公司这样做)。但在 YC 学习并看到这些规则后,我才明白了——何时、如何以及为何OpenAI 可以打破这些规则。我们确实做了一些与我见过的其他公司截然不同的事情。

Bill Gates:关键在于你聚集人才,让他们专注于更大的问题,而不是某些短期收益问题。

Sam Altman:我认为硅谷的投资者不会为我们提供帮助,因为我们必须在研发上花费非常庞大的资金才能推出产品。我们只是说:“最终模型会足够好,我们知道它会对人们有价值。”但我们非常感激与微软的合作,因为这种超前投资并不是风投擅长的。

Bill Gates:确实不是,而且资金成本相当可观,几乎达到了风投所能承受的极限。

Sam Altman:可能已经超过了。

Bill Gates:确实可能。我非常赞同Satya“将杰出的人工智能组织融入大型软件公司”的思考,结果是“一加一远远大于二”。

Sam Altman:是的,这很棒。你说到了关键,这也是我从 YC 学到的。我们说过:聘请世界上最优秀的人才,确保自己的目标方向和AGI使命保持一致。但除此之外,我们要让人们做自己的事情。我们意识到这会经历一些曲折,也需要一段时间。

当然,我们的理论被证明是大致正确的,但一路上很多策略又被证实是非常错误的。我们所做的只是尽量遵循科学的规律。

Bill Gates:我记得我看演示时想过,这个项目的收入途径是什么?是什么样的?而在这个狂热的时代,你仍然手握一支令人难以置信的团队。

Sam Altman:是的。优秀的人确实希望和优秀的同事一起工作。

Bill Gates:这是一种吸引力。

Sam Altman:而且还有一个很强大的引力重心。这听起来很老套,每家公司都这么说。但人们确实感受到了深深的使命感,每个人都想参与AGI的创建。

Bill Gates:那一定很激动人心。当你再次用演示震撼我时,我可以感受到那股力量。我看到了新人,新的想法,而你们仍以非常不可思议的速度前进着。

10 建议——组建一支六边形团队

Sam Altman:你最常给出的建议是什么?

Bill Gates:才能可以分很多种,在我职业生涯的早期,我认为只有纯粹的智商,比如工程智商。当然,你可以将其应用于金融和销售。但这种想法被证明是如此错误,因为,组建一支拥有正确技能组合的团队是如此重要。

针对团队成员的问题,要引导他们思考如何建立一支拥有各类技能的团队,这可能是我认为最有帮助的建议之一。是的,告诉孩子们,数学、科学很酷,如果你喜欢的话。但真正让我惊讶的是这种天赋的组合。你的建议呢?

Sam Altman:我想说,大多数人对风险存在误判。他们害怕离开舒适圈去做自己真正想做的事。事实上,如果他们不这样做,他们回顾自己的一生时就会说 “天啊,我从来没有去创办我想创办的公司,或者我从来没有尝试去做一个人工智能研究员”。实际上,我认为这样做(后悔)带来的风险更大。

与此相关的是,要明确自己想要做什么,并向别人提出自己的要求,就会有意想不到的收获。

很多人受困于把时间花在自己不想做的事情上,而我最常给的建议可能就是想办法解决这个问题。

Bill Gates:如果你能让人们从事一份让他们有目标感的工作,那会更有趣。有时这能够产生巨大的影响力。

Sam Altman:当然。

Bill Gates:感谢你的到来,这是一次精彩的对话。在未来的日子里,我相信我们还会有更多的交流,因为我们正努力以最好的方式塑造人工智能。

Sam Altman:非常感谢你的邀请,我真的很享受与你对话。

Bill Gates:《为我解惑(Unconfuse Me)》是盖茨笔记的一个节目。特别感谢我今天的嘉宾Sam Altman。

本文为转载内容,授权事宜请联系原著作权人。

OpenAI

  • OpenAI前董事揭露“解雇门”内幕,矛头再次指向奥特曼
  • OpenAI董事会成立安全委员会,开始训练下一代AI模型

微软

5.5k
  • 微软与可再生能源公司RWE签署购电协议
  • Orsted与微软就碳清除达成协议

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

干货32分钟:比尔·盖茨和山姆·奥特曼都说了些什么?

未来5到10年,现在的大模型会显得“愚蠢不堪”。

文|适道

如果让你列举人工智能领域的领军人物,有一个名字你可能会听得最多:山姆·奥特曼(Sam Altman)。但如果让你列举软件时代的巨擘,则一定会出现比尔·盖茨(Bill Gates)的大名。

1月12日,OpenAI的CEO山姆·奥特曼(Sam Altman)作为特邀嘉宾,参加了由比尔·盖茨(Bill Gates)主持的播客节目《为我解惑》(Unconfuse Me)。在这期节目中,两位不同时代的先导者,共同探讨了人工智能的现在及未来、对人类社会的影响、人工智能监管的形式,以及各自对个人和团队发展的建议等等。

整场对话长达 32分钟,信息量巨大。其中包括:1、未来两年间,GPT模型的关键里程碑将是多模态,即涉及语音、图像和视频等多个模式的生成和表达;2、大模型将在推理、定制化、个性化、自适应等方面极大发展;3、人工智能将在编程、医疗、教育等领域提高生产力,解放人类创作力;4、未来5到10年,对人工智能的训练效率和准确性理解将取得更多进展,现有的大模型会显得“愚蠢不堪”;5、当前大模型正处于最快速的成本下降曲线上,这将成为社会转型的关键;6、长出了人工智能做“大脑”的机器人产业很可能影响劳动力市场,尤其是蓝领工作等等。

值得注意的是,虽然两位大佬在交谈中没有发生明显的碰撞,但二者的立场态度似乎有所不同。例如,Altman对人类社会适应人工智能保持乐观态度,并暗示——人工智能可以解放人类创造力,而不是抢占人类的工作机会;而Bill Gates似乎更担心人工智能所带来的负面影响。此外,和Altman相对激进的风格不同,Bill Gates更多是作为抛出问题的采访者和倾听者。

适道对完整版访谈进行了简译。为方便大家丝滑阅读,改写、删除了一些不影响原文内容的表达。

01 开场——重提OpenAI政变

Bill Gates:今天的嘉宾是Sam Altman。他是 OpenAI的首席执行官。长期以来,他一直是科技行业的创业者和领导者,包括经营 Y Combinator,这家公司做了很多了不起的事情,比如投资 Reddit、Dropbox、Airbnb。

在我录制节目不久后,Altman被解除了 OpenAI 首席执行官的职务,解雇后的几天内发生了很多事情,包括几乎所有 OpenAI 员工联名支持Sam回归,而现在,Sam又回来了。所以,在你听到我们的对话之前,让我们先来了解一下Sam,看看他现在过得怎么样。

Bill Gates:你还好吗?

Sam Altman:哦,天哪。这真的太疯狂了,我还好。这是一个非常激动人心的时期。

Bill Gates:团队情况怎么样?

Sam Altman:我猜,很多人都注意到了这样一个事实,那就是团队从未如此高效、乐观、出色。这也正是所有事情背后的一丝慰藉。在某种意义上,这是我们成长的真正时刻,我们非常有动力变得更好,变成一个全副武装,迎接挑战的公司。

Bill Gates:太棒了。所以,我们在对话中不会讨论那件事。然而,你会听到Sam致力于建立一个安全、负责任的人工智能的承诺。我希望你喜欢这次对话。欢迎来到《为我解惑(Unconfuse Me)》。我是Bill Gates。

Bill Gates:今天,我们将主要聚焦于人工智能,因为它如此令人兴奋,人们同时也对它感到担忧。欢迎,Sam。

Sam Altman:非常感谢你邀请我来参加节目。

02 回顾——ChatGPT源于结果先行

Bill Gates:我有幸见证了你们的工作进展,但刚开始时,我其实非常怀疑,也没期待过 ChatGPT 能做得这么好。实际上,我们并不懂这种编码形式。我们知道数字,看到它相乘,但如何将莎士比亚的作品编码?你认为我们能对这种表达产生更深的理解吗?

Sam Altman:百分之百可以。要在人脑中做到这一点非常难。可以说,这是一个相似的问题,这些神经元彼此相连。但连接在变化,我们不可能切开大脑来观察,但我们可以完美地透视。

目前,我们在可解释性(interpretability)方面,已经展开了一些非常棒的工作,而且我认为随着时间推移,会有更多的解释出现。我们将能够理解这些(神经)网络,即便我们目前的理解能力还很低。而正如你所乐见的一切,我们凭着目前了解的那一点,已经能很大程度上改进人工智能模型了。

所以,撇开科学好奇心不谈,我们都有动力去真正地了解它们,尽管它们的规模是如此庞大。我们甚至还可以说,莎士比亚的作品是在你大脑的哪个位置编码的,又是如何表现的?

Bill Gates:我们不知道。

Sam Altman:我们确实不知道。可以说,在这些我们本应能够完美透视、观察并进行任何测试的大量数据中,现在我们还是找不到答案,这就让人兴致缺缺。

Bill Gates:我非常确信,在接下来的五年内,我们会理解它(LLMs)。就训练效率和准确性而言,这种理解将让我们未来做的比今天能做的好得多。

Sam Altman:百分之百同意。你会在众多技术的发展历程中看到这一点。即,人们虽然不知道所以然,但在结果上却又行得通。而此后,随着人们对科学理解的加深,这项技术也会变得更好。

Bill Gates:是的,在物理学、生物学中,有时只是随便一通乱试,然后就“哇”的一声——这究竟是怎么实现的?

Sam Altman:在我们以往的案例中,构建 GPT-1 的那个人自己解决了这个“哇”的问题,这令人印象深刻。只不过,我们没有深入理解它是如何工作的,以及为何是有效的。之后,我们才有了拓展规律,借此预测它(GPT)会变得多好。

这就是为什么当我们告诉你可以做演示时,我们相当有信心。虽然当时我们还没有训练模型,但我们信心十足。后来我们做了大量尝试,并对正在发生的事情有了越来越深入的科学理解。但现在从头来看,这(GPT)确实源于实证结果先行。

03 展望——未来两年主旋律:多模态、推理性、可靠性、个性化、自适应

Bill Gates:当你展望未来两年,你认为,在人工智能发展上,会出现哪些重要的里程碑?

Sam Altman:多模态(Multimodality)肯定会很重要。

Bill Gates:你指的是语音输入、语音输出?

Sam Altman:语音输入、语音输出,然后是图像,最终是视频。显然,人们是真的需要这些。我们已经推出了图像和音频,反响比我们的预期要强烈得多。我们将会进一步推进这些功能,但也许,最关键的进步将围绕推理能力展开。

现在, GPT-4 的推理能力和可靠性还非常有限。比方说,对于大部分问题,如果你问 GPT-4 10000 次,这10000 次中可能有一次回答得很好,但 GPT-4不一定知道这是哪一次。而你却希望自己的每次询问,都能得到这 10000 次中最好的回答。因此,GPT可靠性的提升将非常重要。

可定制性和个性化也非常重要。人们对 GPT-4 的需求各不相同:不同的风格,不同的假设集,我们将会让所有的这些成为可能,还能让GPT-4 使用你自己的数据。它会足够了解你、了解你的电子邮件、你的日历、你喜欢的预约方式,并与其他外部数据源连接,所有这些都将是最重要的改进领域。

Bill Gates:在目前的基础算法中,GPT只是在做简单的前馈、乘法。所以,看起来是生成了每一个新词,但它本质上都在做同样的事情。我很感兴趣的点是,如果你们最终能解出复杂数学方程等难题,那么你们可能要做多次应用变换,这时候,用于推理的控制逻辑可能比我们今天所做的要复杂得多。

Sam Altman:至少,我们似乎需要某种形式的自适应计算。现在,我们在每个问题上都花费相同的计算量,无论是做一道简单题还是一道复杂的数学题。

Bill Gates:是的,比如说,「解决黎曼假设……」

Sam Altman:那可要进行大量计算。

Bill Gates:但它所使用的计算量跟写个“The”一样?

Sam Altman:对,我们至少得让它能进行下去。我们还需要在这之上解决更复杂的东西。

04 监管——效仿国际原子能机构(IAEA)

Bill Gates:我们俩都参加过一个参议院的教育会议,很高兴大约有 30 名参议员都参加了那次会议。毕竟(人工智能)是一个如此重大的变革,我不认为我们在吸引政客关注这方面做的太过。当你谈论监管时,你是否清楚要构建哪种类型的监管?

Sam Altman:我们已经开始解决这个问题了。对人工智能领域进行过度监管是非常容易的,你可以看到,过去许多此类事情在发生。如果我们是正确的,并且人工智能能够发展到我们所设想的那样,即——影响社会、地缘政治力量的平衡,以及很多事情。

对于这些仍然是假设性的,但未来极其强大的人工智能——不是说 GPT-4,而是针对计算能力是GPT-4的 10 万倍或 100 万倍的系统,我们已经接受了一个全球监管机构的想法,这个机构将紧盯这些超级强大的系统,因为它们确实会产生如此大的全球影响。

我们谈论的一种模式是类似国际原子能机构(IAEA)。例如,在“核能”方面,我们做出了同样的决定。而由于人工智能潜在的全球影响力,需要一个全球性的机构(监管)。我认为这是合理的。当然,在此期间会出现很多短期问题,比如可以说什么,不可以说什么;我们如何看待版权问题,对此,不同的国家会有不同的考虑,这都没问题。

Bill Gates:一些人认为,如果存在如此强大的模型,我们就会对此感到害怕——全球核监管之所以行之有效,是因为每个人,至少在民用方面,都希望共享安全实践,这一点做得非常好。

而当涉及核武器时,就不会出现这种情况了。因为问题的关键在于,阻止整个世界做危险的事情,就需要有全球政府(合作)。但从目前我们所能看到的众多问题中,例如气候问题、恐怖主义,你可以看到我们(全球政府)很难达成合作。人们甚至援引中美竞争,来解释任何放缓的想法都是不对的。难道说,任何放慢脚步的想法,或者说放慢脚步以求谨慎,都很难实施吗?

Sam Altman:是的,我认为要求放慢发展速度是非常困难的。如果改成“做你想做的事,但任何计算集群都不能超过一个特定、极高的功率门槛”——鉴于巨大的成本,我们可能只会看到五个这样的模型——任何这样的集群都必须接受类似国际武器检查员的审查。该模型必须可供安全审核,在训练期间和部署之前通过一些测试。我觉得这是可能的。

我以前还不太确定以上想法是否可实现,但今年(2023年),我周游世界各地,并和许多需要参与这一活动的国家的元首交谈,几乎得到了普遍的支持。虽然这不能保证我们能够脱离一切风险。毕竟,对于规模小得多的人工智能系统来说,仍然会出现问题。但我认为以上举措可以帮助我们应对人工智能带来的最大风险。

05 应用——解放人类创造力,尤其是编码、医疗、教育领域

Bill Gates:现在,我们看到人工智能带来了很多生产力方面的提升,这是非常棒的事情。你最兴奋的领域是哪些?

Sam Altman:首先,我始终认为,我们正处于一条漫长、连续的发展曲线上。现在,我们拥有了可以执行任务的人工智能。当然,虽然它们不能完成一份完整的工作(一个岗位能做的所有事情),但它们可以完成一些任务,并提高人类员工的生产力。最终,人工智能将能从事更多今天人类所做的工作,而我们人类当然也会找到新的、更好的工作。

我完全相信,如果你为人类提供更强大的工具,人类不仅仅可以工作得更快,还可以做一些质变的工作。比如现在,我们可以将程序员的工作速度提高三倍。这就是我们所看到的,也是我们最兴奋的领域之一,人工智能做得非常好。

但是,如果你能让程序员的效率提高三倍,那么,程序员能做的事情就不仅仅只是(在数量上)多了三倍。因为,人类程序员可以能在更高的抽象层次上,使用更多的脑力去构思完全不同的事情。这就好比从打孔卡(punch card)跃升到更高级的语言,不仅让我们编程速度更快,还能解放人们做高质量的创新事物。大家也看到了这一点。

而当我们将目光投向下一代人工智能时,你可以将它想象成一个小代理(Agent),对它说:“帮我写完整个程序,我会在过程中问你几个问题,不仅仅是一次只写几个函数这么简单”。如此下来,就会诞生很多新生事物。而它(人工智能)也能做更复杂的事情。例如,在未来某天,你可以对人工智能说:“帮我建立并运营这家公司。”“去发现新的物理学。”等等。

我认为,至少在未来的五年或十年内,人工智能技术将处于一条非常陡峭的成长曲线上。而在那个时候,我们现有的这些模型都会变成最愚蠢的模型。

编程或许是我们今天感到最兴奋的一个提高生产力的领域。目前,它已经被大规模部署使用。医疗保健、教育是另外两个我们非常期待的快速发展领域。

06 社会——机器人影响劳动力市场

Bill Gates:令人生畏的是,与以往的技术发展轨迹不同,人工智能的进步速度非常快,而且没有上限。它可以在很多工作领域达到人类的水平,即使做不出独特的科学研究,它至少能打客服、销售电话。尽管人工智能是一件好事,但它迫使我们比以往任何时候都要更快地适应这项技术。

Sam Altman:这才是可怕的地方。并不是说我们必须适应,也不是说人类没有超强的适应能力。在我们经历过的一些大规模技术变革中,人类所从事的大量工作可能是在几代人的时间内发生变化,而在这漫长的时间中,我们可以很好地消化这些变化。

虽然,每次技术革命都会变得更快,但人工智能将是迄今为止最快的一次。这就是我觉得有点可怕的地方——我们的社会到底要以何种速度去适应人工智能的发展,应对劳动力市场将发生的变化。

Bill Gates:人工智能的一个方面是机器人技术,或者说蓝领工作,当机器人具有和人类一样(灵活)的四肢时,我担心人们会不再关注蓝领。你如何看待机器人?

Sam Altman:我对此非常兴奋。我们很早就开始研究机器人,以至于不得不搁置那个项目。我们一直在处理糟糕的模拟器和肌腱断裂之类的问题。

随着时间的推移,我们越来越意识到,(机器人研发)首先需要解决智能和认知问题(机器人的大脑部分),然后才能弄清楚“如何让‘大脑’适应身体的物理特性”的问题。而从我们构建语言模型的过程来看,问题从这里开始就会变得容易解决。

我们一直计划回到这个项目(机器人研发)上来。目前,我们已经对一些机器人公司进行投资。在物理硬件方面,我也终于第一次看到了真正令人兴奋的新平台出现。到时候,我们就能利用自己的模型,就像你刚才说的,利用它们的语言理解能力和未来的视频理解能力,说:“好吧,让我们用机器人做一些了不起的事情吧。”

Bill Gates:如果那些已经把“腿部”做得很好的硬件人员能把手臂、手掌和手指做出来,我们再把它们组合起来,且价格不贵得离谱,那么这将会迅速改变很多蓝领类工作的就业市场。

Sam Altman:是的。当然,如果我们回溯七到十年,大家的共识是机器人先会影响蓝领工作,其次才是白领工作。

创造力工作可能永远不会被影响,要影响也起码是最后一个,因为创造力是魔法,是人类的强项。

显然,现在的情况可能正好相反。我认为这其中有很多有趣的原因能够解释。因为,在创造性工作方面,GPT 模型的幻觉是一个功能,而不是缺陷,它能让你发现一些新事物。

然而,如果你要让机器人移动重型机械,最好能做到非常精确。我认为这是一个必须顺应技术发展的例子。你可能会有一些先入为主的观念,但有时科学并不往那个方向发展。

07 成本——生成式AI使用成本将急速下降

Bill Gates:就公平性而言,技术通常很昂贵,比如PC或互联网,成本下降需要时间。我猜,运行这些人工智能系统的成本可不是小数字,每次评估的成本会下降很多?

Sam Altman:已经降了很多。GPT-3 是我们推出时间最长、优化最久的模型,在推出的三年多里,我们已经将成本降低了 40 倍。对于三年的时间来说,这是一个很好的开始。至于GPT-3.5版,我敢打赌,目前我们已经将其成本降低了近 10 倍。

因为GPT-4 是新产品,我们还没有那么多时间来降低成本,但我们会继续努力。

我认为,在我所知道的所有技术中,我们的成本下降曲线是最陡峭的,远胜于摩尔定律。

这不仅是因为我们想出了如何让模型更高效的方法,还和我们对研究产生了更深的理解有关,我们可以在更小的模型中获得更多知识和能力。未来,我们将会把智能的成本降低到接近于零的程度,而这对社会来说,将是一次前无古人,后无来者的变革。

现在,我的世界基本模型由智能成本和能源成本组成(Bill Gates笑了)。如果你能同时降低这两方面的成本,你能拥有更多的东西,为人们带来更大的改善。我们正处在(降低成本)的曲线上,至少在智能方面,我们将真正实现这一承诺。

即使按照目前20美元/月的价格,你就能获得大量的 GPT-4 访问权限,而(你获得的价值)远远超过了 20 美元。我们已经降得很低了。

08 观察——最佳创始人比以往更老一些

Bill Gates:那竞争呢?很多人一下子挤进这个赛道是不是很有趣?

Sam Altman:既令人生厌,又充满动力和乐趣,我相信你也有过类似的感受。这促使我们做得更快、更好,我们对自己的方法很有信心。有很多人正滑向冰球所在的位置,而我们也将前往冰球要去的地方。感觉还可以。

Bill Gates:我认为人们会对 OpenAI的规模之小感到惊讶。你们有多少员工?

Sam Altman:大约 500 人,我们的规模还比以前稍微大了一些。

Bill Gates:但还是很小,要是以谷歌、微软、苹果的标准来看。

Sam Altman:确实很小,我们不仅要做实验室,现在还要经营一家真正的企业和两款产品。

Bill Gates:你们是一家年轻的公司吗?

Sam Altman:比平均年龄要大一些。这里不是一群 24 岁的程序员。

Bill Gates:的确,我的视角有些扭曲了,因为我已经 60 多岁了,毕竟你比我年轻。但你说得对,你们很多人已经四十多岁了。

Sam Altman:三十多岁、四十多岁、五十多岁(的人)。

Bill Gates:这不像早期的苹果、微软,那时我们真的还是孩子。

Sam Altman:对,我也反思过这个问题。我认为现在公司普遍变老了,我不认为这是件好事。我在YC想到过这个问题。可能随着时间的推移,那些最佳的创始人逐渐变老。就我们而言,比平均水平要老一点,但仍然如此。

Bill Gates:这很有意思。

09 创业——聚集顶尖人才,不急于短期收益

Bill Gates:你在 YC 的经历中学到了很多,我想这对你现在的工作也是很好的锻炼。

Sam Altman:非常有帮助。

Bill Gates:包括看到错误。

Sam Altman:完全正确。实际上,OpenAI 做了很多和 YC 建议相反的事情。我们花了四年半时间,才推出了自己的第一个产品。而在公司成立之初,我们对产品没有任何概念,我们也没有和用户交流(虽然我不建议大多数公司这样做)。但在 YC 学习并看到这些规则后,我才明白了——何时、如何以及为何OpenAI 可以打破这些规则。我们确实做了一些与我见过的其他公司截然不同的事情。

Bill Gates:关键在于你聚集人才,让他们专注于更大的问题,而不是某些短期收益问题。

Sam Altman:我认为硅谷的投资者不会为我们提供帮助,因为我们必须在研发上花费非常庞大的资金才能推出产品。我们只是说:“最终模型会足够好,我们知道它会对人们有价值。”但我们非常感激与微软的合作,因为这种超前投资并不是风投擅长的。

Bill Gates:确实不是,而且资金成本相当可观,几乎达到了风投所能承受的极限。

Sam Altman:可能已经超过了。

Bill Gates:确实可能。我非常赞同Satya“将杰出的人工智能组织融入大型软件公司”的思考,结果是“一加一远远大于二”。

Sam Altman:是的,这很棒。你说到了关键,这也是我从 YC 学到的。我们说过:聘请世界上最优秀的人才,确保自己的目标方向和AGI使命保持一致。但除此之外,我们要让人们做自己的事情。我们意识到这会经历一些曲折,也需要一段时间。

当然,我们的理论被证明是大致正确的,但一路上很多策略又被证实是非常错误的。我们所做的只是尽量遵循科学的规律。

Bill Gates:我记得我看演示时想过,这个项目的收入途径是什么?是什么样的?而在这个狂热的时代,你仍然手握一支令人难以置信的团队。

Sam Altman:是的。优秀的人确实希望和优秀的同事一起工作。

Bill Gates:这是一种吸引力。

Sam Altman:而且还有一个很强大的引力重心。这听起来很老套,每家公司都这么说。但人们确实感受到了深深的使命感,每个人都想参与AGI的创建。

Bill Gates:那一定很激动人心。当你再次用演示震撼我时,我可以感受到那股力量。我看到了新人,新的想法,而你们仍以非常不可思议的速度前进着。

10 建议——组建一支六边形团队

Sam Altman:你最常给出的建议是什么?

Bill Gates:才能可以分很多种,在我职业生涯的早期,我认为只有纯粹的智商,比如工程智商。当然,你可以将其应用于金融和销售。但这种想法被证明是如此错误,因为,组建一支拥有正确技能组合的团队是如此重要。

针对团队成员的问题,要引导他们思考如何建立一支拥有各类技能的团队,这可能是我认为最有帮助的建议之一。是的,告诉孩子们,数学、科学很酷,如果你喜欢的话。但真正让我惊讶的是这种天赋的组合。你的建议呢?

Sam Altman:我想说,大多数人对风险存在误判。他们害怕离开舒适圈去做自己真正想做的事。事实上,如果他们不这样做,他们回顾自己的一生时就会说 “天啊,我从来没有去创办我想创办的公司,或者我从来没有尝试去做一个人工智能研究员”。实际上,我认为这样做(后悔)带来的风险更大。

与此相关的是,要明确自己想要做什么,并向别人提出自己的要求,就会有意想不到的收获。

很多人受困于把时间花在自己不想做的事情上,而我最常给的建议可能就是想办法解决这个问题。

Bill Gates:如果你能让人们从事一份让他们有目标感的工作,那会更有趣。有时这能够产生巨大的影响力。

Sam Altman:当然。

Bill Gates:感谢你的到来,这是一次精彩的对话。在未来的日子里,我相信我们还会有更多的交流,因为我们正努力以最好的方式塑造人工智能。

Sam Altman:非常感谢你的邀请,我真的很享受与你对话。

Bill Gates:《为我解惑(Unconfuse Me)》是盖茨笔记的一个节目。特别感谢我今天的嘉宾Sam Altman。

本文为转载内容,授权事宜请联系原著作权人。