正在阅读:

比尔·盖茨对话萨姆·奥尔特曼:如何监管人工智能?

扫一扫下载界面新闻APP

比尔·盖茨对话萨姆·奥尔特曼:如何监管人工智能?

两位科技领域大人物的对话,让外界得以一窥双方对于人工智能的看法和OpenAI的部分细节。

图片来源:比尔盖茨官方微信号

界面新闻记者 | 彭新

界面新闻编辑 | 文姝琪

1月12日,微软创始人、原CEO比尔·盖茨在其自媒体平台释出与OpenAI首席执行官萨姆·奥尔特曼去年进行的播客对谈。

他们讨论了人工智能、ChatGPT、OpenAI的创业等多项话题。两位科技领域大人物的对话,让外界得以一窥双方对于人工智能的看法和OpenAI的部分细节。

值得注意的是,比尔·盖茨在开场即提及,两人在录制该节目后不久,奥尔特曼即被解除了OpenAI首席执行官的职务,后又经历了一系列事件,最终被重新聘用,因此播客内容并不涉及到此次风波的内容。从时间点来看,若奥尔特曼本人回顾本次对话,想必心境会大有不同。

在对话伊始,盖茨便向奥尔特曼表示,他对ChatGPT的表现感到惊讶,并对AI如何能够将莎士比亚著作“编码”进行数据处理感到好奇,因为目前无人能理解背后的原理,即人工智能的“可解释性”问题。对此,奥尔特曼解释说,类似于人类大脑,OpenAI也搞不清楚哪个“神经元”在起作用,但他认为随着时间推移,关于AI的可解释性会有更多进展。

“你会在许多经验性发现的技术发展史中看到这一点。他们虽然不知道发生了什么,但显然它行得通。然后,随着科学理解的加深,他们可以使它变得更好。”奥尔特曼称。

展望未来两年,奥尔特曼认为,多模态AI方向将会成为重要趋势,如AI能够同时理解文字、影像数据等。在可靠性上,人工智能也需做出改进,他举例称,如果问GPT-4大部分问题10000次,10000次中可能有一次回答得很好,但它不一定知道是哪一次。而用户希望每次都能得到这10000次中最好的回答,因此可靠性的提升将非常重要。以及,基于人们对GPT-4的需求各不相同,AI的可定制性和个性化也将很重要。

监管是AI领域的一大热门话题,两人对谈的很一大部分也落于此。

比尔盖茨提及,政府承认在社交网络的监管已经“搞砸了”,奥尔特曼附和称,虽然他不明白为什么政府在社交媒体方面的监管不能更有效,但现在政府将要面临的是与AI相关更复杂的挑战。

对于人工智能的监管,奥尔特曼称“我们开始弄清楚了”,对于技术的过度监管很容易发生,而技术发明者对于其影响又难以评估,如AI是否将影响社会、影响地缘政治力量的平衡等。随后他举例称,其中一个处于讨论的监管模式是类似国际原子能机构的模式,即一个全球性机构对于大规模人工智能系统进行监督。但他预见仍会遇到许多短期问题,还受到如版权、地缘形势等因素的影响。

奥尔特曼还表示,要求AI系统放慢速度是非常困难的。但仍有一些可能落地的方案,如对世界上少数几个最强大的系统进行监管,要求计算集群都不能超过一个特定的、极高的功率门槛。此外,任何集群都必须接受类似国际武器检查员审查,大型AI模型必须接受安全审计,通过训练期间的一些测试,并在部署前通过审计和测试等。

奥尔特曼提到,对于人工智能带来的生产力提升上,他看到编程是其最兴奋的领域。目前,AI辅助编程已经被大规模部署和使用,此外医疗保健和教育也是另外两个他非常期待的快速发展的领域。

盖茨称,面对可能实现的AGI+(超级通用人工智能),他担心三件事:一是坏人控制了系统;二是系统控制一切的可能性。前两者他不太担心,他更关注最后一个哲学化的问题——超级通用人工智能实现后,人类的价值何在?(如何寻找目标?)又该如何组织社会?

对此奥尔特曼回应称,从事技术工作有很多心理上的困难,找到其中的价值是最困难的,“从某种意义上来说,这可能是我做的最后一件难事。”

谈及ChatGPT的成本问题,奥尔特曼表示,GPT-3是OpenAI推出时间最长、优化最久的模型,在它推出的三年多时间里,他们已经将成本降低了40倍。至于GPT-3.5版,他们已经将其成本降低了近10倍。GPT-4是新产品,还没有那么多时间来降低成本,这一进程会继续。他自信称,OpenAI对于AI系统的成本下降曲线甚至优于摩尔定律。原因是他们想出了如何让模型更高效的方法,还对研究有了更好的理解。

奥尔特曼解释,目前世界的基本模型由智能成本和能源成本组成,这是影响生活质量的两个最大因素。如果人类能同时降低这两方面的成本,能拥有的东西就会更多。目前OpenAI已经将成本压的足够低,从ChatGPT的每月20美元的订阅费用来看,其价值已经远远超过成本。

谈及OpenAI公司的平均年龄,奥尔特曼回答称其不是一家员工都很年轻的公司,500名员工多由三十多岁、四十多岁、五十多岁的人组成。盖茨评价称,这不像早期的苹果、微软。对此,奥尔特曼称,目前公司普遍变老了,某种程度上对社会是个不好的迹象。他观察称,随着时间的推移,最优秀的创始人年龄都呈增长趋势。

对于创业,奥尔特曼称,OpenAI做了很多与YC建议的标准相反的事情。他们花了四年半时间才推出第一个产品。公司成立之初,对产品没有任何概念,也没有与用户交流。但他还称,自己在YC的学习和经历,使得自己知道如何打破规则。

奥尔特曼表示,OpenAI并不是一家通常意义的创业公司。其对资金和计算能力要求之高,硅谷的投资者不会给出必要的支持,甚至可能超过风险投资所能承受的极限,因为OpenAI无法向投资人给出可预计的产品化时间和价值,最终来自微软的投资非常重要。

谈及对于OpenAI团队达成如此成绩背后的团队建设和建议,盖茨提及,建立一个拥有正确技能组合的团队非常重要,数学、科学很“酷”,但不能忽略复合性技能。奥尔特曼鼓励人们走出舒适区,去做他们真正想做的事情。“明确自己想要做什么,并向别人提出自己的要求,会有意想不到的收获。很多人受困于把时间花在自己不想做的事情上,而我最常给的建议可能就是想办法解决这个问题。”

最后,盖茨和奥尔特曼还就常用的软件进行了交流,奥尔特曼称,他使用Slack(一种办公协作软件,类似于飞书)的时候最多,尽管他“希望能说ChatGPT是自己最常用的软件”。盖茨则称,他最常用的软件是电子邮件应用Outlook,称自己是一名老派的电子邮件爱好者。

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

比尔·盖茨对话萨姆·奥尔特曼:如何监管人工智能?

两位科技领域大人物的对话,让外界得以一窥双方对于人工智能的看法和OpenAI的部分细节。

图片来源:比尔盖茨官方微信号

界面新闻记者 | 彭新

界面新闻编辑 | 文姝琪

1月12日,微软创始人、原CEO比尔·盖茨在其自媒体平台释出与OpenAI首席执行官萨姆·奥尔特曼去年进行的播客对谈。

他们讨论了人工智能、ChatGPT、OpenAI的创业等多项话题。两位科技领域大人物的对话,让外界得以一窥双方对于人工智能的看法和OpenAI的部分细节。

值得注意的是,比尔·盖茨在开场即提及,两人在录制该节目后不久,奥尔特曼即被解除了OpenAI首席执行官的职务,后又经历了一系列事件,最终被重新聘用,因此播客内容并不涉及到此次风波的内容。从时间点来看,若奥尔特曼本人回顾本次对话,想必心境会大有不同。

在对话伊始,盖茨便向奥尔特曼表示,他对ChatGPT的表现感到惊讶,并对AI如何能够将莎士比亚著作“编码”进行数据处理感到好奇,因为目前无人能理解背后的原理,即人工智能的“可解释性”问题。对此,奥尔特曼解释说,类似于人类大脑,OpenAI也搞不清楚哪个“神经元”在起作用,但他认为随着时间推移,关于AI的可解释性会有更多进展。

“你会在许多经验性发现的技术发展史中看到这一点。他们虽然不知道发生了什么,但显然它行得通。然后,随着科学理解的加深,他们可以使它变得更好。”奥尔特曼称。

展望未来两年,奥尔特曼认为,多模态AI方向将会成为重要趋势,如AI能够同时理解文字、影像数据等。在可靠性上,人工智能也需做出改进,他举例称,如果问GPT-4大部分问题10000次,10000次中可能有一次回答得很好,但它不一定知道是哪一次。而用户希望每次都能得到这10000次中最好的回答,因此可靠性的提升将非常重要。以及,基于人们对GPT-4的需求各不相同,AI的可定制性和个性化也将很重要。

监管是AI领域的一大热门话题,两人对谈的很一大部分也落于此。

比尔盖茨提及,政府承认在社交网络的监管已经“搞砸了”,奥尔特曼附和称,虽然他不明白为什么政府在社交媒体方面的监管不能更有效,但现在政府将要面临的是与AI相关更复杂的挑战。

对于人工智能的监管,奥尔特曼称“我们开始弄清楚了”,对于技术的过度监管很容易发生,而技术发明者对于其影响又难以评估,如AI是否将影响社会、影响地缘政治力量的平衡等。随后他举例称,其中一个处于讨论的监管模式是类似国际原子能机构的模式,即一个全球性机构对于大规模人工智能系统进行监督。但他预见仍会遇到许多短期问题,还受到如版权、地缘形势等因素的影响。

奥尔特曼还表示,要求AI系统放慢速度是非常困难的。但仍有一些可能落地的方案,如对世界上少数几个最强大的系统进行监管,要求计算集群都不能超过一个特定的、极高的功率门槛。此外,任何集群都必须接受类似国际武器检查员审查,大型AI模型必须接受安全审计,通过训练期间的一些测试,并在部署前通过审计和测试等。

奥尔特曼提到,对于人工智能带来的生产力提升上,他看到编程是其最兴奋的领域。目前,AI辅助编程已经被大规模部署和使用,此外医疗保健和教育也是另外两个他非常期待的快速发展的领域。

盖茨称,面对可能实现的AGI+(超级通用人工智能),他担心三件事:一是坏人控制了系统;二是系统控制一切的可能性。前两者他不太担心,他更关注最后一个哲学化的问题——超级通用人工智能实现后,人类的价值何在?(如何寻找目标?)又该如何组织社会?

对此奥尔特曼回应称,从事技术工作有很多心理上的困难,找到其中的价值是最困难的,“从某种意义上来说,这可能是我做的最后一件难事。”

谈及ChatGPT的成本问题,奥尔特曼表示,GPT-3是OpenAI推出时间最长、优化最久的模型,在它推出的三年多时间里,他们已经将成本降低了40倍。至于GPT-3.5版,他们已经将其成本降低了近10倍。GPT-4是新产品,还没有那么多时间来降低成本,这一进程会继续。他自信称,OpenAI对于AI系统的成本下降曲线甚至优于摩尔定律。原因是他们想出了如何让模型更高效的方法,还对研究有了更好的理解。

奥尔特曼解释,目前世界的基本模型由智能成本和能源成本组成,这是影响生活质量的两个最大因素。如果人类能同时降低这两方面的成本,能拥有的东西就会更多。目前OpenAI已经将成本压的足够低,从ChatGPT的每月20美元的订阅费用来看,其价值已经远远超过成本。

谈及OpenAI公司的平均年龄,奥尔特曼回答称其不是一家员工都很年轻的公司,500名员工多由三十多岁、四十多岁、五十多岁的人组成。盖茨评价称,这不像早期的苹果、微软。对此,奥尔特曼称,目前公司普遍变老了,某种程度上对社会是个不好的迹象。他观察称,随着时间的推移,最优秀的创始人年龄都呈增长趋势。

对于创业,奥尔特曼称,OpenAI做了很多与YC建议的标准相反的事情。他们花了四年半时间才推出第一个产品。公司成立之初,对产品没有任何概念,也没有与用户交流。但他还称,自己在YC的学习和经历,使得自己知道如何打破规则。

奥尔特曼表示,OpenAI并不是一家通常意义的创业公司。其对资金和计算能力要求之高,硅谷的投资者不会给出必要的支持,甚至可能超过风险投资所能承受的极限,因为OpenAI无法向投资人给出可预计的产品化时间和价值,最终来自微软的投资非常重要。

谈及对于OpenAI团队达成如此成绩背后的团队建设和建议,盖茨提及,建立一个拥有正确技能组合的团队非常重要,数学、科学很“酷”,但不能忽略复合性技能。奥尔特曼鼓励人们走出舒适区,去做他们真正想做的事情。“明确自己想要做什么,并向别人提出自己的要求,会有意想不到的收获。很多人受困于把时间花在自己不想做的事情上,而我最常给的建议可能就是想办法解决这个问题。”

最后,盖茨和奥尔特曼还就常用的软件进行了交流,奥尔特曼称,他使用Slack(一种办公协作软件,类似于飞书)的时候最多,尽管他“希望能说ChatGPT是自己最常用的软件”。盖茨则称,他最常用的软件是电子邮件应用Outlook,称自己是一名老派的电子邮件爱好者。

未经正式授权严禁转载本文,侵权必究。