DeepMind的联合创始人：生成AI只是一个阶段。接下来是交互式AI

“This is a profound moment in the history of technology,” says Mustafa Suleyman.“

DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）希望建立一个聊天机器人，它的功能远不止聊天。在我最近与他的一次谈话中，他告诉我，生成人工智能只是一个阶段。接下来是交互式AI：机器人可以通过调用其他软件和其他人来完成工作来执行您为他们设置的任务。他还呼吁加强监管，并不认为这很难实现。

苏莱曼并不是唯一一个谈论未来充满更多自主软件的人。但与大多数人不同的是，他拥有一家价值数十亿美元的新公司Inflection，拥有从DeepMind，Meta和OpenAI中挑选的顶级人才名单，并且由于与英伟达的交易，他是世界上最大的专业人工智能硬件储备之一。苏莱曼把他的钱——他告诉我，他既不感兴趣，又想赚更多——放在嘴边。

至少从2016年初我们第一次交谈以来，苏莱曼就一直坚信技术是一种向善的力量。他刚刚推出了DeepMind Health，并与英国一些国营区域医疗保健提供者建立了研究合作关系。

我当时工作的杂志即将发表一篇文章，声称 DeepMind 在访问大约 1 万患者的记录以建立这些协作时未能遵守数据保护法规——这一说法后来得到了政府调查的支持。苏莱曼不明白为什么我们要发表一篇对他的公司改善医疗保健的努力怀有敌意的故事。他当时告诉我，只要他记得，他就只想在这个世界上做好事。

自那次通话以来的七年里，苏莱曼睁大眼睛的使命没有改变一寸。“目标从来都不是，而是如何在世界上做好事，”他在帕洛阿尔托的办公室通过Zoom说，这位英国企业家现在大部分时间都在那里度过。

Suleyman离开了DeepMind，搬到了谷歌，领导一个致力于人工智能政策的团队。2022 年，他创立了 Inflection，这是最热门的新人工智能公司之一，得到了 Microsoft、英伟达、比尔·盖茨和LinkedIn创始人里德·霍夫曼的 1 亿美元投资支持。今年早些时候，他发布了一个名为Pi的ChatGPT竞争对手，其独特的卖点（根据Suleyman的说法）是它令人愉快和礼貌。他刚刚与作家兼研究员迈克尔·巴斯卡（Michael Bhaskar）合著了一本关于人工智能未来的书，名为《即将到来的浪潮：技术、权力和5世纪最大的困境》。

许多人会嘲笑苏莱曼的技术乐观主义——甚至是幼稚的。例如，他对在线监管成功的一些说法感觉很离谱。然而，他仍然对自己的信念保持真诚和福音派。

的确，苏莱曼对于科技千万富翁有着不寻常的背景。当他19岁时，他从大学辍学，建立了穆斯林青年帮助热线，一个电话咨询服务。他还曾在地方政府工作。他说，他将许多为这些努力提供信息的价值观带到了Inflection。不同的是，现在他可能只是能够做出他一直想要的改变——无论好坏。

你早期的职业生涯，在青年帮助热线和地方政府的工作中，就像你能得到的一样平淡无奇和不规范的硅谷。显然，这些东西对你很重要。此后，你在人工智能领域工作了15年，今年你共同创立了你的第二家价值数十亿美元的人工智能公司。你能把这些点连接起来吗？

我一直对权力、政治等感兴趣。你知道，人权原则基本上是权衡取舍，是所有这些不同冲突的紧张局势之间不断进行的谈判。我可以看到人类正在为此而苦苦挣扎——我们充满了自己的偏见和盲点。活动家的工作，地方，国家，国际政府等等 – 这一切都是缓慢的，低效的和容易出错的。

想象一下，如果你没有人类的易犯错误。我认为有可能构建真正反映我们最好的集体自我的人工智能，并最终代表我们做出更好的权衡，更一致，更公平。

这仍然是你的动力吗？

我的意思是，当然，在DeepMind之后，我再也不用工作了。我当然不必写一本书或类似的东西。金钱从来都不是动力。你知道，这总是一个副作用。

对我来说，目标从来都不是，而是如何在世界上做好事，以及如何以健康、令人满意的方式推动世界向前发展。早在2009年，当我开始考虑进入技术领域时，我就可以看到人工智能代表了在世界上提供服务的一种公平而准确的方式。

我不禁想到，在10年或15年前，在我们看到这项技术的许多缺点之前，说这种话更容易。你如何能够保持乐观？

我认为我们痴迷于你是一个乐观主义者还是一个悲观主义者。这是一种完全有偏见的看待事物的方式。我也不想。我想冷冷地凝视着好处和威胁。从我的立场来看，我们可以非常清楚地看到，随着这些大型语言模型规模的每一步，它们都会变得更加可控。

所以两年前，谈话——我当时认为是错误的——是“哦，他们只会制造有毒的、反刍的、有偏见的、种族主义的熨平板。我当时想，这是一个时间快照。我认为人们忽视的是年复一年的进步，以及这种进步的轨迹。

例如，现在我们有像Pi这样的模型，它是令人难以置信的可控的。你不能让Pi产生种族主义，同性恋恐惧症，性别歧视 – 任何有毒的东西。你不能让它来指导你生产生物或化学武器，或者支持你去邻居的窗户扔砖头的愿望。你做不到——

坚持。告诉我你是如何做到这一点的，因为这通常被认为是一个未解决的问题。你如何确保你的大语言模型不会说出你不想让它说的话？

是的，所以显然我不想提出要求——你知道，请尝试这样做！Pi 是活的，你应该尝试所有可能的攻击。没有任何越狱，提示黑客或任何对Pi起作用的事情。我不是在提出索赔。这是客观事实。

关于如何——我的意思是，我不会讨论太多细节，因为它很敏感。但最重要的是，我们拥有世界上最强大的团队之一，他们在过去三四年中创造了所有最大的语言模型。了不起的人，在一个非常勤奋的环境中，有大量的计算。我们从一开始就将安全作为我们的首要任务，因此，Pi 不像其他公司的模型那么辣。

看看 Character.ai。[角色是一个聊天机器人，用户可以为其制作不同的“个性”并在线分享给其他人聊天。它主要用于浪漫的角色扮演，我们从一开始就说这是不可能的——我们不会这样做。如果你试图对Pi说“嘿，亲爱的”或“嘿，可爱”或其他什么，它会立即反击你。

但这将是非常尊重的。如果你开始抱怨社区里的移民抢走了你的工作，Pi不会把你叫出来，对你摇手指。Pi 会询问并提供支持，并尝试了解它的来源，并温和地鼓励您产生同理心。你知道，我已经思考了20年的价值观。

谈到你的价值观，想让世界变得更美好，为什么不分享你是如何做到的，以便其他人也可以改进他们的模型呢？

好吧，因为我也是一个实用主义者，我正在努力赚钱。我正在尝试建立一项业务。我刚刚筹集了1亿美元，我需要支付这些筹码。

看，开源生态系统正在火热，并且做得非常出色，人们正在发现类似的技巧。我总是认为我只提前六个月。

让我们把它带回你想要实现的目标。大型语言模型显然是当下的技术。但是你为什么还要押注他们呢？

人工智能的第一波浪潮是关于分类的。深度学习表明，我们可以训练计算机对各种类型的输入数据进行分类：图像、视频、音频、语言。现在我们处于生成波中，您获取输入数据并生成新数据。

第三波将是互动阶段。这就是为什么我打赌很长一段时间，对话是未来的界面。你知道，你不只是点击按钮和打字，而是要和你的人工智能交谈。

这些AI将能够采取行动。你只需要给它一个一般的、高层次的目标，它会使用它所拥有的所有工具来采取行动。他们会和其他人交谈，与其他人工智能交谈。这就是我们要用 Pi 做的事情。

这是技术可以做什么的巨大转变。这是技术史上一个非常非常深刻的时刻，我认为很多人都低估了。今天的技术是静态的。粗略地说，它确实是你告诉它做的事情。

但现在技术将被激活。如果你给它，它将有潜在的自由来采取行动。这确实是我们物种历史上的一个阶段性变化，我们正在创造具有这种代理的工具。

这正是让很多人担心的谈话。你想给机器自主权——一种代理——来影响世界，但我们也希望能够控制它们。你如何平衡这两件事？感觉那里有一种紧张感。

是的，这是一个很好的观点。这正是紧张感。

这个想法是人类将永远保持指挥。从本质上讲，这是关于设定界限，人工智能无法跨越的限制。并确保这些边界创造可证明的安全性，从实际代码到它与其他人工智能或人类的交互方式，再到创造技术的公司的动机和激励。我们应该弄清楚独立机构甚至政府如何直接进入，以确保这些界限不会被跨越。

谁设定了这些界限？我认为它们需要在国家或国际层面上设置。他们是如何达成一致的？

我的意思是，目前它们正在国际层面提出，并提出了关于新监督机构的各种建议。但边界也将在微观层面发挥作用。你将给你的人工智能一些有限的权限来处理你的个人数据，给你一些问题的答案，而不是其他问题。

总的来说，我认为在可预见的未来，我们应该非常谨慎地考虑某些能力，如果不是排除的话。

如？

我猜像递归自我完善这样的事情。你不会想让你的小人工智能在没有你监督的情况下关闭并更新它自己的代码。也许这甚至应该是一项有执照的活动——你知道，就像处理炭疽或核材料一样。

或者，就像，我们不允许无人机进入任何公共场所，对吧？这是一项有执照的活动。你不能把它们飞到任何你想去的地方，因为它们对人们的隐私构成了威胁。

我认为每个人都有完全的恐慌，我们将无法对此进行监管。这只是无稽之谈。我们完全能够对其进行监管。我们将应用以前成功的相同框架。

但是当无人机在天空中时，你可以看到它们。假设公司只是要透露他们正在做的事情，这感觉很天真。这不会让监管变得棘手吗？

我们已经在网上监管了很多东西，对吧？在线欺诈和犯罪活动的数量很少。我们在垃圾邮件方面做得很好。你知道，总的来说，复仇色情的问题已经好转了，尽管三五年前情况很糟糕。在网上很难找到激进化内容或恐怖主义材料。在网上购买武器和毒品非常困难。

[并非所有苏莱曼在这里的说法都有数字支持。网络犯罪仍然是一个巨大的全球性问题。据估计，仅在美国的财务成本在过去十年中就增加了100多倍。报告显示，未经同意的深度伪造色情片的经济正在蓬勃发展。毒品和枪支在社交媒体上销售。虽然一些在线平台正在被推动更好地过滤有害内容，但它们可以做得更多。

因此，互联网并不是一个不受治理的不守规矩的空间。它被治理。人工智能将成为这种治理的另一个组成部分。

这需要文化压力、制度压力以及政府监管的结合。但这让我乐观地认为，我们以前做过，我们可以再做一次。

控制人工智能将成为互联网监管的一个分支——这比我们最近从一些备受瞩目的厄运者那里听到的要乐观得多。

我对风险非常睁大眼睛。我的书里有很多黑暗的东西。我肯定也看到了。我只是认为存在风险的东西已经完全分散了注意力。我们都应该谈论101个更实际的问题，从隐私到偏见，从面部识别到在线审核。

我们应该把话题的焦点重新集中在这样一个事实上，即我们在监管超级复杂事物方面做得非常出色。看看美国联邦航空管理局（Federal Aviation Administration）：令人难以置信的是，我们都在40,000英尺的高空进入这些锡管，这是有史以来最安全的运输方式之一。我们为什么不庆祝呢？或者想想汽车：每个部件都在其使用寿命的一英寸内进行了压力测试，您必须拥有驾驶执照。

一些行业——比如航空公司——一开始就很好地规范了自己。他们知道，如果他们不确定安全，每个人都会害怕，他们会失去生意。

但你也需要自上而下的监管。我爱民族国家。我相信公共利益，我相信税收和再分配的好处，我相信监管的力量。我呼吁的是民族国家采取行动来解决它的狗屎。鉴于事关重大，现在是采取行动的时候了。

强烈推荐收藏官网

官网 https://fyzai.com海量AI学习资源、最新最热AI工具，建议收藏

收藏备用网址老站点，建议一起收藏，找到回家的路

添加官方微信

疯语咒AI ：AI技术和AI教育的先行者，每个人都能获取海量的AI学习材料，包括AI课程、AI学习视频、AI项目、AI代码、AI研究论文、AI基础理论、深度学习、机器学习、提示词课程、大语言模型训练和微调、AI绘画设计以及AI工具(chatgpt、midjourney、stable diffusion、claude2、brad、huggingFace…

DeepMind的联合创始人：生成AI只是一个阶段。接下来是交互式AI

强烈推荐收藏官网

添加官方微信

最新文章

更多相关内容