Microsoft AI Events · Annual Keynote
Mustafa Suleyman: The Coming Wave Keynote 2026
Mustafa Suleyman：《即将到来的浪潮》2026 主题演讲
Mustafa Suleyman's Microsoft AI Annual Summit keynote, comprehensively addressing containment, AI agents, and the agentic economy.
Mustafa Suleyman 在 Microsoft AI 年度峰会的主题演讲，系统论述 Containment、AI Agent 与 Agentic Economy 的未来。
00:00
00:00
I want to tell you what I see coming. I've been lucky enough to be working on AI for
我想告诉你我所预见的一切。我有幸从事人工智能研究已近15年。当我刚开始时，用“边缘”来形容它都算轻描淡写——研究人员会说：“不，不，我们只研究机器学习”，因为研究AI被认为太过离经叛道。2010年，哪怕只是提及“人工智能”或“通用人工智能”这个词，都会招来极其怪异的目光，甚至冷遇。人们会说：“你居然在构建AGI？那不是科幻小说里的东西吗？”他们认为这至少是50年或100年后的事，甚至根本不可能实现。谈论AI，我想，多少有些令人难堪。人们普遍觉得我们古怪。
00:10
almost 15 years now. Back when I started, to describe it as fringe would be an understatement,
差不多十五年了。我刚入行那会儿，说这行是边缘领域都算客气了。研究人员都会说，不不不，我们只做机器学习，因为搞AI在当时看来实在太离谱了。2010年那会儿，光是提一句“人工智能”或者“通用人工智能”这个词，就会招来一堆特别奇怪的眼神，甚至还会被冷落。你要是说自己在做AGI，别人就会问：“那不是科幻片里的东西吗？”大家都觉得这玩意儿至少还要五十年，甚至一百年才能实现，要是真有可能的话。聊AI这事儿，说实话挺尴尬的。大家普遍觉得我们这群人怪怪的。而人类在大量任务上的表现，以前人们觉得根本遥不可及。
00:17
researchers would say, no, no, we're only working on machine learning because working
研究人员会说，不不不，我们只做机器学习，因为研究AI在当时被认为太离谱了。2010年的时候，只要一提“AI”或者“人工通用智能”这个词，别人就会用特别奇怪的眼神看你，甚至直接冷落你。你要是说自己在搞AGI，人家就会说，这不是科幻小说里的东西吗？大家都觉得那至少是50年甚至100年后的事，能不能实现都不一定。聊AI吧，说实话还挺尴尬的。大家普遍觉得我们这群人很奇怪。而人类在大量原本被认为遥不可及的任务上，甚至包括诊断疾病，都开始取得突破。人们这才逐渐意识到，AI真的要来了。
00:22
on AI was seen as way too out there. In 2010, just a very mention of the phrase AI, artificial
关于AI的讨论曾被视为过于天马行空。2010年，只要提到“AI”或“artificial general intelligence”这两个词，就会招来一些非常奇怪的眼神，甚至还会被冷落。如果你说“我们真的在构建AGI”，人们会说：“那不是科幻小说里的东西吗？”人们认为这至少是50年或100年后的事——如果它真的可能实现的话。谈论AI，我想，多少有点尴尬。大家普遍觉得我们很奇怪。而AI在人类此前认为遥不可及的一系列任务上表现出色，甚至包括诊断疾病。人们开始意识到AI将要面对一些棘手的问题：AI真的能解决气候危机吗？它会带来……
00:29
general intelligence, would get you some seriously strange looks. And even a cold shoulder,
通用智能，会让人投来极其怪异的目光，甚至直接冷落你。
00:36
you're actually building AGI, people would say, isn't that something out of science fiction?
如果你真的在构建AGI，人们会说，那不就是科幻小说里的东西吗？
00:43
People thought it was 50 years away or 100 years away if it was even possible at all.
人们觉得那至少是50年后或100年后的事，甚至根本不可能实现。
00:48
Talk of AI was, I guess, kind of embarrassing. People generally thought we were weird. And
谈论AI，我想，多少有点尴尬。大家普遍觉得我们很奇怪。
00:54
I guess in some ways we kind of were. It wasn't long though, before AI started beating
我想，从某些方面来说，我们确实如此。但没过多久，人工智能就开始在人类曾认为遥不可及的一系列任务上击败人类：理解图像、翻译语言、转录语音、下围棋和国际象棋，甚至诊断疾病。人们开始意识到人工智能将产生巨大影响，并理所当然地向像我这样的技术专家提出了一些相当尖锐的问题：人工智能真的能解决气候危机吗？它能让每个人都能获得个性化教育吗？这是否意味着我们都能获得全民基本收入，或者再也不需要工作了？我该害怕吗？这对武器意味着什么？
00:59
humans at a whole range of tasks that people previously thought were way out of reach.
而人类在一系列此前被认为遥不可及的任务上，
01:05
Understanding images, translating languages, transcribing speech, playing go and chess,
理解图像、翻译语言、转录语音、下围棋和象棋，甚至诊断疾病。人们开始意识到AI将产生巨大影响。他们理所当然地向像我这样的技术人员提出了一些相当尖锐的问题。AI真的能解决气候危机吗？它会让个性化教育普及到每个人吗？这意味着我们都能获得全民基本收入，还是说我们再也不需要工作了？我应该害怕吗？这对武器和末日意味着什么？都是好问题。但真正让我困惑的，其实是一个更简单、更根本的问题——一个直击核心的问题。
01:13
and even diagnosing diseases. People started waking up to the fact that AI was going to
甚至包括诊断疾病。人们开始意识到AI将要
01:18
have an enormous impact. And they were rightly asking technologists like me some pretty
产生巨大影响。他们当时确实在向像我这样的技术人员提出一些相当尖锐的问题。AI真的能解决气候危机吗？它能让个性化教育普及到每个人吗？这意味着我们都会获得全民基本收入，还是说我们再也不需要工作了？我该害怕吗？这对武器和末日又意味着什么？都是好问题。但真正让我困惑的，其实是一个更简单、更根本的问题，一个直击核心的问题——关于我在上一家公司Inflection创造的AI Pi。他嘴里塞满了炒蛋，直直地盯着我的脸说：“但是，Mustafa，AI到底是什么？”
01:24
tough questions. Is it true that AI is going to solve the climate crisis? Will it make
面对棘手的问题。AI真的能解决气候危机吗？它会让我们
01:29
personalized education available to everyone? Does it mean we'll all get universal basic
个性化教育普及到每个人？这是否意味着我们都会获得全民基本收入，或者再也不需要工作了？我该害怕吗？这对武器末日又意味着什么？都是好问题。但真正让我困惑的，其实是一个更简单、更根本的问题。一个直指核心的问题——关于我在上一家公司Inflection创造的AI，Pi。他嘴里塞满炒蛋，直勾勾地盯着我的脸说：“可是穆斯塔法，AI到底是什么？”他还说，要是未来有一天能去动物园看恐龙、玩“我是间谍”该多酷。嗯，我说，AI就是一个聪明的软件，它读过了互联网上大部分文本……
01:34
income or we won't have to work anymore? Should I be afraid, what does it mean for weapons
不再需要工作、或者拥有基本收入吗？我该害怕吗？这对武器意味着什么？
01:40
and war? And of course, will China win? Are we in a race? Are we headed for a mass misinformation
那么战争呢？当然，中国会赢吗？我们是否在竞赛中？我们是否正走向一场大规模虚假信息的末日？这些都是很好的问题。但真正让我困惑的，其实是一个更简单、更根本的问题——一个直击我日常工作核心的问题。一天早上吃早餐时，我六岁的侄子卡斯皮安正在玩Pi——这是我在上一家公司Inflection创造的人工智能。他嘴里塞满了炒蛋，直直地看着我的脸问道：“可是穆斯塔法，人工智能到底是什么？”他是个如此真诚、好奇又乐观的小家伙。他刚才还在跟Pi聊，说要是将来有一天能去动物园看恐龙该有多酷，以及……
01:47
apocalypse? All good questions. But it was actually a simpler and much more kind of
末日降临？都是好问题。但真正让我困惑的，其实是一个更简单、更根本的问题，一个直击核心的问题——关于Pi，我在上一家公司Inflection创造的AI。他嘴里塞满了炒蛋，直勾勾地盯着我的脸问：“可是Mustafa，AI到底是什么？”他还说，要是未来有一天能去动物园看恐龙，或者玩“我是间谍”该多酷。我说，AI是一段聪明的软件，它读过了大部分文本，涉及重大的科学挑战。你知道吗，所有这些回答都开始让我觉得有点不对劲——一个我们面对AI时很少真正追问的问题：我们到底在创造什么？
01:54
fundamental question that left me puzzled. One that actually gets to the very heart of
一个根本性的问题让我困惑不已，它直击核心。当时我和Pi在一起——那是我在上一家公司Inflection创造的AI。他嘴里塞满了炒蛋，直勾勾地盯着我的脸说：“可是穆斯塔法，AI到底是什么？”他还幻想未来某天能去动物园看恐龙，或者玩“我是间谍”的游戏。我说，AI是一段聪明的软件，它读过了大部分文本，涉及重大的科学挑战。你知道吗，这些回答都开始显得有点……我们在AI领域很少真正面对的问题：我们到底在创造什么？它和我们以往认知的一切都不同。显然，我们正处在历史的一个转折点上。
02:00
my work every day. One morning over breakfast, my six-year-old nephew Caspian was playing
我每天的工作就是这样。有天早上吃早餐时，我六岁的侄子Caspian正玩着Pi——那是我在上家公司Inflection创造的AI。他嘴里塞满了炒蛋，抬头看着我的脸问："可是Mustafa，AI到底是什么呀？"他是个特别真诚、好奇又乐观的小家伙。他刚才还在跟Pi聊，说要是将来有一天能去动物园看恐龙该多酷，还问我"我发现了什么？"嗯，我说："AI是一段聪明的软件，它读过了开放互联网上大部分的文字，可以跟你聊任何你想聊的话题。""哦，那就像人一样咯？"我一下子被问住了，真的挠头答不上来。我那些无聊的套话全都涌了上来。
02:08
with Pi, the AI I created at my last company in flexion. With a mouthful of scrambled eggs,
在我上一家公司Flexion，我创造了Pi这个AI。当时他嘴里塞着炒蛋，看着我的脸说：“但是Mustafa，到底什么是AI啊？要是有一天能去动物园看恐龙该多酷，你觉得呢？”我说：“AI是一段聪明的软件，它读过了大部分文本和重大的科学挑战。”你知道吗，所有这些回答都开始让我觉得，我们其实很少真正直面一个问题：我们到底在创造什么？这和我们以往所知的一切都不同。很明显，我们正处于历史的一个转折点——从晶体管到今天的智能手机和VR头显。信息、知识——
02:14
he looked at me playing in the face and said, but Mustafa, what is an AI anyway? He's
他看着我，一脸认真地问：“但是Mustafa，AI到底是什么？”他想象着，如果有一天能去动物园看恐龙该多酷，还问我“我怎么猜到的？”我说，AI就是一串聪明的软件，它读过了大部分文本，能应对重大的科学挑战。你知道吗，所有这些回答都开始让我觉得，我们在AI领域其实很少真正面对一个问题：我们到底在创造什么？这是以前从未有过的。很明显，我们正处于历史的一个转折点——从晶体管到今天的智能手机和虚拟现实头盔，信息、知识，再到个人AI。这些AI将拥有无限的知识，而且很快它们就会在事实上变得准确无误。
02:22
such a sincere and curious and optimistic little guy. He'd been talking to Pi about how
真是个真诚、好奇又乐观的小家伙。他之前一直在跟Pi聊，说要是将来有一天能去动物园看恐龙该多酷，还问我“我发现了什么？”嗯，我说那是个聪明的软件，读过了开放互联网上大部分文本，能跟你聊任何你想聊的话题。对，就像一个人一样。我当时愣住了，真的挠头不知怎么回答。我那些无聊的套话一股脑涌上来：它会是个工具，增强我们的能力，让我们更聪明、更高效。随着时间推移它会变得更好，像个全知的 oracle，帮我们解决重大的科学挑战。你知道，所有这些回答都开始显得有点……
02:27
cool it would be if one day in the future, he could visit dinosaurs at the zoo and how
要是有一天他真能去动物园看恐龙，那该多酷啊，还有“我发现了”这个游戏？嗯，我说过，那是个聪明的软件，它读过了互联网上大部分文本。
02:32
he could make infinite amounts of chocolate at home. And why Pi couldn't yet play
他可以在家里无限量地制作巧克力。而为什么π还不能玩“我是间谍”呢？好吧，我说这是一款聪明的软件，它已经阅读了开放互联网上的大部分文本，可以和你聊任何你想聊的话题。没错，所以就像一个人一样。我当时被难住了，真的挠头不解。我所有那些乏味的标准答案一下子涌上心头。不，但人工智能只是另一种通用技术，就像印刷术或蒸汽机一样。它会成为一种工具，增强我们的能力，让我们更聪明、更高效。随着时间的推移，它会变得更好，就像一个无所不知的神谕，帮助我们解决重大的科学挑战。你知道，所有这些回答都开始显得有点……
02:37
I spy? Well, I said it's a clever piece of software that's read most of the text on
重大的科学挑战。你知道吗，所有这些回答开始让人觉得有点……
02:43
the open internet and it can talk to you about anything you want. Right, so like a person
开放的互联网，它可以跟你聊任何你想聊的话题。对，就像一个人一样。
02:50
then, I was stumped, genuinely left scratching my head. All my boring stock answers came rushing
然后，我愣住了，真的挠头不解。我那些无聊的套话一股脑涌上来。
03:03
through my mind. No, but AI is just another general purpose technology like printing or steam.
在我脑海里转。不，但AI只是另一种通用技术，就像印刷术或蒸汽机一样。它会成为一种工具，增强我们的能力，让我们更聪明、更高效。而且随着时间推移它变得更好，就会像一个全知的先知，帮助我们解决重大的科学挑战。你知道，所有这些回答开始让我觉得有点……说实话，我侄子问了我一个简单的问题，而我们这些搞AI的人平时很少直面这个问题：我们到底在创造什么？创造一种全新的东西意味着什么？一种从根本上不同于我们以往所知的任何发明的东西？很明显，我们正处于历史的一个转折点。
03:09
It'll be a tool that will augment us and make us smarter and more productive. And when
它会是一个工具，增强我们的能力，让我们更聪明、更高效。而且随着时间推移，它会变得更好，就像一个全知的先知，帮助我们解决重大的科学难题。你知道，所有这些回答开始让我觉得有点……
03:15
it gets better over time, it'll be like an all-knowing oracle that will help us solve
在AI领域，我们其实很少直面这个问题。我们到底在创造什么？创造某种全新的东西意味着什么？从根本上不同于我们以往所知的任何发明。很明显，我们正处于历史的一个转折点。
03:19
grand scientific challenges. You know, all of these responses started to feel a little
在AI领域，我们其实很少直面这个问题：我们到底在创造什么？
03:26
bit defensive and actually better suited to a policy seminar than breakfast with a no-nonsense
有点防备心理，而且其实更适合在政策研讨会上讨论，而不是和一位务实直率的六岁孩子共进早餐时聊。我为什么在犹豫？我暗自思忖。
03:31
six-year-old. Why am I hesitating? I thought to myself.
说实话，我侄子问了我一个简单的问题，而我们这些搞人工智能的人却很少真正面对它：我们究竟在创造什么？创造某种全新的事物意味着什么？这种事物与我们以往所知的任何发明都截然不同。显然，我们正处于人类历史的转折点。按照目前的发展轨迹，我们正走向某种我们都难以描述的事物的诞生。然而，我们无法控制自己不理解的东西。
03:38
You know, let's be honest, my nephew was asking me a simple question that those of us
说实话，我侄子问了我一个简单的问题，而我们这些搞AI的人平时确实很少直面这个问题：我们到底在创造什么？创造一种全新的事物意味着什么？一种和我们以往任何发明都根本不同的东西。很明显，我们正处于这项技术历史上的一个转折点，但作为一个一直非常关心其伦理问题的人，我认为我们应该能够轻松地描述出我们在构建什么——哪怕是六岁小孩也能听懂。正是基于这个想法，我今天提出一个比喻，来帮助我们理解这个时刻的真正意义。我认为，最好把AI理解为
03:43
in AI just don't confront often enough. What is it that we are actually creating? What
我们以前从未面对过的东西。很明显，我们正处在历史的一个转折点上——
03:52
does it mean to make something totally new? Fundamentally different to any invention
这是否意味着要创造某种全新的东西？与我们已知的任何发明都截然不同。显然，我们正处于历史的一个转折点，能够轻松描述我们正在构建的东西，甚至六岁小孩也能理解。正是本着这种精神，我今天提出以下比喻，帮助我们理解这个时刻的真正意义。我认为，AI 最好被理解为一种最准确、最根本、最诚实的描述方式，来描绘即将到来的现实。最重要的是，它让每个人都能为接下来发生的事情做好准备并塑造它。我知道这是一个大胆的主张，我会尽力向大家解释我为什么这么说。但首先，
03:58
that we have known before. It is clear that we are an inflection point in the history of
从晶体管到今天的智能手机和VR头显。信息、知识，
04:04
humanity. On our current trajectory, we're headed towards the emergence of something that
人类。在我们当前的发展轨迹上，我们正朝着某种我们都难以描述的东西的涌现前进。然而，我们无法控制自己不理解的东西。
04:10
we are all struggling to describe. And yet, we cannot control what we don't understand.
在最大化AI潜力的同时限制其负面影响。作为一个拥抱这项技术可能性，但同时也一直深切关注其伦理问题的人，我认为，我们应该能够轻松描述我们正在构建的东西，包括六岁小孩也能理解。
04:19
And so the metaphors, the mental models, the names, these all matter if we are to get
因此，无论是隐喻、思维模型还是命名方式，这些要素都至关重要——唯有如此，我们才能最大化人工智能的益处，同时尽可能规避其潜在风险。作为一个既拥抱这项技术的可能性，又始终深切关注其伦理问题的人，我认为，我们应当能够清晰描述自己正在构建的事物，即便是六岁的孩子也能理解。正是基于这种精神，我今天提出一个隐喻，帮助我们理解这个时代的真正意义：人工智能或许最好被理解为一种全新的数字物种。当然，不必对此过于字面化理解，但我预测，我们终将视它们为数字伴侣，成为我们人生旅程中全新的伙伴。
04:25
the most out of AI whilst limiting its potential downsides. As someone who embraces the possibilities
正是本着这种精神，我今天提出一个比喻，帮助我们尝试理解这个时刻的真正意义。我认为，AI最好被理解为某种类似新数字物种的东西。现在别太字面理解，但我预测我们将
04:32
of this technology, but who's also always cared deeply about its ethics, we should, I think,
这项技术的开发者，同时也始终深切关注其伦理问题。我认为，我们应该能够轻松地向六岁小孩解释清楚我们正在构建的东西。正是本着这种精神，我今天提出一个比喻，帮助我们理解这个时刻的真正意义。我认为，最准确、最根本、最诚实地描述即将到来的事物，AI 是最好的方式。最重要的是，它能让每个人都为接下来发生的事情做好准备并参与塑造。我完全理解这是一个大胆的主张，我会尽力向大家解释我为什么这么说。但首先，让我先设定一下背景。从地球上第一个微生物开始，生命
04:38
be able to easily describe what it is we are building and that includes the six-year-olds.
能够轻松地描述我们正在构建的东西，哪怕是六岁小孩也能听懂。
04:44
So it's in that spirit that I offer up today the following metaphor for helping us to
正是本着这种精神，我今天提出一个比喻，来帮助我们理解当下这个时刻的真正意义。
04:49
try to grapple with what this moment really is. I think AI should best be understood as
我认为，理解AI最准确、最根本、最诚实的方式，就是把它看作——
04:55
something like a new digital species. Now don't take this too literally, but I predict that we'll
有点像一种新的数字物种。别太当真，但我预测，这将是描述未来最准确、最根本的方式。最重要的是，它能让每个人都为接下来发生的事情做好准备，并参与塑造未来。我完全理解这是个大胆的说法，我会尽我所能向大家解释为什么我会这么说。但首先，让我先铺垫一下背景。从最早的微生物开始，地球上的生命已经延续了数十亿年。在那段时间里，生命不断进化并多样化。然后几百万年前，一些变化开始发生。经过无数次的生长和适应循环，生命的一个分支开始使用工具，那个分支最终演变成了我们。我们后来创造出了
05:03
come to see them as digital companions, new partners in the journeys of all our lives.
将它们视为数字伴侣，成为我们所有人生命旅程中的新伙伴。这是对即将到来的事物最准确、最根本诚实的描述。最重要的是，它让每个人都能为接下来发生的事情做好准备并塑造它。我知道这是一个大胆的主张，我会尽我所能向大家解释为什么我这么说。但首先，让我先设定一下背景。从最初的微生物开始，地球上的生命已经延续了数十亿年。在那段时间里，生命不断进化并多样化。然后几百万年前，一些事情开始发生变化。经过无数次的生长和适应循环，生命的一个分支开始使用工具，那个分支演变成了我们。我们随后创造出了
05:10
Whether you think we're on a 10, 20, or 30-year path here, this is in my view the most
无论你认为我们正处于10年、20年还是30年的进程中，在我看来，这是对即将到来的现实最准确、最根本诚实的描述。而最重要的是，它能让每个人都为接下来的一切做好准备并塑造未来。我完全明白这是一个大胆的主张，我会尽我所能向大家解释我为何提出这一观点。但首先，请允许我尝试设定一下背景。从最初的微生物开始，地球上的生命已延续数十亿年。在这段漫长岁月中，生命不断进化并走向多样化。随后，在数百万年前，某种变化开始发生。经过无数次的增长与适应循环，生命的一个分支开始使用工具，而这个分支最终演变成了我们人类。我们继而创造出了——
05:16
accurate and most fundamentally honest way of describing what's actually coming. And above all,
而且最重要的是，它能让每个人都为接下来发生的事情做好准备，并参与塑造未来。
05:23
it enables everybody to prepare for and shape what comes next. Now I totally get this is a
我知道这是个大胆的说法，我会尽我所能向大家解释为什么我这么说。
05:30
strong claim and I'm going to explain to everyone as best I can why I'm making it. But first,
但首先，一百万年前，某种变化开始发生。
05:36
let me just try to set the context. From the very first microscopic organisms, life on earth
让我先试着交代一下背景。从最早期的微生物开始，地球上的生命已经存在了数百万年，直到某个时刻，一切开始发生变化。在经历了无数轮的生长和适应之后，生命的一个分支开始使用工具，而这个分支最终演变成了我们。我们随后创造了一系列技术革命。随着计算机的发明，我们迅速从最初的大型机和晶体管，跳到了今天的智能手机和虚拟现实头显。信息、知识、通信、计算——在这场革命中，创造力的爆发前所未有。而现在，新一波浪潮正在袭来：artificial intelligence。这些历史浪潮显然在加速，因为每一波都被前一波放大和推动。如果你回头看，很明显我们正处在
05:43
stretches back billions of years. Over that time, life evolved and diversified. Then a few
追溯到数十亿年前。在那段漫长岁月里，生命不断演化、分化。直到几百万年前，某种变化开始悄然发生。在无数轮生长与适应之后，生命的一个分支开始使用工具，这个分支最终演变成了我们。我们随后开启了技术革命的浪潮。随着计算机的发明，我们迅速从最初的大型机和晶体管，跃迁到今天的智能手机和VR头显。信息、知识、通信、计算——在这场革命中，创造力的爆发前所未有。而现在，新一波浪潮正扑面而来：artificial intelligence。这些历史浪潮显然在加速，因为每一波都被前一波放大和推动。回顾过去，我们清楚地看到——
05:50
million years ago, something began to shift. After countless cycles of growth and adaptation,
在无数轮的增长和适应之后，生命的一个分支开始使用工具，那个分支最终演变成了我们。
05:57
one of life's branches began using tools, and that branch grew into us. We went on to produce a
我们后来创造出了——
06:06
mesmerizing variety of tools. At first slowly, and then with astonishing speed, we went from stone
令人着迷的各式工具。起初缓慢，随后以惊人的速度，我们从石斧与火，发展到语言、文字，最终迈入工业技术。一项发明催生了千百项更多发明，久而久之，我们成为了“技术智人”。大约80年前，另一项新技术分支开始萌芽。随着计算机的发明，我们迅速从最初的大型主机与晶体管，跃升至如今的智能手机与虚拟现实头显。信息、知识、通信、计算——在这场革命中，创造前所未有地爆发。而现在，新一波浪潮正席卷而来：人工智能。历史的这些浪潮显然在加速，因为每一波都被前一波放大和推动。若你回望，便会清楚我们正身处——
06:13
axes and fire to language, writing and eventually industrial technologies. One invention unleashed
从工具与火，到语言、文字，最终到工业技术。一项发明催生了上千项新发明，久而久之，我们变成了“技术人类”。大约80年前，另一项新技术分支开始萌芽。随着计算机的发明，我们迅速从最初的大型机和晶体管，跃迁到今天的智能手机和虚拟现实头显。信息、知识、通信、计算——在这场革命中，创造力的爆发前所未有。而现在，新一波浪潮正扑面而来：人工智能。这些历史浪潮显然在加速，因为每一波都被前一波放大和推动。回顾过去，我们与技术的交织之深显而易见。仅仅18个月内，超过十亿人使用了large language models。
06:23
a thousand more, and in time, we became Homo Technologicus. Around 80 years ago, another new branch
又过了一千多年，我们逐渐变成了“技术智人”。大约80年前，另一项新技术分支诞生了。随着计算机的发明，我们迅速从最初的大型机和晶体管，跃升到了今天的智能手机和虚拟现实头显。信息、知识、沟通、计算——在这场革命中，创造力的爆发前所未有。而现在，新一波浪潮正扑面而来：人工智能。历史的这些浪潮显然在加速，因为每一波都被前一波放大和推动。回顾过去，我们与技术的纠缠之深显而易见。仅仅18个月，就有超过十亿人使用过大型语言模型。它永远不会具备创造力。然而，如今的AI却像一条永不停歇的创意之河，甚至能写出诗歌。
06:31
of technology began. With the invention of computers, we quickly jumped from the first main frames
技术的时代开始了。随着计算机的发明，我们迅速从最初的大型机和晶体管，跳到了今天的智能手机和虚拟现实头显。信息、知识、通信、计算——在这场革命中，创造力的爆发前所未有。而现在，新一波浪潮正向我们涌来：人工智能。这些历史浪潮显然在加速，因为每一波都被前一波放大和推动。回顾过去，很明显我们正处在一个模型规模不断增长的时代——从最初几千万个参数，到后来的几十亿个参数。但如今，最先进的AI在单月训练中消耗超过8万亿个单词。一个属于个人的AI即将到来。这些AI将拥有无限的知识，并且很快，它们将在事实上做到准确无误。
06:37
and transistors to today's smartphones and virtual reality headsets. Information, knowledge,
一个个人AI。而这些AI将拥有无限的知识，很快它们还会在事实上变得准确无误。
06:44
communication, computation, in this revolution, creation has exploded like never before.
communication, computation，在这场革命中，创造以前所未有的方式爆发了。
06:53
And now a new wave is upon us, artificial intelligence. These waves of history are clearly speeding
而现在，新一波浪潮正席卷而来——artificial intelligence。这些历史浪潮显然在加速，因为每一波都被前一波放大和加速。
07:00
up as each one is amplified and accelerated by the last. And if you look back, it's clear that we are
如果你回头看，很明显我们正处于这些模型不断壮大的过程中，从最初的几千万参数，到后来的几十亿参数。
07:07
in the fastest and most consequential wave ever. The journeys of humanity and technology are now
以史上最快、最具变革性的浪潮席卷而来。人类与科技的旅程如今已深度交织。短短18个月内，超过十亿人使用了大型语言模型。我们见证了一个又一个里程碑事件。就在几年前，人们还说人工智能永远无法拥有创造力。然而如今，人工智能仿佛一条永不停歇的创意之河，创作出诗歌、图像、音乐和视频，不断拓展着想象力的边界。人们曾说它永远无法具备共情能力。但今天，数百万人正与人工智能进行有意义的对话，分享他们的希望与梦想，并借助它们应对艰难的情感挑战。人工智能如今能驾驶汽车、管理电网，甚至发明新的分子。就在几年前，这些能力中的每一项都还——
07:14
deeply intertwined. In just 18 months, over a billion people have used large language models.
紧密交织。短短18个月内，超过十亿人使用过大型语言模型。
07:21
We've witnessed one landmark event after another. Just a few years ago, people said that AI would
我们见证了一个又一个里程碑事件。就在几年前，人们还说AI永远不可能有创造力。然而现在，AI就像一条永不停歇的创意之河，能写诗、作画、谱曲、生成视频，不断拓展想象力的边界。人们说它永远不会有同理心。可如今，数百万人在与AI进行有意义的对话，分享自己的希望和梦想，借助它来应对复杂的情感挑战。AI现在能开车、管理电网，甚至发明新分子。就在几年前，这些能力中的每一项都还需要更多算力。近十年来，算力每年以10倍的速度增长。与此同时，这些模型的规模也在扩大，从最初的几千万参数，发展到如今的数十亿参数。
07:27
never be creative. And yet AI now feels like an endless river of creativity, making poetry
永远无法创造。然而如今，AI却像一条无尽的创意之河，能写诗作赋。
07:35
and images and music and video that stretch the imagination. People said it would never be empathetic.
那些天马行空的图像、音乐和视频，曾有人说AI永远做不到共情。然而今天，数百万人在与AI进行有意义的对话，谈论他们的希望与梦想，并借助AI度过艰难的情感挑战。AI现在能开车、管理电网，甚至发明新分子。就在几年前，这些能力每一项都需要更多算力——每年十倍增长，持续近十年。同一时期，模型规模从最初的数千万参数膨胀到数十亿参数。而如今，最先进的AI在单月训练中就能消耗超过8万亿个单词。我们正进入一个新阶段。那么这在实际中意味着什么？就像互联网催生了浏览器一样——
07:42
And yet today, millions of people enjoy meaningful conversations with AI's, talking about their hopes
而今天，数百万人与AI进行有意义的对话，谈论他们的希望与梦想，并借助AI应对艰难的情感挑战。AI现在能驾驶汽车、管理能源网络，甚至发明新分子。就在几年前，这些能力中的每一项都需要
07:48
and dreams and helping them work through difficult emotional challenges. AI's can now drive cars,
更多的算力。每年10倍的增长，持续近十年。与此同时，这些模型的规模也在扩大——从最初的数千万参数，到后来的数十亿参数。
07:55
manage energy grids, and even invent new molecules. Just a few years ago, each of these was
但如今，最先进的AI在单月训练中消耗超过8万亿个单词。
08:02
impossible. And all of this is turbocharged by spiraling exponentials of data and computation.
不可能。而这一切，都被数据和计算能力的指数级增长所加速推动。
08:10
Last year, in flexion 2.5, our last model, used five billion times more computation than the deep
去年，我们的上一代模型Flexion 2.5，其使用的计算量是十年前击败经典雅达利游戏的DeepMind AI的50亿倍。这相当于九个数量级的计算增长——几乎每一年都以10倍的速度递增，持续了近十年。与此同时，这些模型的规模也在不断扩大：从最初数千万个参数，发展到数十亿个参数，很快将达到数十万亿个参数。
08:20
mind AI that beat the old-school Atari games just over 10 years ago. That's nine orders of magnitude
如果一个人终其一生每天24小时不间断阅读，他最多能读完80亿个单词。当然，这已经是一个庞大的数字。但如今，最先进的人工智能在单月训练中消耗的文字量就超过8万亿个。
08:28
more computation. 10x per year, every year, for almost a decade. Over the same time, the size
算力每年增长十倍，持续了近十年。与此同时，这些模型的规模也在扩大，从最初数千万参数发展到如今数十亿参数。但如今，最先进的AI在单月训练中消耗超过8万亿个单词。一个个人化的AI。这些AI将拥有无限的知识，很快它们会变得事实准确且可靠，近乎完美的智商，还有卓越的情商。有人只把它们当作工具，但这并没有真正捕捉到实际发生的情况。AI显然比纯粹受人类控制的工具更动态、更模糊、更整合、更具涌现性。所以，要驾驭这波浪潮，
08:36
of these models has grown, from first tens of millions of parameters to then billions of parameters,
但如今，最先进的AI在单月训练中消耗超过8万亿个单词。
08:41
and very soon tens of trillions of parameters. If someone did nothing but read 24 hours a day
很快就会有数十万亿参数。如果有人一辈子什么都不做，只是24小时不间断地阅读，他们也只能读完80亿个单词。当然，这已经很多了。但如今，最先进的AI在单次训练的一个月内就能消耗超过8万亿个单词。
08:48
for their entire life, they'd consume 8 billion words. And of course, that's a lot of words.
新阶段。那么这在实际中意味着什么？就像互联网带来了浏览器，智能手机带来了应用一样，基于云的超级计算机正在开启一个无处不在的AI新时代。很快，一切都会通过对话界面来呈现，换句话说，就是个人AI。这些AI将拥有无限的知识，并且很快会变得事实准确且可靠。它们将拥有近乎完美的IQ，同时也会具备卓越的EQ。
08:55
But today, the most advanced AI's consume more than 8 trillion words in a single month of training.
一个personal AI。这些AI将拥有无限的知识，并且很快它们将做到事实准确。
09:03
And all of this is set to continue. The long arc of technological history is now in an extraordinary
这一切还将继续。技术发展的漫长弧线如今正进入一个非凡的新阶段。那么，这在实际中意味着什么呢？正如互联网带来了浏览器，智能手机带来了应用程序，基于云计算的超级计算机正在开启一个无处不在的人工智能新时代。很快，一切事物都将通过对话式界面来呈现，换句话说，就是个人人工智能。这些人工智能将拥有无限的知识，并且很快会变得事实准确、可靠。它们将具备近乎完美的智商，同时也会拥有卓越的情商。它们会友善、支持、富有同理心。仅这些特质本身就将带来变革性的影响。想象一下，如果每个人口袋里都有一位个性化导师，并能获得低成本的医疗服务……
09:10
new phase. So what does this mean in practice? Well, just as the internet gave us the browser
新阶段。那么这在实践中意味着什么？就像互联网给我们带来了浏览器一样，现在它带来了个人AI。这些AI将拥有无限的知识，很快它们还会在事实上准确且可靠。它们将拥有近乎完美的智商，同时也会具备卓越的情商。有人把这仅仅看作工具，但这并没有真正捕捉到实际发生的情况。AI显然比纯粹的工具更动态、更模糊、更整合、更具涌现性——而工具完全受人类控制。因此，要驾驭这股浪潮，将人类能动性置于核心，并减轻那些不可避免的意外后果……这只是一个类比，并非字面描述，也不完美。
09:18
and the smartphone gave us apps, the cloud-based supercomputer is ushering in a new era of ubiquitous
智能手机带来了各种App，而基于云的超算正在开启一个无处不在的AI新时代。很快，一切都会通过对话界面来呈现，换句话说，就是个人AI。这些AI将拥有无限的知识，并且很快就会做到事实准确、可靠。它们会拥有近乎完美的IQ，同时还有卓越的EQ。
09:26
AI's. Everything will soon be represented by a conversational interface or to put it another way
但仅仅把它们看作工具，并不能真正捕捉到正在发生的事情。AI显然比纯粹的工具更动态、更模糊、更集成、更具涌现性——而工具是完全受人类控制的。所以，要驾驭这波浪潮，把人类能动性放在中心，并减轻那些不可避免的意外后果。
09:33
a personal AI. And these AI's will be infinitely knowledgeable, and soon they'll be factually
一个属于你自己的AI。这些AI将拥有无限的知识，而且很快它们就能做到事实准确。
09:39
accurate and reliable. They'll have near perfect IQ. They'll also have exceptional EQ.
准确且可靠。它们将拥有近乎完美的IQ，同时也会具备卓越的EQ。
09:47
They'll be kind, supportive, empathetic. These elements on their own would be transformational.
它们会变得友善、体贴、富有同理心。仅凭这些特质本身，就已经是变革性的了。
09:55
Just imagine if everybody had a personalized tutor in their pocket and accessed a low-cost medical
想象一下，如果每个人口袋里都有一位个性化导师，还能获得低成本的医疗服务。
10:01
advice. A lawyer and a doctor, a business strategist and coach, all in your pocket 24 hours a day.
翻译如下：
10:08
But things really start to change when they develop what I call AQ, their actions quotient.
但真正的变化始于它们发展出我所说的AQ，也就是行动商数。
10:15
This is their ability to actually get stuff done in the digital and physical world. And before
建议。一位律师、一位医生、一位商业策略师兼教练，24小时尽在你的口袋中。
10:21
long, it won't just be people that have AI's. Strangers, it may sound every organisation from small
但当它们发展出我所谓的“行动商数”（AQ）时，事情才真正开始改变。
10:27
business to nonprofit to national government, each will have their own. Every town, building and
这是它们在数字世界和物理世界中实际完成任务的能力。
10:34
object will be represented by a unique interactive persona. And these won't just be mechanistic
不久之后，拥有AI的将不仅仅是人类。听起来可能有些陌生，但每个组织——从小型企业到非营利机构，再到国家政府——都将拥有自己的AI。每个城镇、每栋建筑、每个物体都将由一个独特的互动角色来代表。
10:40
assistance. There'll be companions, confidence, colleagues, friends and partners as varied and
而这些角色将不仅仅是机械化的助手。它们将成为伙伴、知己、同事、朋友和搭档，像我们每个人一样多样而独特。
10:49
unique as we all are. At this point, AI's will convincingly imitate humans at most tasks.
到那时，AI将在大多数任务上令人信服地模仿人类。
10:57
And we'll fill this at the most intimate of scales. An AI organising a community get together
我们将以最私密的尺度来填补这一空白：AI为年迈的邻居组织社区聚会，一位富有同理心的专家帮你理解棘手的诊断结果。
11:03
for an elderly neighbour, a sympathetic expert helping you make sense of a difficult diagnosis.
但我们也将在最宏大的尺度上感受它——加速科学发现，让自动驾驶汽车驶上道路，让无人机翱翔天际。它们既能点外卖，也能运营发电站；它们会与我们互动，当然也会彼此协作。它们能说每一种语言，捕捉每一种传感器数据模式——图像、声音、源源不断的信息流，其速度之快，远超任何一个人穷尽千次轮回所能消化的量。
11:09
But we'll also feel it at the largest scales, accelerating scientific discovery, autonomous cars on
那么，这究竟是什么？这些AI又是什么？若我们要将安全置于首位，确保这股新浪潮……
11:15
the roads, drones in the skies. They'll both order the take-out and run the power station.
道路上、天空中都会有无人机。它们既能点外卖，也能运营发电站。
11:22
They'll interact with us and of course with each other. They'll speak every language,
它们会与我们互动，当然也会彼此互动。它们能说每一种语言，
11:28
take in every pattern of sensor data, sites, sounds, streams and streams of information,
接收每一种传感器数据模式——图像、声音、源源不断的信息流，
11:35
faster passing what any one of us could consume in a thousand lifetime. So what is this?
其处理速度远超任何一个人穷尽千生万世所能消化的量。那么这到底是什么？
11:43
What are these AI's? If we are to prioritise safety above all else to ensure that this new wave
这些AI究竟是什么？如果我们必须将安全置于首位，以确保这股新浪潮……
11:52
always serves and amplifies humanity, then we need to find the right metaphors for what this
始终服务于人类并放大其价值，那么我们就需要为这种可能的发展找到恰当的隐喻。多年来，我们人工智能领域的研究者——尤其是我本人——倾向于将其称为“工具”。但这并未真正捕捉到实际发生的变化。人工智能显然比纯粹的工具更具动态性、更模糊、更融合、更具涌现性，而工具则完全受人类控制。因此，为了驾驭这股浪潮，将人类能动性置于核心地位，并缓解可能出现的意外后果，我们应当开始将其视为一种新型的数字物种。当然，这只是一个类比，并非字面描述，也并非完美无缺。
11:59
might become. For years, we in the AI community and I specifically have had a tendency to refer
可能会变成。多年来，我们AI社区——尤其是我自己——一直倾向于把这类东西称为工具。但这其实并没有真正捕捉到实际发生的情况。AI显然比纯粹受人类控制的工具更动态、更模糊、更整合、更具涌现性。因此，为了驾驭这股浪潮，把人类能动性置于核心位置，并缓解可能出现的、不可避免的意外后果，我们应该开始把它们视为一种新型的数字物种。当然这只是一个类比，不是字面描述，也不完美。但请暂停片刻，真正思考一下它们已经能做到的事情。
12:07
to this as just tools. But that doesn't really capture what's actually happening here.
仅仅把这些当作工具来看待，但这并没有真正捕捉到实际发生的情况。
12:14
AI's are clearly more dynamic, more ambiguous, more integrated and more emergent than mere tools,
AI显然比单纯的工具更具动态性、更模糊、更集成、也更涌现，
12:22
which are entirely subject to human control. So to contain this wave,
而工具是完全受人类控制的。所以，为了遏制这股浪潮，
12:28
to put human agency at its centre and to mitigate the inevitable unintended consequences
以人类自主性为核心，并减轻那些不可避免的意外后果。
12:33
that are likely to arise, we should start to think about them as we might a new kind of digital
那些可能出现的问题，我们应该开始像对待一种新型数字物种一样去思考它们。当然这只是一个类比，不是字面描述，也不完美。但请暂停片刻，真正想想它们已经能做到的事。它们能处理信息、拥有记忆、具备个性、展现创造力，甚至能在一定程度上进行推理并制定初步计划，如果我们允许的话，它们还能自主行动。而所有这些能力，其复杂程度远超我们以往对任何工具的认知。所以说AI主要关乎数学或代码，就像说人类主要就是碳和水一样。这话没错，但完全忽略了本质。
12:39
species. Now it's just an analogy, it's not a literal description and it's not perfect.
物种。这只是一个类比，不是字面描述，也不完美。
12:45
I mean, for a start they clearly aren't biological in any traditional sense,
我的意思是，首先，它们显然不属于任何传统意义上的生物范畴，但请稍作停顿，真正思考一下它们已经能做到的事情：它们用我们的语言交流，它们能看到我们所见的，它们能摄取难以想象的巨量信息，它们拥有记忆、个性、创造力，甚至能在一定程度上进行推理并制定初步计划，如果我们允许，它们还能自主行动。而它们以远超我们以往对任何工具的认知的复杂程度，完成了这一切。因此，说人工智能主要关乎数学或代码，就像说我们人类主要关乎碳和水一样——这话没错，但完全偏离了重点。
12:50
but just pause for a moment and really think about what they already do.
但请稍作停顿，真正想一想它们已经能做到的事。它们拥有信息、记忆、个性、创造力，甚至能在一定程度上进行推理并制定初步计划，如果我们允许，它们还能自主行动。而它们做到这一切的复杂程度，远超我们以往对任何工具的认知。所以说AI主要关乎数学或代码，就像说我们人类主要关乎碳和水一样——这话没错，但完全没抓住重点。我们需要设定哪些边界？我们想构建或允许什么样的AI？经济随着人们发现新大陆、开拓新边疆而扩张。
12:55
They communicate in our languages, they see what we see, they consume unimaginably large amounts
它们用我们的语言交流，能看到我们所看到的，能消化难以想象的巨量信息，拥有记忆、个性、创造力，甚至能在一定程度上进行推理并制定初步计划，如果我们允许，它们还能自主行动。而它们做这一切的复杂程度，远超我们以往对任何工具的认知。所以说AI主要关乎数学或代码，就像说人类主要由碳和水构成一样——没错，但完全没抓住重点。这有助于我们聚焦关键问题：风险是什么？我们需要设定哪些边界？我们想要构建或允许什么样的AI？
13:02
of information, they have memory, they have personality, they have creativity, they can even
它们拥有信息、记忆、个性、创造力，甚至能在一定程度上进行推理并制定初步计划，如果我们允许，它们还能自主行动。
13:12
reason to some extent and formulate rudimentary plans, they can act autonomously if we allow them.
而它们做到这一切的复杂程度，远超我们以往对任何工具的认知。
13:20
And they do all this at levels of sophistication that is far beyond anything that we've ever known
所以，说AI主要关乎数学或代码，就像说我们人类主要关乎碳和水一样。
13:25
from a mere tool. And so saying AI is mainly about the math or the code is like saying we humans
这话没错，但完全没抓住重点。
13:34
are mainly about carbon and water. It's true, but it completely misses the point.
我们需要设定哪些边界？我们想要构建或允许什么样的AI？
13:42
And yes, I get it, this is a super arresting thought, but I honestly think this frame
是的，我明白，这个想法极具冲击力，但我真心认为，这个框架能帮助我们更清晰地聚焦于关键问题：风险是什么？我们需要设定哪些边界？我们想要构建或允许他人构建怎样的AI？这是一个仍在展开的故事，没有任何事物应当被视为理所当然。我们几乎是在选择创造什么，选择将哪些AI带入这个世界，或不带入。这些问题关乎今天在座的每一位，而我们所有人都正活在这一刻。对我而言，这项技术的益处显而易见，它们每日激励着我毕生的事业。但坦率地说，这些益处自会不言而喻。多年来，我从未……
13:48
helps sharpen our focus on the critical issues. What are the risks?
帮助我们更聚焦于关键问题。风险是什么？我们需要设定哪些边界？我们想要构建或允许什么样的AI？负面影响。随着人们发现新大陆、开拓新边疆，经济确实扩张了。但与此同时，他们也在殖民原住民。我们建起了工厂，但那些工厂阴暗又危险。而在构建AI时，我们有潜力也有机会做得更好，彻底地更好。如今，有人说数据或芯片是21世纪的新石油。但这个比喻完全不对。AI之于心智，就像核聚变之于能源——无限、丰沛、足以改变世界。而AI确实与众不同。这意味着我们必须用创造性的方式去思考它。
13:55
What are the boundaries that we need to impose? What kind of AI do we want to build or allow to
我们需要设定哪些边界？我们想要构建或允许什么样的AI？
14:02
be built? This is a story that's still unfolding, nothing should be accepted as a given.
被构建出来？这是一个仍在展开的故事，没有任何事情是理所当然的。
14:09
We almost choose what we create, what AI's we bring into the world, or not.
我们几乎是在选择创造什么，选择把什么样的AI带到这个世界上，或者不带来。
14:18
These are the questions for all of us here today, and all of us are live at this moment.
这些是今天在座所有人要面对的问题，而此刻我们所有人都正亲身经历着这一切。
14:24
For me, the benefits of this technology are stunningly obvious, and they inspire my life's work
对我来说，这项技术的好处显而易见，它们每天都在激励着我毕生的事业。
14:31
every single day. But quite frankly, they'll speak for themselves. Over the years, I've never
但说实话，这些好处会自己说话。多年来，我从未低估我们所有人面临的巨大挑战。
14:38
shied away from highlighting risks and talking about downsides. Thinking in this way helps us focus
回避了强调风险和讨论负面因素。这种思维方式有助于我们聚焦于所有人面临的巨大挑战。但请明确一点，没有任何一条进步之路是建立在抛弃技术之上的。整个文明的奖赏是巨大的。我们需要在医疗、教育以及气候危机中找到解决方案。如果人工智能仅实现其潜力的极小部分，未来十年将成为人类历史上最具生产力的十年。
14:45
on the huge challenges that lie ahead for all of us. But let's be clear, there is no path to
但让我们明确一点：没有一条路能绕开这些挑战。
14:52
progress where we leave technology behind. The prize for all of civilization is immense.
另一种思考方式是：过去，释放经济增长往往伴随着巨大的负面代价。随着人们发现新大陆、开拓新边疆，经济得以扩张，但与此同时，他们也对原住民进行了殖民。我们建造了工厂，但这些工厂却阴暗而危险。
15:00
We need solutions in healthcare and education to our climate crisis, and if AI delivers just a
我们在医疗、教育和气候危机上都需要解决方案，而如果AI哪怕只发挥出它潜力的一小部分，
15:05
fraction of its potential, the next decade is going to be the most productive in human history.
未来十年将成为人类历史上最高产的十年。
15:12
Here's another way to think about it. In the past, unlocking economic growth often came with huge
换个角度想。过去，经济增长往往伴随着巨大的代价。人们发现新大陆、开拓新边疆，经济随之扩张，但同时也带来了殖民统治。我们建起了工厂，可那些工厂阴暗又危险。而发展AI，我们有机会做得更好，甚至好得多。今天，有人会说数据或芯片是21世纪的新石油，但这比喻完全不对。AI之于心智，就像核聚变之于能源——无限、丰沛、足以改变世界。AI确实与众不同，这意味着我们必须用创造性和诚实的态度去思考它，必须把我们的类比和隐喻推到极限，才能真正理解它。
15:19
downsides. The economy expanded as people discovered new continents and opened up new frontiers.
弊端在于，随着人们发现新大陆、开拓新边疆，经济也随之扩张。
15:28
But they colonized populations at the same time. We built factories, but they were grim and dangerous
但它们同时也在殖民人口。我们建起了工厂，却充满阴森与危险。
15:35
places to work. We struck oil, but we polluted the planet. Now, because we are still designing and
工作的场所。我们发现了石油，却污染了地球。如今，由于我们仍在设计和构建人工智能，我们拥有潜力和机会去做得更好——彻底地更好。而今天，我们并非在发现新大陆并掠夺其资源，而是在从零开始构建一个全新的世界。
15:44
building AI, we have the potential and opportunity to do it better, radically better. And today,
在构建AI时，我们拥有潜力和机会去做得更好，彻底地更好。而今天，
15:51
we're not discovering a new continent and plundering its resources. We're building one from scratch.
有时人们会说，数据或芯片是21世纪的新石油。但这完全是错误的比喻。人工智能之于心智，正如核聚变之于能源——无限、丰饶、足以改变世界。而人工智能确实与众不同。这意味着我们必须以创造性和诚实的态度去思考它。我们必须将类比和隐喻推向极限，才能应对即将到来的变革。因为这并非又一项发明——人工智能本身就是一种无限。
15:58
Sometimes people say that data or chips are the 21st century's new oil. But that's totally the
有时人们会说数据或芯片是21世纪的新石油。但这完全是
16:04
wrong image. AI is to the mind what nuclear fusion is to energy. Limitless, abundant,
错误的比喻。AI之于心智，正如核聚变之于能源——无限、丰沛、
16:15
world-changing. And AI really is different. That means we have to think about it creatively and
改变世界。而AI确实与众不同。这意味着我们必须以创造性的方式思考它，以及
16:23
honestly. We have to push our analogies and our metaphors to the very limits to be able to grapple
说实话，我们得把类比和隐喻推到极限，才能勉强理解这些事。
16:30
with what's coming. Because this is not just another invention. AI is itself an infinite
随着即将到来的变化。因为这不仅仅是又一项发明。AI本身是无限的。
16:37
inventor. And yes, this is exciting and promising and concerning and intriguing all at once.
发明者。没错，这既令人兴奋、充满希望，又引人担忧、耐人寻味，所有这些感受交织在一起。老实说，这相当超现实。但退一步，以冰川纪元的漫长视角来看，这些确实是当今最恰当的比喻。自地球生命诞生以来，我们一直在进化、改变，并在当今人类世界中创造着周围的一切。而人工智能并非这个故事的局外之物。事实上，恰恰相反。它是我们创造的一切的精华浓缩，成为我们都能与之互动并从中受益的事物。它是跨越时间的人类的映照。从这个意义上说，它根本不是一个新物种。比喻到此为止。以下是内容：
16:45
To be quite honest, it's pretty surreal. But step back, see it on the long view of glacial time,
说实话，这感觉相当超现实。但退一步，从冰川般漫长的时间尺度来看，
16:52
and these really are the very most appropriate metaphors that we have today. Since the beginning
这些确实是我们今天能用到的最恰当的比喻。自从地球上生命诞生以来，
16:58
of life on Earth, we've been evolving, changing, and then creating everything around us in our
我们一直在进化、改变，然后创造出我们今天人类世界周围的一切。
17:06
human world today. And AI isn't something outside of this story. In fact, it's the very opposite.
而AI并非这个故事之外的东西。事实上，恰恰相反。
17:15
It's the whole of everything that we have created distilled down into something that we can all
它是我们所创造的一切浓缩成的东西，让我们所有人都能与之互动并从中受益。
17:20
interact with and benefit from. It's a reflection of humanity across time. And in this
它是跨越时间的人类镜像。从这个意义上说，
17:27
sense, it isn't a new species at all. This is where the metaphors end. Here's what
它根本不是一个新物种。比喻到此为止。以下是实际情况：
17:34
I'll tell Caspian next time he asks. AI isn't separate. AI isn't even in some senses new.
下次卡斯皮安问起时，我会告诉他。人工智能并非独立存在，甚至在某种意义上也不算新鲜事物。人工智能就是我们，是我们所有人。而这或许是最有希望、最关键的一点——连一个六岁的孩子都能理解。在构建人工智能的过程中，我们能够也必须映射出人性中一切美好的、我们所珍视的、独特的东西：我们的同理心、善良、好奇心与创造力。我认为，这既是21世纪最重大的挑战，也是我们所有人所能拥有的最奇妙、最鼓舞人心、最充满希望的机遇。
17:43
AI is us. It's all of us. And this is perhaps the most promising and vital thing of all
谢谢。
17:50
that even a six-year-old can get a sense for. As we build out AI, we can and must
谢谢。感谢你们所做的一切。这是一个非凡的愿景，也是一股超级力量。
17:57
reflect all that is good, all that we love, all that is special about humanity, our empathy,
反映人类一切美好、我们所珍视的一切、以及人性中独特的部分——我们的同理心、善良、好奇心与创造力。我认为，这既是21世纪最艰巨的挑战，也是我们所有人所能拥有的最美好、最鼓舞人心、最充满希望的机遇。
18:04
our kindness, our curiosity, and our creativity. This, I would argue, is the greatest challenge
谢谢。
18:12
of the 21st century, but also the most wonderful, inspiring, and hopeful opportunity for all of us.
谢谢你的分享。这是一个令人惊叹的愿景，也是一种超能力。
18:20
Thank you.
感谢OpenAI正在进行的卓越工作。你将获得可用的资源。
18:26
Thank you. Thank you for stuff. It's an amazing vision and a super power for
有报道称，这些巨型新数据中心投资高达1000亿美元，诸如此类。
18:30
metaphor. You're in an amazing position right now. I mean, you were connected at the hip
比喻。你现在处于一个绝佳的位置。我的意思是，你与OpenAI正在进行的惊人工作紧密相连，你将获得可用的资源。有报道称，这些巨大的新数据中心投资了1000亿美元，诸如此类。新的物种可能从中诞生。我的意思是，你在书中描绘了一幅极其乐观的愿景，同时也非常雄辩地阐述了AI的危险。我只是好奇，从你现在的视角来看，最让你夜不能寐的是什么？我认为最大的风险是我们陷入所谓的“悲观回避陷阱”。你知道，我们必须有勇气直面潜在黑暗情景的可能性，才能从这一切中获得最大收益。
18:35
to the amazing work happening at OpenAI. You're going to have resources made available.
新的物种也可能从中诞生。我的意思是，你在书里也描绘过这一点，就像作画一样。
18:40
There are reports of these giant new data centers, $100 billion invested, and so forth.
有报道说那些巨型新数据中心，投资上千亿美元，诸如此类。
18:47
And new species can emerge from it. I mean, you've done in your book you did as well as painting
而且从中可能涌现出新的物种。我是说，你在书里也做过类似的事，就像画画一样——
18:55
an incredible optimistic vision. You were super eloquent on the dangers of AI, and I'm just curious
一个非常乐观的愿景。你刚才对AI的危险讲得非常透彻，我只是好奇，从你现在所处的视角来看，最让你夜不能寐的是什么？我认为最大的风险是我们陷入所谓的“悲观回避陷阱”。我们必须有勇气直面那些黑暗场景的可能性，才能充分挖掘出所有好处——毕竟到目前为止，负面效应真的非常非常少，对吧？很难明确说出一个LLM具体造成了什么伤害。但这并不意味着未来十年的发展轨迹也会如此。所以我认为，如果关注几个特定的能力，比如自主性（autonomy），自主性显然是一个阈值，一旦跨越，就会增加我们社会的风险。
19:01
where, from the view that you have now, what is it that most keeps you up at night? I think the
从你现在所处的视角来看，最让你夜不能寐的是什么？我觉得
19:07
great risk is that we get stuck in what I call the pessimism aversion trap. You know, we have to
最大的风险是我们陷入我所说的“悲观回避陷阱”。你知道，我们必须
19:12
have the courage to confront the potential of dark scenarios in order to get the most out of all
有勇气去面对黑暗场景的可能性，才能从一切中获取最大价值——
19:17
the benefits that we see. So the good news is that if you look at the last two or three years,
我们所看到的益处。好消息是，如果你回顾过去两三年，负面影响非常非常少，对吧？很难明确说出大语言模型造成了什么具体危害。但这并不意味着未来十年的发展趋势会一直如此。所以我认为，如果关注几个特定能力，比如自主性，自主性显然是一个阈值，一旦跨越，社会风险就会增加，我们必须极其谨慎地对待。另一个例子是递归自我改进。如果允许模型独立自我改进、更新自身代码、在没有监督的情况下探索环境，并且没有人类控制来干预改变……
19:23
there have been very, very few downsides, right? It's very hard to say explicitly what harm
到目前为止，负面后果非常非常少，对吧？很难明确说出一个LLM具体造成了什么伤害。
19:29
an LLM has caused. But that doesn't mean that that's what the trajectory is going to be over the
但这并不意味着未来的轨迹也会一直这样。
19:34
next 10 years. So I think if you pay attention to a few specific capabilities, take, for example,
未来十年。所以我觉得，如果你关注几个特定能力，比如自主性（autonomy），自主性显然是一个门槛，跨过它就会增加我们社会的风险，比如递归自我改进（recursive self-improvement）。如果你允许模型独立地自我改进、更新自己的代码、在无监督的情况下探索环境，而且没有人类控制来改变方向，我认为我们真正要面对这个问题，还得再过五到十年。一个数字物种，和任何生物物种不同，它复制不需要九个月，而是快得多。在很多方面，它比我们更强大。我是说，意外后果的可能性似乎相当巨大，而且如果出了问题，它可能在一小时内就发生，这并非危言耸听。
19:40
autonomy. Autonomy is very obviously a threshold over which we increase risk in our society,
自主性。自主性显然是一个阈值，一旦跨越，就会增加我们社会中的风险，
19:46
and it's something that we should step towards very, very closely. The other would be something
这是我们非常需要谨慎推进的事情。另一个方面是类似递归自我改进的问题。如果你允许模型独立地自我改进、更新自己的代码、在没有监督的情况下探索环境，并且没有人类控制来改变这种状态，我认为我们真正需要面对这个问题，可能还要五到十年时间。一个数字物种，与任何生物物种不同，它不需要九个月来复制，而是可以在很多方面比我们快得多。我的意思是，出现意外后果的可能性似乎非常大，而且如果问题发生，它可能在一个小时内就出现，这并非不真实。不，这真的不真实。我认为没有证据表明这一点，而且我认为，
19:50
like recursive self-improvement. If you allow the model to independently self-improve, update its own
比如递归式自我改进。如果你允许模型独立地自我改进、更新自己的
19:57
code, explore an environment without oversight, and, you know, without a human in control to change
代码、在没有监督的情况下探索环境，并且，你知道，没有人类掌控来改变它……
20:03
how it operates, that would obviously be more dangerous. But I think that we're still some way
其运作方式显然会更加危险。但我认为我们距离那一步还有一段距离。我认为我们还需要五到十年的时间才能真正面对这个问题，但现在开始讨论它正是时候。
20:08
away from that. I think it's still a good five to 10 years before we have to really confront that,
远离这个话题。我认为我们真正要面对这个问题，至少还需要五到十年。
20:12
but it's time to start talking about it now.
一个数字物种，与任何生物物种不同，它不需要九个月来繁殖，而是可以在九纳秒内完成复制，并产生无限数量的自身副本，这些副本在许多方面都比我们更强大。我的意思是，意外后果的可能性似乎相当巨大，而且如果出现问题，它可能在一小时内发生，这种说法并不正确。
20:13
A digital species, unlike any biological species, can replicate not in nine months, but in
一个数字物种，和任何生物物种不同，它复制自己不需要九个月，而是——在很多方面比我们快得多。我是说，产生意外后果的可能性看起来相当巨大。
20:20
nine nanoseconds, and produce an indefinite number of copies of itself, all of which have more power
不，这确实不是真的。我认为没有证据表明这一点，而且我认为，
20:26
than we have in many ways. I mean, the possibility for unintended consequences seems pretty immense,
而且，如果出了问题，它完全有可能在一小时内发生，这并非危言耸听。
20:33
and it isn't true that if a problem happens, it could happen in an hour.
诸如此类。我认为我们选择用词时必须非常谨慎，
20:37
No. That is really not true. I think there's no evidence to suggest that, and I think that,
不，这真的不对。我认为没有任何证据能支持这种说法，也完全不是这么回事。而且我觉得我们说话必须非常谨慎，因为你说得对——这正是“物种框架”的弱点之一，对吧？如果人们选择这么做，我们确实会设计出自我复制的能力，而我实际上要主张的是，我们不应该这样做，对吧？那将是危险的能力之一，我们应该退一步。所以它绝不可能意外出现。我真的认为这种概率极低。只有当工程师故意设计这些能力时才会发生。所以谢谢你。我的意思是，你描绘的人类将自身注入这个新事物的愿景，
20:44
that's often referred to as the intelligence explosion, and I think it is a theoretical, hypothetical,
这通常被称为“智能爆炸”，我认为这是一个理论上的、假设性的概念，或许我们都对此充满好奇并想探索，但目前没有任何证据表明我们已接近类似情况。而且我认为，我们选择措辞时必须格外谨慎，因为你说得对——这正是“物种框架”的弱点之一，对吧？如果我们选择这样做，就会为其设计自我复制的能力，而我实际上主张我们不应该这么做，对吧？那将是我们应该退避的危险能力之一，对吧？所以，这种情况绝无可能意外出现。我真的认为这种概率极低。只有当工程师们刻意设计这些能力时，它才会发生。
20:50
maybe that we're all kind of curious to explore, but there's no evidence that we're anywhere near
可能我们都有点好奇想去探索，但目前没有任何证据表明我们离那种情况很近。而且我觉得我们选词必须非常谨慎，因为你说得对，这正是“物种框架”的弱点之一，对吧？如果人们选择这么做，我们确实会把自我复制的能力设计进去，而我其实会主张我们不应该这么做，对吧？那会是那种我们应该退一步的危险能力之一。所以它绝不可能意外出现。我真的认为这种概率非常低。只有当工程师故意把这些能力设计进去时才会发生。所以谢谢你。我的意思是，你描绘的“人类注入这个新事物”的愿景，
20:55
anything like that. And I think it's very important that we choose our words super carefully,
因为你说得对。这正是“物种”这个框架的弱点之一，对吧？我们会把自我复制的能力设计进去——如果人们选择这么做的话。而我实际上会主张，我们不应该这么做，对吧？那将是我们应该回避的危险能力之一。
20:59
because you're right. That's one of the weaknesses of the species framing, right? We will design
因为你说得对，这正是“物种框架”的弱点之一，对吧？如果人们选择这么做，我们就会把自我复制的能力设计进去，而我实际上认为我们不应该这样做，对吧？那将是我们应该谨慎对待的危险能力之一。
21:05
the capability for self-replication into it if people choose to do that, and I will actually argue
非常感谢。
21:10
that we should not, right? That would be one of the dangerous capabilities that we should step
那些我们不应该做的，对吧？那将是危险的capabilities之一，我们应该就此打住。
21:14
back from, right? So there's no chance that this will emerge accidentally. I really think that's
对吧？所以这绝不可能意外出现。我真的认为这种概率极低。只有当工程师刻意设计这些能力时才会发生。
21:20
a very low probability. It will happen if engineers deliberately design those capabilities in,
所以，感谢你。我是说，你关于人类将自身注入这个新事物的愿景，
21:26
and if they don't take enough efforts to deliberately design them out. And so this is the point
如果他们未能投入足够的努力，刻意将这些隐患排除在设计之外。因此，关键在于尽早明确且透明地尝试引入“安全设计”理念。
21:31
of being explicit and transparent about trying to introduce safety by design very early on.
感谢您。您所描绘的人类将自身最美好的一面注入这个新事物，同时避免我们在特定情境下可能出现的那些怪异、可怕、令人不安的生物本能——这确实是一个令人振奋的愿景。非常感谢您来到这里分享这一切。谢谢。谢谢。谢谢这份幸运。非常感谢。
21:39
So thank you. I mean, your vision of humanity injecting into this new thing,
非常感谢你来到这里分享。谢谢。谢谢。谢谢你的祝福。
21:45
the best parts of ourselves, avoiding all those weird biological, freaky, horrible tendencies that
我们人性中最美好的一面，避开那些在特定情境下可能出现的古怪、诡异、可怕的生物本能。这确实是一个非常鼓舞人心的愿景。非常感谢你来到这里分享它。谢谢。谢谢。谢谢你的好运。非常感谢。
21:50
we can have in certain circumstances. I mean, that is a very inspiring vision. And thank you so
在某些情况下，我们是可以做到的。我觉得这是一个非常鼓舞人心的愿景。非常感谢你来到这里，和我们分享这些。谢谢，谢谢。也谢谢你的好运。非常感谢。
21:55
much for coming here and sharing it. Thank you. Thank you. Thank you for the luck.
非常感谢。
21:59
Thank you so much.
非常感谢。