对话诺奖评委:授予辛顿物理学奖引发对AI风险的关注,是好的副作用

企业
2024 10-21 17:48:01
分享


图片来源:由无界AI生成
图片来源:由无界AI生成

2024年诺贝尔物理学奖的结果引发了广泛的讨论,原因是其中一位获奖者Geoffrey Hinton(杰弗里·辛顿),并非是传统意义上的物理学家,而是一位极具声望的人工智能研究科学家,被誉为深度神经网络的奠基人和人工智能“教父”。

近年来,由于ChatGPT等大语言模型的出现,催生出新一轮生成式人工智能的热潮。此时Hinton获奖,无疑令该奖项被赋予了别样的意义,也引发了许多的猜测,例如诺贝尔奖是否也在追逐人工智能热点?Hinton的研究工作究竟与物理学有何关联?

带着这些疑问,10月18日,腾讯新闻《潜望》独家对话诺贝尔物理学奖评奖委员会委员、秘书长Ulf Danielsson教授。他详细解释了诺贝尔评奖委员会决定将今年的物理学奖授予Hinton的理由,并表示,诺奖的授予完全是基于科学研究方面的贡献,并非是追逐当下热点。事实上,Hinton的获奖理由,与目前的大语言模型并不相关,也就是说,即便大语言模型并不存在,也不影响Hinton获得这一奖项。

同时,他也表达了作为一名物理学家,对于当下人工智能的看法,提出了一些在科学研究领域使用AI的潜在风险和担忧。

Ulf Danielsson 教授是瑞典乌普萨拉大学理论物理学教授,以其在弦理论、暗物质和宇宙学方面的专长而闻名。Ulf Danielsson 教授也是瑞典皇家科学院院士,同时担任诺贝尔物理学奖评委会委员和科学秘书。

今年的诺贝尔物理学奖授予两位学者,他们是美国物理学家John Hopfield和加拿大计算机科学家Geoffrey Hinton,获奖理由为“因推动利用人工神经网络进行机器学习的基础性发现和发明”。

Danielsson对腾讯新闻《潜望》表示,诺贝尔物理学奖既可以授予发现,也可以授予发明。这意味着,可以将奖项授予那些利用物理学知识进行发明并造福人类的成果,今年的物理学奖就是这样的例子。

这两位获奖者的研究,一位起到了启发作用,另一位将理论通过实践进一步发展其中。Hopfield受到人脑中神经元通过突触相互通信的启发。但他还需要运用理论物理学知识,了解磁性材料中原子如何相互作用的网络构建。这些数学模型(也是几年前Giorgio Parisi获得诺贝尔奖的自旋玻璃相关工作的一部分)描述了这些网络,这些网络后来被实现在计算机上,使得存储和恢复可被网络识别的图像成为可能。这确实很大程度上源于理论物理学家的直觉。

而Hinton则进一步发展了这些网络,他的重要贡献同样受到物理学的启发。Hopfield的网络能够识别和纠正失真的图像,但Hinton使得一种更具生成性的人工智能成为可能,即网络可以构建与学习识别图像相似的新图像。

他通过使用统计物理学中的玻尔兹曼统计来实现这一点。这意味着在这些网络中,存在不同配置的随机分布,引入一定程度的随机性,使得生成某一类别事物的新成员成为可能。

Danielsson认为,在科学研究领域,人工智能最重要的贡献已经显现出来,那就是分析大数据并找出难以用其他方法发现的现象,然后可以通过其他方法验证其实际存在。粒子物理学和宇宙学就是完美的例子。

他表示,另一个物理学中非常有趣的应用领域是新材料的创造。物理学中有一些方法可以根据材料的实际化学成分预测其性质,这需要进行非常复杂的计算。如果将这些计算与大量材料的实际测量性质结合起来,再借助AI的帮助,就可以预测某些化学元素的组合可能会产生具有特定性质的新材料。

“AI在寻找具有新性质的材料方面的应用将非常重要。这不仅对物理科学很重要,对社会也可能产生很大影响。例如,寻找更好的电池或太阳能电池等。”Danielsson说。

尽管目前AI正在被广泛应用,但Danielsson认为,AI、人工神经网络、机器学习,不管怎么称呼它,都只是一个工具。

“它是一个非常强大的工具,当然也有局限性。这一点在媒体报道中并不十分清晰。我希望这个奖项能帮助传达AI实际基于什么样的物理原理,并清楚地表明这些系统实际上是如何工作的。” Danielsson说。

他认为,目前生成式AI基本上是一种有效处理大量数据并在其中找到模式的方法,这些模式可能用于预测某些系统的未来。

“它总是在试图重组已经存在的知识,使其变得实用。但它不过是外推而已。”Danielsson说。

他指出,对于AI可能存在的一些潜在风险,也值得警惕。

“如果你不真正区分如何使用AI的话。你可能认为可以走捷径,不需要自己思考。你可能只是使用计算机辅助计算,用计算机做所有的计算和可视化,而不试图利用你作为人类独特的能力去真正地进行计算,尝试创造自己原创的视觉图像等。”

他进一步阐述,“这可能会让科学变得有点太懒惰。所以必须始终记住,是人类与计算机、与人工神经网络一起才能取得进步。不应该试图用AI取代人类,因为那样的话,我很确信结果不会像原本那么有趣或原创。”

Danielsson认为,关于AI的风险,更多是关于它如何影响我们对科学或社会本身的态度。

“这是我们必须非常注意的事情。这更多是关于那些时间上更接近、可能已经存在多年的危险,比如我们使用数字媒体和社交媒体的方式,以及如何使用AI制造假新闻等。”

他表示,目前采取行动并不算晚,现在正是思考这些问题的完美时机。

“当然,你永远不知道会发生什么。我们可以回顾已知的技术,比如核物理学,重要发现是在半个多世纪前做出的,我们仍然没有完全处理好所有风险和后果。基因技术是另一个例子,你可以将其用于危险的事情。这再次表明,对于任何强大的技术,我们都不可能一劳永逸地解决所有问题,这些都是我们必须学会与之共存并设法处理的问题。”

他表示,担任诺奖评奖委员会委员,给了他绝佳的学习的机会。他从2017年开始加入评委会。

“能够超越自己的专业领域,与委员会中的其他物理学家讨论,同时也能够看到来自世界各地物理学家对特定主题和发现的意见。” Danielsson说。

他表示,诺贝尔奖在某种程度上是在书写历史。

“虽然能够获奖的科学发现数量是有限的,但我们试图做的是为这个学科写历史。当我们回顾时,我们看到了许多最重要的发现,也看到了参与这些发现的人。这不仅仅是关于当年的奖项,而是在为后人做这件事。”Danielsson说,”这就是为什么做出正确的选择如此重要,因为目标是让100年后的人回顾时能说,是的,这些确实是那个时代的重大发现。”

Ulf Danielsson教授

以下为此次对话全文实录(略有删减):

腾讯新闻《潜望》:
非常感谢你能进行这次对话。首先,祝贺你们又一次非常成功的诺贝尔物理学奖宣布活动。我在直播中观看了整个活动。这很令人兴奋,特别是,这个结果对很多人来说有点出乎意料。

Ulf Danielsson教授:

有时能够带来惊喜是件好事。

腾讯新闻《潜望》:
在我们开始今天的采访之前,你能否简单介绍一下你自己?

Ulf Danielsson教授:

好的。我是Ulf Danielsson。我是乌普萨拉大学理论物理学教授。我是瑞典皇家科学院院士,同时也是其诺贝尔物理学奖评委会的科学秘书。

腾讯新闻《潜望》:
今年的诺贝尔物理学奖,授予了一位非常著名的科学家Geoffrey Hinton,对很多人来说,他更广为人知的身份是计算机科学家。他的入选引发了相当多的讨论,包括Hinton本人对提名也感到惊讶。作为诺贝尔物理学奖委员会的评委,你对决策过程有着独特的视角。你能否与我们分享委员会授予Hinton这一荣誉的理由,以及他的工作哪些方面真正使其值得获得物理学奖项?

Ulf Danielsson教授:

决策背后的理由在网上都有描述,包括通俗版本和科学背景。当然,不仅仅是Geoffrey Hinton,还有John Hopfield也分享了这个奖项。

我们认为两位科学家获得诺贝尔物理学奖的原因是,Hinton和Hopfield都使用了物理学原理来使这些神经网络成为可能。应该记住的是,诺贝尔物理学奖是授予发现或发明。这意味着你可以因为利用物理学知识进行发明并可能造福人类而获奖。我认为今年的物理学奖正是如此。

Hopfield当时受到了他对人脑认识的启发,神经元通过突触与其他神经元通信。但他还需要运用他作为理论物理学家的知识,了解如何构建网络,比如在磁性材料中原子如何以各种方式相互作用。这些都有数学模型。

而且这些数学模型,顺便说一下,也是几年前Giorgio Parisi获得诺贝尔奖的自旋玻璃工作的一部分,这是同样的数学,描述了这些被实现在计算机上的网络,使得存储图像甚至恢复可被这些网络识别的图像成为可能。

这确实很大程度上源于理论物理学家在构建这些模型时的直觉,这在某种意义上是该领域的起点。

然后Hinton,同样是受物理学启发,他进一步发展了这些网络,做出了非常重要的贡献Hopfield的网络能够识别和纠正失真的图像,但Hinton使得一种更具生成性的人工智能成为可能,即你可以构建已经学会识别的图像相似的图像。他通过使用统计物理学,玻尔兹曼统计物理学来实现这一点。这意味着在这些网络中存在不同配置的随机分布。引入一定程度的随机性使得生成某一类别事物的新成员成为可能。这是Hinton为该领域做出的贡献之一,这与物理学的启发有着密切联系。

我还应该说,在诺贝尔奖的历史上有很多例子,奖项被授予一项发明,你可能会说这不是对真正理解新物理现象的深入贡献,而是使用已知的物理学来进行发明。

在这种情况下,当然也是在某种意义上,这个非凡的发现是你可以基于这种来自物理学的洞察制造出能做所有这些令人惊叹事情的机器。这本身就是一个发现。

然后最后补充一点关于与物理学的联系,这一点并不为人所知,那就是人工神经网络已经在物理学中使用了几十年,或多或少,用来帮助实验物理学家识别重要现象。甚至希格斯粒子的发现部分也是借助人工神经网络,它们也被用于观察碰撞的黑洞以及视界望远镜拍摄的黑洞图像。所以在大语言模型变得流行之前很多年,神经网络就已经在物理学中被用来做出重要发现。因此这是一个基于物理洞察的发明的例子,这些发明也被应用于重要的物理问题。

腾讯新闻《潜望》:
我注意到诺贝尔奖在阐述他的获奖理由时,也是重点强调他在1980年代的大部分贡献。所以我想知道,他的名字是否多年来一直在候选人名单中,还是最近才出现的?

Ulf Danielsson教授:

我不能告诉你任何关于提名的事情。

腾讯新闻《潜望》:
好的,没问题。关于诺贝尔奖是否越来越关注当前趋势,比如今年对AI的关注,也有一些讨论。几天前我与诺贝尔经济学奖的一位评委会成员交谈时,他强调奖项仍然保持保守,独立于最近的发展。你是否同意他的观点,你认为奖项是否变得更能反映最近的发展?

Ulf Danielsson教授:

我认为诺贝尔物理学奖应该授予最重要的发现和发明。我的意思是,这是一切的基础。

这也意味着有延迟是很自然的。有些奖项在实际发现和获奖之间相隔了几十年。但当然,这种长时间的延迟本身并不是目标。我可以给你一个例子说明这些事情是如何运作的,以希格斯粒子发现的获奖为例。这是在60年代初做出的理论发现,花了50年时间才获奖,实际上是授予了希格斯粒子的理论预言。所以很明显,理论家们获奖的原因是就在早年做出了这个发现。因此在这个意义上,很明显与某个发现的相关性是有联系的。所以不能说我们完全独立于所发生的事情。你必须确保发现或发明在某种意义上是相关的。

说到神经网络,它们在物理学内部的相关性是重要的。

正如我解释的,在过去10年、15年里已经做出了重要的物理发现,这显然是授予奖项的重要因素。然后这些大型语言模型等,与此实际上并没有关系。我的意思是,它对物理学真的很重要,这才是关键。然后,正如你可能注意到的,这对化学也很重要。

腾讯新闻《潜望》:
DeepMind的CEO获得了今年的诺贝尔化学奖。

Ulf Danielsson教授:

是的。所以各种方面的相关性当然是起作用的因素,但这只是故事的一部分。

腾讯新闻《潜望》:
所以也许我们可以说,今年两个奖项都颁发给了AI领域人物,这个时机在某种程度上是一个巧合。

Ulf Danielsson教授:

在某种意义上是巧合。但另一方面,如果有什么东西对物理学很重要,它通常也会对社会其他方面变得重要,这也是很自然的。显然,既然我们在谈论发明,发明的重要性当然起着作用。如果神经网络在现实世界中没有任何应用,它就不太有趣了,因为这部分是一个发明的奖项。历史上有很多发明的例子,多年前你有蓝色二极管,你有集成电路,比如2000年的Jack Kilby,这显然是一个对人类有巨大用处的东西。在所有这些情况下,你可能会说,好吧,你没有做出根本性的发现,这不是一个新粒子或类似的东西,但它是物理学的应用,用来制造真正能工作并能影响现实世界的东西。所以再次说明,这取决于我们如何看待它。

腾讯新闻《潜望》:
所以我认为你刚才已经谈到了物理学如何看待和运用神经网络的过程。物理学从根本上寻求理解我们周遭的世界。随着AI的兴起,一些人建议这些技术可以提供理解物理世界的新方法。作为一个物理学家,你如何看待AI在未来物理研究中的角色?AI能以什么方式补充研究物理的传统方法?

Ulf Danielsson教授:

我认为AI最重要的贡献是我们已经看到的。那就是分析大数据并找出其他方法很难发现的东西,然后可以通过其他方法验证它们的实际存在。粒子物理学、宇宙学就是完美的例子。所以,我认为它们已经发挥了作用,并将在未来继续发挥作用。另一个对物理学非常有趣的领域是新材料的创造。所以在这方面可以做的是,物理学中有一些方法可以根据材料的实际化学成分来预测性质。这里有一些非常复杂的计算可以做。如果你将这些计算与大量材料的实际测量性质结合起来,借助AI的帮助使用所有这些信息,你就可以预测某些化学元素的组合,可能会提供具有特定性质的新材料。所以AI在寻找具有新性质的材料方面的应用将非常重要。这对物理科学很重要,但也可能对社会产生很大影响。例如,寻找更好的电池或太阳能电池等等。

腾讯新闻《潜望》:
你曾经说过,从物理研究的角度来看,数学是理解物理世界的工具而不是其本质。那么你是否认为AI同样也只是一个工具而不是基本要素?你认为这种观点如何影响AI的未来使用?

Ulf Danielsson教授:

我认为确实如此。AI、人工神经网络、机器学习,不管你怎么称呼它,正是如此。它是一个工具。它是一个非常强大的工具,也有局限性。这一点在你看媒体报道时并不十分清晰。但我希望这个奖项能帮助传达AI实际上基于什么样的物理原理,并清楚地表明这些系统实际上是如何工作来做它们所做的事情。

我的意思是,基本上,它是一种有效处理大量数据并找到其中模式的方法,这些模式可能对预测某些系统的未来有用。它总是在试图重组实际存在的知识,使其变得实用。但它不是其他任何东西,只是外推。如果你在纸上有一些点并画一条线,然后你可以预测下一个值是什么。基本上就是这样,但是用令人难以置信的数据量和计算能力以及效率来做,这样你就可以开始将它用于非常有趣和相关的问题。

但我深信,它不是什么真正可以用来产生新知识的东西,就像你可以有一个像创造性科学家那样工作的AI机器人之类的。我认为这完全是错误的看法。

AI的力量在于,当你将它与人类结合起来时,人类可以将它用于决定使用它的任何目的。这与我们几十年来使用计算机的方式没有什么不同。计算机没有取代我们。它没有取代科学家。它是一个强大的工具,使你能够做比你原本能做得更多的事情。AI也将是一样的。

比如说,理论物理学和更基础的理论物理学,这是我的专长,实际上很难看出具体如何使用它。我可以想象机器学习、人工智能可以帮助改进现在常用于计算的数学程序。它也可能有助于说明某些现象等等。所以我确信它将是一个工具。但再次说明,它是一个可能使某些事情变得更容易的工具,但它不是什么能够自己推动科学前进的东西。

事实上,我甚至可以指出某些危险,如果你不真正区分如何使用AI的话。那就是你可能会走捷径,但你不需要自己思考。你某种程度上开始使用计算机辅助计算。你只是用计算机做所有的计算和可视化,而不试图利用你作为人类的独特能力真正地进行计算,试图创造自己原创的视觉图像或其他可能的东西。这可能会某种程度上引导科学变得有点太懒惰。所以你总要记住,是人类与计算机、与人工神经网络一起才能取得进步。你不应该以取代为目标,因为那样的话,我很确信结果不会像原本那样有趣或原创。

腾讯新闻《潜望》:
你刚才提到了过度使用AI的危险,以及人们对AI的依赖可能变得过度,这点非常重要。

Ulf Danielsson教授:

没错。我认为这就是危险所在。我可能不太看到其他更像科幻小说的那种危险。

腾讯新闻《潜望》:
你看到其他科学家也意识到这些潜在的危险了吗?或者他们可能对这些潜在的危险更加忽视?

Ulf Danielsson教授:

我认为实际上是全方位的。有些人可能关注某些事情。一些科学家和从事应用工作的人可能不太考虑我们刚才讨论的那种危险。其他人可能会对AI开始做它肯定做不到的事情感到害怕。所以人们也可能误解存在的危险类型。

我认为整个范围都有,如果我们通过这个奖项能够促进对危险的深思熟虑的讨论,我认为那将是一件很好的事情。

因为这是需要讨论的事情,就像任何新的强大技术一样,因为任何技术都可以用于好的事情,也可以用于坏的事情,你必须决定如何应用它。这是绝对清楚的。

腾讯新闻《潜望》:
是的,所以刚才讨论了我们与AI的关系,你认为现在它只是一个工具。在未来,人类与AI之间的关系是否有可能演变成另一种形式?

Ulf Danielsson教授:

好吧,这只会是推测,我不确定我能在这里添加什么特别的内容。我猜想这些事情中的许多可能比人们想象的、希望的或担心的(取决于你对整件事的态度)都要难得多。

所以我的意思是,人们可以讨论这些事情,我们应该讨论所有这些事情,但我个人认为危险更多是这种更平凡的类型。更多是关于它如何影响我们对科学或社会本身的态度。这是我们必须非常注意的事情。

所以更多是关于那些时间上更接近、可能已经与我们共存多年的危险,比如我们使用数字媒体和社交媒体的方式,以及如何可能使用AI来制造假新闻等等。所以我认为这些是我们现在真正需要讨论的危险。

腾讯新闻《潜望》:
这也呼应了Hinton教授的一些观点。他也指出了AI可能带来的许多危险。
所以在某种意义上,本次诺贝尔物理学奖也是一种提高人们对AI认识的方式。

Ulf Danielsson教授:

所以我们实际上很高兴Hinton参与这些讨论,因为这很重要,事实上在某种意义上可能有点独特,也许我们有这样的组合,我们正在为一项非常新的强大技术颁奖。但同时我们也可以发起一场平衡的讨论。所以我认为这实际上是非常积极的事情。

腾讯新闻《潜望》:
回到物理研究工作,作为一个物理学家,你认为当代物理研究中的一些主要挑战或障碍是什么?AI如何在克服这些挑战中发挥作用?

Ulf Danielsson教授:

在某种程度上,如果你找到一个强大的工具,那么你就会寻找这个强大工具的应用,这可能会影响你选择要研究的问题的方式,这是你必须意识到的事情。

这意味着你有了这个工具,可能会寻找涉及大数据的问题,基本上有很多这样重要的问题。在人文学科中也有这样令人兴奋的问题,你同样有大量需要AI才能理解的数据。所以可能是你某种程度上在尝试关注这样的问题,在这些问题中你主要使用AI技术来发现新的模式,一旦你发现了这些模式,它们可能在各种方面都有用。你可能用它们来做出某些预测。

这正是AI非常有用的地方,但风险在于你可能在那一点就停下来,转向下一个类似的问题,但你不会进一步问为什么会这样。我的意思是,有些问题是AI无法回答的。

它可以告诉你这些模式存在,它们可能有用,但它们为什么会出现呢?这里还有什么需要理解的吗?我们发现这些新的物理关系或现象的原因是什么?

重要的是你在某种意义上要再次使用老式的创造力和直觉,以便从人类的角度真正理解这些发现,这意味着你真正获得了对自然如何运作的新理解,更深入的理解。

可能存在的风险是,许多科学家决定不采取这一步,而只是去寻找新的令人兴奋的模式或其他可能的东西。

它可能会影响科学的方式,你只是在寻找东西,但你不关心试图解释它们,这可能会使科学在某种意义上变得更肤浅,我认为这是你必须警惕的危险。

腾讯新闻《潜望》:
除了AI可能带来的潜在危险之外,我认为在这个过程中也出现了一些新的伦理考虑。对于在研究中使用AI,可能引发的科学伦理问题,你有什么想法?

Ulf Danielsson教授:

是的,这实际上是一个非常非常重要的问题,因为它也涉及到,比如说,你写一篇科学论文,在写论文时使用AI到什么程度是可以的?我认为这样的伦理考虑是我们真的需要更多讨论的事情,我没有任何好的答案,因为现在已经在使用了。

如果仅仅是拼写检查,这算是作弊吗?界限在哪里?或者为了能够更好地组织句子,也许英语如果不是你的母语,那么当然你可以说有这种技术来改进你的语言是真的好事。这是公平的事情,因为这意味着无论你来自世界上哪个国家,你都能够以一种好的、可理解的方式表达自己。

但另一方面,关于实际内容呢?这些内容是属于你自己的,还是部分内容从网络上获取而未进行正确引用?我说的是适当的引用与正确的标注来源。到底是怎么回事?

我还想说,研究的质量如何?因为可能只是因为时间不够,你利用人工智能来获得这些漂亮的表达,但你并没有真正思考你是否能对论文中的所有内容负责。你可能没有认真地检查它,所以这些都可能是伦理问题。

但毫无疑问,其中有许多是关于科学写作的一般性问题。对我来说,我们正处于这样一个时代,很多事情还没有讨论清楚,但已经被广泛使用了。

你还可以思考,关于申请研究经费的问题。你写一份资助申请,许多资助机构鼓励你使用AI来撰写申请,那么问题当然就来了,这意味着什么?这是一件好事还是坏事?

很难说清楚,原因与我刚才提到的类似。然后当然,他们会说,你不应该使用AI来评估申请,但我们怎么知道那实际上不是在发生的事?也许你正在使用AI来评估资助申请,这又意味着什么?所以在这些方面有很多伦理维度的问题需要考虑,但我没有这些问题的答案,但无疑这些问题需要科学家们参与进来,设定一些可以被尊重的合理规则。我认为这对科学来说非常重要。

腾讯新闻《潜望》:
在和您讨论了AI对我们的研究的影响之后,我认为您对这些新应用的看法是非常谨慎乐观的。您觉得其他科学家或者整个科学研究界是否与您持有相同的观点呢?

Ulf Danielsson教授:

我认为在面对大量数据的领域,AI显然是一个有助于取得进展的工具。这一点是毫无疑问的。当然,我认为科学家们也会有很多顾虑。所有科学家都是生活在这个世界的个体,应该思考他们工作对社会的影响。

杰弗里·辛顿(Geoffrey Hinton)就是一个很好的例子,他做出了重要的发现和发明,但他也在思考这些技术的应用。这是我非常赞赏的事情。我认为在所有科学领域,科学家们都需要反思我们所做的事情。无论是技术领域、核物理领域,还是其他领域,都有很多强大的技术存在,但你必须非常谨慎地考虑如何应用这些技术。每一项新技术都具有它自己的可能性和问题,而这些问题在一开始可能并不明显,后果也未必一目了然。因此,如果不同的人和科学家能够对这些问题有不同的看法,那么我们就可以进行深入的讨论,把这些伦理问题往前推进。

腾讯新闻《潜望》:
您认为我们目前处于什么阶段?是接受AI的阶段?我们是否行动的已经太迟了?或者我们还处于早期阶段,可以采取一些措施来避免潜在的风险和危险?

Ulf Danielsson教授:

我认为这是一个非常合适的时机去思考这些问题,我对此还是比较乐观的,认为这些问题是可以解决的。但当然,你永远无法预料。

我可以举个例子,比如核物理领域,重要的发现是在半个多世纪前完成的,甚至可以追溯到20世纪初。但我们至今还无法完全掌控核技术的风险,比如核武器带来的威胁。我们不得不学会与这些风险共存,并找到解决方法。

基因技术也是另一个例子,你可以用它做危险的事情,这和其他科技是一样的。所以我认为对于任何强大的技术来说,问题不是一次性解决的,而是需要我们持续应对的挑战。你可以说,当人类发现火的时候,也许是在几百万年前,那时候你可以用火来煮熟食物,但也可以用它来伤害别人。所以这种情况贯穿了整个历史,而这次AI只是又一个新的例子。

腾讯新闻《潜望》:
那么我们能否说,今年的诺贝尔物理学奖也是委员会在试图唤起人们对于AI的关注?不仅仅是关注其有益的一面,还包括其潜在的风险?

Ulf Danielsson教授:

这并不是授予奖项的原因,但这是一个很有益的副作用。很幸运的是,这次获奖的科学家中至少有一位在积极参与这些讨论。这是一个积极的副作用,但并不是委员会的刻意安排。

腾讯新闻《潜望》:
这并不是委员会有意为之的?

Ulf Danielsson教授:

是的,事情并不是那样运作的。我们是基于科学发现或发明,以及它对社会和科学的影响来做出决定的。个体科学家获得奖项,重点在于发现和发明。

腾讯新闻《潜望》:
好的,但如果这一奖项能够提高人们对AI的潜在风险的关注,那无疑是个好的副作用,对吧?

Ulf Danielsson教授:

绝对是的,如果我们能促成一场关于益处与危险的平衡讨论,那将是非常积极的,因为在这些讨论中,“平衡”是非常难以实现的关键。

腾讯新闻《潜望》:
可以问一下,您在诺贝尔物理学奖委员会工作了多少年了?

Ulf Danielsson教授:

我从2017年起就在委员会工作,并且在科学院已经有多年了。

腾讯新闻《潜望》:
能否和我们分享一下,作为一名委员会成员,这个奖项对您个人来说意味着什么?
Ulf Danielsson教授:

对我个人而言,这是一个能够在科学上广泛学习的绝佳机会。我可以超越自己的专业领域,与其他物理学家进行讨论,同时还能看到来自全球物理学家的意见,这是非常有意义的事情。而且,我有责任去判断什么是真正重要的发现,了解这些发现背后的历史等等。所以这不仅让我学习到物理学作为一门科学的知识,还让我了解发现的历史,这是一个巨大的荣幸。我们还可以获得专家的意见,这是一种极为宝贵的资源。

腾讯新闻《潜望》:
那作为一名物理学家,诺贝尔奖对您来说意味着什么呢?

Ulf Danielsson教授:

我认为这是在某种意义上书写历史,并不是所有的发现都能获奖,诺贝尔奖的数量有限,但某种程度上,我们所做的事情对我而言是一种记录历史的方式。

当我们回顾过去时,我们可以看到许多重要的发现,也可以看到那些为这些发现做出贡献的人。因此,对我来说,诺贝尔奖不仅是今年的事情,更是在百年奖项历史中加入一个新的篇章。

这不仅是为了当下,更是为了未来。人们在100年后回顾时,会说“是的,这些是当时最重大的发现,我们很高兴它们与诺贝尔奖挂钩”。

因此,做出正确的选择非常重要,这样未来人们在回顾时会认可这些奖项所表彰的发现。

腾讯新闻《潜望》:
所以我们应该理解为这是一个连续的过程,而不应该将单个奖项割裂开来看待?

Ulf Danielsson教授:

是的,这确实是一个不断向前发展的过程。我们着眼于未来,并希望未来能够评价我们的决定是正确的。


The End
好一二三网hao123.biz网站成立于2007年3月21日,网站关注最实时的文章,教育资讯,教育录取,高考分数线信息,企事业单位招聘资讯