研究人员对人工智能进行心理分析

2021年9月22日

新的研究让我们得以窥探人工智能(AI)的大脑。我们不知道人工智能(AI)的“大脑”内部到底发生了什么,因此我们无法准确预测其行为。我们可以进行测试和实验,但是我们不能总是预测和理解人工智能为什么会这样做。就像人类一样,人工智能的发展是基于经验的(在人工智能方面是以数据的形式)。这就是为什么人工智能的行为有时会让我们感到惊讶,还有无数人工智能表现出性别歧视、种族歧视或不恰当的例子。

9月21日星期五

研究结果刚刚发表在备受赞誉的机器人学:科学与系统会议上的一篇获奖文章中;Georgios Arvanitidis,Gerhard Neumann,Leonel Rozo:机器人学:科学和系统。该研究部分由VILUM基金会和欧洲研究委员会(ECC)资助。

这项新的研究让我们得以窥探人工智能(AI)的大脑。

我们不知道人工智能(AI)的“大脑”内部到底发生了什么,因此我们无法准确预测其行为。我们可以进行测试和实验,但我们不能总是预测和理解AI为什么会这样做。

就像人类一样,人工智能的发展是基于经验的(在人工智能方面是以数据的形式)。这就是为什么人工智能的行为有时会让我们大吃一惊,而且有无数人工智能表现出性别歧视、种族歧视或不恰当的例子。

DTU Compute的Søren Hauberg教授说:“仅仅因为我们可以开发一种算法,让人工智能在数据中找到模式以最好地解决任务,并不意味着我们了解它找到了什么模式。因此,即使我们已经创建了它,也不意味着我们知道它。”。

一个被称为黑箱问题的悖论。这一点一方面源于人工智能的自学习特性,另一方面也源于到目前为止还不可能研究人工智能的“大脑”,看看它如何利用数据来形成其学习的基础。

如果我们能找出人工智能使用的数据以及如何使用,它将与考试和精神分析之间的某些东西相对应——换句话说,这是一种更好地了解人工智能的系统方法。到目前为止,这还不可能,但现在瑟伦·豪伯格和他的同事们已经开发出一种基于经典几何的方法,这使得人们有可能看到人工智能是如何形成它的“个性”的

混乱的大脑
它需要非常大的数据集,例如教机器人抓取、扔、推、拉、走、跳、开门等,而人工智能只使用使其能够解决特定任务的数据。人工智能从无用数据中筛选有用数据,并最终看到其后续行动所依据的模式,是通过将数据压缩成神经网络。

然而,就像我们人类把东西打包在一起一样,在其他人看来很容易弄乱,也很难弄清楚我们使用了哪种系统。

例如,如果我们把家打包在一起的目的是使它尽可能紧凑,那么为了节省空间,一个枕头很容易就放在汤锅里。这没有什么错,但外界很容易得出错误的结论;枕头和汤锅是我们打算一起使用的东西。到目前为止,当我们人类试图理解人工智能的系统学原理时,情况就是这样。然而,据瑟伦·豪伯格(Søren Hauberg)说,这已经成为过去:

“在我们的基础研究中,我们找到了一个理论上倒退的系统解决方案,这样我们就可以跟踪哪些模式植根于现实,哪些模式是通过压缩发明的。当我们能够将两者分开时,我们人类就可以更好地理解人工智能是如何工作的,但也可以确保人工智能不要听错误的模式。”

Søren和他的DTU同事利用18世纪开发的用于绘制地图的数学。这些经典几何模型在机器学习中发现了新的应用,它们可以用来绘制压缩如何移动数据的地图,从而通过人工智能的神经网络回溯并理解学习过程g过程。

回馈控制权
在许多情况下,该行业避免使用人工智能,特别是在安全是关键参数的生产领域。担心失去对系统的控制,因此,如果算法遇到无法识别的情况并不得不自行采取行动,就会发生事故或错误。

这项新的研究让我们重新找回了一些失去的控制和理解,使我们更有可能将人工智能和机器学习应用到我们今天没有做的领域。

“不可否认,还有一些无法解释的部分,因为系统的一部分是由于模型本身在数据中发现了一种模式而产生的。我们无法验证这些模式是否是最好的,但我们可以看到它们是否合理。这是迈向对人工智能更具信心的一大步,”Søren Hauberg说。

该数学方法是与德国卡尔斯鲁厄理工学院和工业集团博世人工智能中心共同开发的。博世人工智能中心在其机器人算法中使用了DTU的软件。研究结果刚刚发表在广受赞誉的机器人学:科学与系统上的一篇获奖文章中会议

这条消息的来源是丹麦科技大学