AI代理使用日常语言提供理由以解释其行为郑伦境

发布时间：2023-08-25 02:16:08 来源：安逸娱乐网

AI代理使用日常语言提供理由以解释其行为

佐治亚理工学院的研究人员与康奈尔大学和肯塔基大学合作开发了一种人工智能代理，该代理可以实时自动生成自然语言解释，以传达其行为背后的动机。

这项工作旨在使与AI代理或机器人互动的人放心，该代理正在正确执行任务，并且可以解释错误或错误行为。

该代理还使用非专家可以理解的日常语言研究人员称之为解释，或称“理性”，旨在与人们建立联系，并激发他们对可能使用AI机器或在社交场合与他们互动的人的信任。

Upol Ehsan博士说：“如果要使AI的力量民主化，那么任何人都必须能够使用AI，无论他们的技术水平如何。” 乔治亚理工学院互动计算学院的学生，首席研究员。

“随着AI渗透到我们生活的方方面面，对以人为中心的AI设计的独特需求使黑盒AI系统可以为日常用户所解释。

我们的工作朝着理解基于语言的解释的作用以及如何迈出第一步迈出了第一步人类会感知到它们。”

该研究得到海军研究办公室的支持。

研究人员进行了一项参与者研究，以确定他们的AI代理是否可以提供模仿人类反应的理论依据。

观众观看了AI代理玩电子游戏Frogger，然后按照每个人对AI的动作描述得如何好坏的顺序排列了三个屏幕依据。

在每个动作的三个匿名理由中，一个是人为产生的反应，AI代理反应和一个随机产生的反应，参与者首先喜欢人为产生的理由，而第二个是人工智能产生的反应。

Frogger为研究人员提供了在“顺序决策环境”中训练AI的机会，这是一个重大的研究挑战，因为代理已经做出的决策会影响未来的决策。

因此，据研究人员称，向专家解释推理链非常困难，与非专家交流时甚至更是如此。

观众们明白了青蛙蛙的目的，就是要使青蛙安全回家，而不会被行驶中的车辆撞到或淹死在河中。

向上，向下，向左或向右移动的简单游戏机制，使参与者可以查看AI所做的事情，并评估屏幕上的基本原理是否明确说明了该移动的合理性。

观众根据以下各项判断其合理性：

参与者排名较高的AI产生的理由是那些表现出对环境条件和适应性的认可，以及传达了对即将发生的危险的意识并为之计划的理由。

发现仅表明环境明显或特征错误的冗余信息具有负面影响。

Ehsan说：“该项目更多的是了解人类对这些AI系统的感知和偏好，而不是构建新技术。” “可解释性的核心是明智的决策。我们正在努力理解人为因素。”

第二项相关研究证实了研究人员决定设计其AI代理以提供两种截然不同的基本原理之一的决定：

在第二项研究中，仅在观看AI游戏Frogger之后，才向参与者提供AI生成的原理。他们被要求在AI犯错或表现异常的情况下选择他们想要的答案。他们不知道将这些原理分为两类。

以3比1的比例，参与者更喜欢归类为“完整图片”类别的答案。反馈显示，人们很欣赏AI对未来步骤的思考，而不是眼前的事，这可能会使他们更容易犯下另一个错误。人们还想了解更多，以便他们可以直接帮助AI解决错误的行为。

“对使用AI机器的人的看法和偏好的了解，为我们提供了一套强大的可行见解，可以帮助我们设计更好的以人为中心，产生理论的，自主的代理人，”交互计算与传播学教授Mark Riedl说。该项目的主要教员。

这项研究的未来可能方向将把发现应用于各种类型的自治代理，例如陪同代理，以及他们如何根据手头的任务做出反应。

研究人员还将研究代理商在不同情况下的反应方式，例如在紧急情况下或在教室中协助老师时。

该研究于3月在美国计算机协会的智能用户界面2019大会上进行了介绍。该论文的标题为“自动生成基本原理：可解释的AI及其对人类感知的影响的技术”。

Ehsan将在5月4日至9日在苏格兰格拉斯哥举行的ACM CHI 2019会议上即将举行的以人为中心的可解释AI系统的设计和评估挑战上发表立场论文，该研讨会即将在以人为中心的机器学习中出现。