更透明的AI与视觉分析

人工智能(AI)提供了挖掘大数据的工具。无论它在哪里应用,它都有助于人们的工作和生活更容易。但用户必须能够理解并控制人工智能的工作方式和决策依据。为了确保这一点,刘仁博士正在探索一种名为视觉分析的方法。任领导一个团队博世博世专家的研究和技术中心在硅谷。作为智能人机交互(HMI)技术和系统的首席科学家,他的工作是探索人类智能和机器智能如何结合。机器会犯错,人类也会犯错。可视化分析有助于避免错误,”任正非说。在一次采访中,刘仁解释了它是如何工作的。

什么是视觉分析?

人工智能辅助视觉分析,简称AiVA,是对人工智能推理的探索。它帮助我们理解人工智能系统是如何到达决策以及如何改进决策过程。这有三个阶段。首先,对来自人工智能系统的数据进行处理,使其能够被人类理解。在下一步中,数据是可视化的。最后,通过最少的交互,人们可以利用这些可视化信息来指导和优化AI系统。

这有什么意义?

人工智能算法通常就像一个黑盒子。他们炮制出一个结果,但我们不知道他们是怎么做到的。这可能会引发一些问题,比如在自动化招聘流程或信贷审批等情况下,决策是否真正公正。可视化分析可以通过提供决策过程的透明画面来减轻这些疑虑。看到的是理解!

你能举个例子吗?

让我们以博世自动驾驶功能测试团队开发的系统为例。当涉及到图像识别时,这些汽车依赖人工智能。但他们也必须应对我们所说的“极端情况”。这些很少发生的情况下,几种不同寻常的条件汇集-例如,当一辆汽车在恶劣的天气以一定的角度面对红绿灯。在这些条件下,系统需要什么来区分红灯?Visual Analytics帮助检测盲点,补充数据,并提高整个系统的准确性。

当它检测到这些缺点之一时会发生什么?

我们的视觉分析方法使用了第二个AI自动填补数据的空白。这个过程是透明的,涉及到人类的互动。通过这种方式,第一种人工智能的缺点得到了弥补。

第二个人工智能是如何产生这些数据的?

它利用了一种叫做表征学习的方法。以我们的红绿灯为例:基于训练数据,第二个人工智能学习了一种表示,这样每个红绿灯就可以被分为大约12种情况及其变体,所有这些都很容易理解。为了使我们的示例简单,我们将坚持使用四个变体——交通灯的颜色、信号灯中的符号、背景和它指向的方向。这四个有代表性的类别可以用来描述每一个红绿灯。这就是第二个人工智能如何分类训练数据,识别和分类与交通灯检测器相关的错误案例,第一个人工智能。在拐角的情况下,第二个AI也可以有效地生成新的训练数据,以进一步提高我们的红绿灯识别器的性能,基于四类和人工输入。

人们是从哪里来的呢?

可视化数据的方式允许人们立即发现错误。人们可以通过将它们与学习的表示将它们与学习的表示相关联,轻松分析这些案例,并针对AI的培训数据中的差距来确定差距。在第二步中,系统要么生成新数据,要么提供关于如何收集真实数据以填充这些空隙的指导。这样,人员和机器共同努力增加我们的AI系统的性能。

博世还在哪些地方使用视觉分析?

最近开发的一种名为张量分区流(Tensor Partition Flow,简称TPFlow)的算法允许零售商分析客户流量数据。城市交通流可以更好地检测,从而使拼车服务得到合理分配,并最大限度地利用可用容量。TPFlow在2018年IEEE可视化会议(大数据和视觉分析的领先会议)上获得了最佳论文奖。我们还因发现工业4.0生产线瓶颈的解决方案而获奖。在这里,我们与博世人工智能中心密切合作,使大规模推出成为可能。

工业4.0 AI应用

未来的可视化分析应用程序能做什么?

他们的目标仍然是理解AI的黑盒。没有这种理解,人们将无法建立对人工智能的信任——这种信任将是未来互联世界的关键品质特征。这就是我们博世希望开发安全、健壮、可解释的人工智能产品的原因。我坚信视觉分析方法将继续在这里发挥关键作用。

刘仁博士是硅谷博世研究技术中心的副总裁和首席科学家,负责智能人机交互技术和系统。他也是全球主管,负责监督人工智能的人机合作项目,研究团队位于美国硅谷和匹兹堡,以及德国的Renningen。他在卡内基梅隆大学获得计算机科学博士和硕士学位。他还获得了浙江大学计算机科学学士学位。

更多信息:www.bosch.com

主页链接