爱犯错的智能体

作者简介

张*平，复旦大学计算机科学技术学院，教授、博士生导师。主要研究方向是人工智能、机器学习、图像处理、生物认证及智能交通。曾于2007.9-2008.3年作为访问学者访问加州大学圣地亚哥分校，2014.8-2015.8年作为Research Associate*聘于宾夕法尼亚州立大学工作一年。曾主持3个**自然科学基金、“863”项目和浦江人才计划项目。目前主持2018科技部重点专项“人-机器人智能融合技术”子课题和**自然科学基金面上项目。中国自动化学会混合智能专业委员会副主任，中国计算机学会人工智能专业委员会委员，中国人工智能学会机器学习专业委员会**。发表100余篇人工智能相关的高质量论文。包括IEEE TPAMI、TNNLS、ToC、TAC、TITS、TVCG等**期刊和ICML、AAAI、ECCV等**会议。

内容简介

看不见的萨摩耶 “我家附近曾经有只白色的萨摩耶，大约 12 岁，挺安静温顺的，基本不怎么吠叫。听说主人身体不好，行动不便，于是就放任其在外乱逛。它虽然个头不小，马路什么都过得好好的，就这么自顾自地生活着。可某天它过人行横道的时候，一辆左转的车辆速度和它过马路的速度一致，导致它进入了驾驶员的 A 柱盲区。等萨摩耶反应过来时，车已经对着它冲了过来，左前轮压了一次，左后轮又压了一次……它躺在车后，无助地颤抖着、哀号着。两旁的行人默默地看着它。车主坐在车里，没开窗没下车，不知道是何反应。过了一会儿，狗用力翻身站了起来，摇摇晃晃走起来了，准备回家。观望的行人们都松了一口气，有人笑了，说狗没事了。车主见状，赶紧一溜烟开车跑了。可是，狗走了不到 200 米，便慢了下来，实在是走不动了，满嘴的鲜血。于是，它便安静地躺在人行道上，还像平*逛街一样，一声不吭……希望它下辈子，不要走得这么凄惨。” 作为智能体，人的视觉和机器视觉是存在区别的。其中一个**特别的区别是，人会根据情况或上下文有意无意地忽略眼中看到的目标。 1999 年两位**心理学专家克里斯托弗？F. 查布里斯（Christopher F.Chabris）和丹尼尔？J. 西蒙斯（Daniel J. Simons）曾做过一次“看不见的大猩猩”的实验 a。因为这个传说中心理学***强大的“大猩猩实验”，两人荣获了 2004 年的“搞笑诺贝尔奖”。在播放的视频中，有几个人一起打篮球，在投篮的过程中还会有一只人扮演的大猩猩从右向左走过，并在视频的中间位置稍作停留。而测试者观看视频时，给他们分配的任务是统计打篮球的人投篮命中的次数。当视频播放完，测试者报告的进球数基本都是准确的。可是，当问他们，有没有注意到视频中有只人扮的大猩猩从视频中走过时，却有不少人没能回想起来。类似的实验，英国赫特神德大学的心理学怪才、理查德？威斯曼（Richard Wiseman）教授也做过，叫变色纸牌游戏（The colour changing card trick）b。他和一位女助手一起在摄像机前表演玩牌的魔术。表演的过程中，身上的衣服、背景、桌布都被换掉了。但由于有多台摄像机的切换，人的关注焦点一直被诱导，结果观测者只注意了两位“魔术师”手中扑克牌的变化，而压根没发现视频中换掉的物品。 如果利用人工智能算法来跟踪并区分变化的目标，会很轻松发现其中的区别。因为计算机在检测目标时，会计算像素位置上的光的强度变化。所以，当视频中出现大猩猩，或者变换桌布、背景、衣服时，都意味着视频中帧与帧之间出现了大面积像素的强度变化。这种变化，很容易超过图像变化程度的阈值，导致被人工智能算法检测和发现。值得指出的是，检 测这类变化也是现在做视频摘要、视频关键内容提取的基本手段之一。 反观人类，却容易出现忽略目标的情况。其原因在于，当人关注某个目标时，目标将成像于视网膜的焦点即中央凹区域，而目标周围的内容则分布在中央凹的周边，由视杆细胞来负责感知。而视杆细胞主要负责运动，对具体细节不敏感。所以，在这一前提下，大猩猩就被大脑视觉中枢视为没有多大意义的像素点运动，甚至被篮球的运动所掩盖。换衣服、桌布等也是类似的原因。 除此以外，也许是因为人类其实是一种能偷懒就会偷懒的智能体。如果能够在不经过缜密思维就能保证大部分判断成功的话，人类会倾向于优先采用*简易的判断，而不是进行过多的细致分析。就像平时走路一样，我们也没有像机器人一样去区分路面的高低差异、纹理差异、光强差异，但却能**有效和快速地形成决策。即使存在例外，那也是极个别的情况。 这种现象，在*常生活中，则有可能带来潜在的危险。比如交通中，在一个平时很少有行人经过而车辆较多的十字路口，驾驶员的关注焦点往往是行驶的汽车，其目的以避让汽车为主。在成年人经常走过的人行横道附近，则驾驶员的关注视角会以成人为主。**个例子可能导致的危险是，如果某天突然出现非机动车或行人时，司机会注意不到，不容易形成应急反应；第二种情况则可能会导致对矮小目标（如儿童）的忽视。 这种危险能避免吗？有心理学家指出，如果关注的焦点不变，这样的定式或习惯性思维会一直存在，且很难避免。结果，当驾驶员发现危险来临时，已经缺乏足够的反应时间，极易发生交通事故，造成不必要的人员伤亡 [9]。 \"★中科院陆汝钤院士作序**。 ★《机器学习》作者周志华教授、中科院王飞跃教授、复旦大学严锋教授联合**。 ★从开脑到烧脑的科普：有诗、有歌、有画、有乡愁，不乏幽默的人工智能科普。 ★霍金说过，科普书每多一个数学公式，书的销量将减少一半。 ★这本书没公式。 \"