AI联结的社会（人工智能网络化时代的伦理与法律）（精）

作者简介

内容简介

AI网络时代的刑事法律 立教大学研究生院法务研究科教授 深町晋也 情景设定 事例1 自动驾驶汽车与过失犯 X1购买了由汽车公司Y1所制造、贩卖的自 动驾驶汽车（第3级），下雨天的时候普通公路 上以自动驾驶模式、每小时40公里的速度行驶。 在X1没有注视前方的时候，走在道路左侧人行道 上的小孩A，松开了父母的手进入了机动车道。 自动驾驶汽车执行紧急应对措施，切换成驾驶员 手动模式，但是由于X1没有注视前方，导致其瞬 间的反应不够及时，来不及紧急制动。这时X1向 右打方向盘，想要避免撞到A，但此时后方有一 辆摩托车超速行驶而来，自动驾驶汽车没能避开 与摩托车的碰撞，最后导致摩托车翻车，驾驶摩 托车的B死亡。 事例2 AI的刑事责任与保护生存权之间的 两难境况 X2购买了由汽车公司Y2所制造、售卖的自 动驾驶汽车（第4级或者第5级），在普通公路上 以40公里的时速行驶。本案中的自动驾驶汽车装 有防冲撞系统，可以通过紧急制动避免冲撞，在 判断已经来不及紧急制动的情况下，其设计是向 左右打方向盘来避免冲撞。但如果是在即便采取 了这样的紧急措施也无法避免冲撞的情况下，比 如说如果紧急制动的话会与后面的车辆冲撞、向 左打方向盘的话会与行人冲撞，向右打方向盘的 话会与后方驶来的摩托车冲撞的情况下，则会采 取使受害人减少到最低的措施。X2在单行道上行 驶，前方一辆迎面驶来的汽车冲向X2，因此本案 中的自动驾驶汽车就只能向左或者向右打方向盘 ，但是左侧人行道上有一位行人C，右侧的人行 道上有一小群人正站着说话，因此本案中的自动 驾驶汽车选择向左打方向盘，虽然避免了与前方 车辆的冲撞，但是却碾过了C导致其死亡。 一引言 在AI网络时代，短期问题、中期问题和长 期问题的主题可能会是不同的。因此需要在刑事 法中思考的问题也与多个话题相关。比如说，某 些人出于恶意，在AI中装入令其失控暴走的程序 漏洞（bug），或者对其进行黑客攻击，这样的 事例会给AI网络带来严重威胁。对世界各国来讲 这都是一个重要问题。比如说，德国在2014年网 络犯罪相关报告书中，指出了IoT存在的问题， 称不仅仅是智能手机，智能家电等设备也有被恶 意操控的危险性，为我们敲响了警钟。但是，本 文将不涉及这些出于主观意图的黑客攻击等问题 。本文所探讨的对象是，AI网络虽然以社会利益 最大化为目的，但却不是由于有意的攻击，而是