人工智能已经取得了显著的进步，但事实上，刚刚起步的技术和有偏见的数据也不可避免地会产生人类未曾想到的错误。这就是为什么审查人工智能故障是必要和有意义的。

Synced最近对全年的人工智能十大“失败案例”进行了首次总结(2018 in Review: 10 AI Failures)。

AI人脸识别闯红灯“智障” 知名企业家董明珠躺枪

董明珠在宁波“闯红灯”被抓?原来是在过马路时公交广告上董小姐的“大头照”太明显，一下子被闯红灯人脸识别系统捕捉到，竟然误以为是真人!董小姐人在家中，却在社交媒体上不幸躺枪成了“jaywalker”。

那辆巴士刚好被投放了印有董明珠头像的广告。当这辆巴士行驶在宁波中山东路，经过江夏桥东一带时，恰好从中间垂直方向穿过了一条亮着红灯的斑马线，而车身广告上董明珠的照片正脸刚好对准了一侧的红灯，如果是个真人的话，TA的确是在闯红灯。高大上的AI检测系统顿时变成“人工智障”，把照片当成了真人，直接把这辆公交车拍了下来，还锁定了车身上董明珠的照片，判定此人闯红灯。该系统还从数据库里搜索，把董明珠的车身广告照片和一行「***，在江夏桥东违法闯红灯」曝光到了大屏幕上。宁波交警事后回应称，技术人员已经对该系统进行了全面升级。

CloudWalk深度学习研究员Zhou Xiang告诉Synced，问题可能出在算法缺乏实时检测上。“在这个距离进行现场探测是一项具有挑战性的工作，虽然将图像识别为真人现在非常普遍。”

Uber自动驾驶汽车杀死了一名行人

在公共道路上第一个已知的与车辆相关的自动驾驶行人死亡事件中，优步的自动驾驶SUV于3月28日在亚利桑那州的Tempe市撞倒了一名女性行人，致其当场死亡。

Uber发现其自动驾驶软件决定在汽车传感器检测到行人后却没有采取任何行动。根据美国国家运输安全委员会关于事故的初步报告，这是因为Uber的自动模式禁用了沃尔沃工厂安装的自动紧急制动系统。

在悲剧发生之后，Uber在北美城市暂停了自驾驾驶测试，而Nvidia和丰田也在美国停止了自驾车道路测试。事故发生8个月后，Uber宣布计划在匹兹堡恢复自驾车路试，尽管该公司的自驾车未来仍然不明朗。

　　IBM Watson医疗保健出现重大漏洞

根据Stat获得的内部文件，佛罗里达州Jupiter医院的一名医生评论IBM的旗舰人工智能程序Watson时写道，“这个产品很糟糕，简直就是一坨屎。”IBM最初是一个问答机器，一直在广泛的应用程序和流程(包括医疗保健)中探索Watson的AI功能。 2013年，IBM开发了Watson首个针对癌症治疗推荐的商业应用程序，该公司在过去五年中与医院和研究中心建立了许多重要的合作伙伴关系。但Watson AI Health并没有给医生留下深刻印象。一些人抱怨它对癌症治疗提出了错误的建议，可能会导致严重甚至致命的后果。

据报道，在没有显著进步的项目上花费数年后，IBM正在缩小Watson Health的规模并裁掉该部门员工的一半以上。

　　亚马逊AI招聘工具“性别歧视”明显

据报道，亚马逊人力资源部门在2014年至2017年期间使用了支持AI的招聘软件来帮助审核简历并提出建议。然而，该软件对男性申请人更有利，因为其模型是在过去十年中提交给亚马逊的简历上接受培训的，当时雇用了更多的男性候选人。

据报道，该软件降级了包含“女性”一词的简历，或暗示申请人是女性，例如因为他们曾就读过女子大学。亚马逊此后放弃了该软件。该公司并未否认使用该工具提出建议，但表示从未用于评估候选人。

　　DeepFakes将色情主角错认成《星战》Daisy Ridley

去年12月，Reddit网上出现了一些国际顶级女星——25岁《星战》女星黛丝烈尼(Daisy Ridley)的色情视频，原因竟然是是“DeepFakes”采用生成对抗网络，将明星的脸与色情视频中女性的脸进行了交换。

虽然面部交换技术已经开发多年，但DeepFakes的方法显示，任何拥有足够面部图像的人现在都可以制作他们自己非常有说服力的假视频。色请视频的创作者，就是将《星球大战》知名演员Daisy Ridley的脸与上面的色情女星交换了。

2018年，逼真的名人假视频依旧充斥着互联网。虽然这种方法在技术上并非“失败”，但其潜在的危险是严重而深远的：如果视频证据不再可信，这可能会进一步鼓励流传假新闻。

Google Photo出现了bug

Google相册包含一个相对未知的AI功能，可以自动检测具有相同背景/场景的图像，并将它们合并为单个全景图片。 1月份，Reddit用户“MalletsDarker”在滑雪场拍摄了三张照片：两张是风景照，另一张是他朋友的照片。当谷歌照片合并这三个时，发生了一件奇怪的事情，因为他的朋友的脑袋被渲染成一个从森林中窥视出来的尖峰巨人。尴尬作死瞬间如图：

这张照片使得r/funny subreddit排名前十，并获得了202k的赞成票。社交媒体称赞谷歌算法巧妙地混合了图像，同时嘲笑它在构图基础方面的愚蠢。

LG机器人Cloi在揭幕仪式上“傻掉”

1月8日应该是LG的IoT AI助手Cloi在拉斯维加斯举行的2018年国际消费电子展上首次亮相的那一天。 Cloi被呈现为一个简单而愉快的界面，能够识别控制家用电器的语音命令。然而，当可爱的机器人走上舞台进行现场演示时，观众正在观看和等待，一直等待……因为它未能回应LG市场营销主管的命令，只产生尴尬的沉默。

　波士顿动力学机器人blooper

SoftBank拥有的机器人制造商波士顿动力公司今年不止一次为互联网赢得了惊喜：它的机器人SpotMini可以灵巧地用头戴式抓手臂打开门;它的人形机器人阿特拉斯现在可以做“跑酷”了——顺利跳过原木，跳跃一系列40厘米的步骤而不会停下步伐。

但即使是波士顿动力公司也有其不小心“哎呀”的时刻：在未来科学家和技术专家大会上首次亮相时，阿特拉斯在一个完美的演示中举起了盒子等。但正当表演结束准备离开时，这个可怜的机器人绊倒在窗帘上，笨拙地从舞台上摔下来。不过，它摔倒的样子倒也挺像人类的。

　2018年AI对世界杯的预测几乎都是错误的

2018年世界杯是一年中最重要的体育赛事，高盛、德国多特蒙德技术大学、Electronic Arts、彼尔姆国立研究大学和其他机构的人工智能研究人员运行了机器学习模型，来预测多阶段比赛的结果。然而大多数都是完全错误的，只有EA——使用其视频游戏FIFA 18的新评级进行模拟——正确地支持了胜利者法国。EA游戏引擎以众多机器学习技术为后盾，旨在使玩家的表现尽可能逼真。

SQL服务数据科学家Nick Burns提供了一个解释：“无论你的模型有多好，它们都只是和你的数据一样好……最近的足球数据还不足以预测世界杯的表现。缺少信息和未定义的影响太多了。”

Startup声称可以从面部扫描预测智商

以色列机器学习初创公司Faception提出了有争议的说法，即其人工智能技术可以分析面部图像和骨骼结构，以揭示人们的智商，个性，甚至是暴力倾向。数据科学家Ben Snyder在Twitter上斥责该公司的技术：“那是颅相学。你只是把ML当作一个种族主义的背锅侠。“这条推文收到了超过6,500次转推送和近17,000个点赞。

【来源：前瞻网】