2018人工智能变人工智障的十大瞬间
Synced最近对全年的人工智能十大“失败案例”进行了首次总结(2018 in Review： 10 AIFailures)。
AI人脸识别闯红灯 董明珠躺枪
董明珠在宁波“闯红灯”被抓?原来是在过马路时公交广告上董小姐的“大头照”太明显，一下子被闯红灯人脸识别系统捕捉到，竟然误以为是真人!董小姐人在家中，却在社交媒体上不幸躺枪成了“jaywalker”。
那辆巴士刚好被投放了印有董明珠头像的广告。当这辆巴士行驶在宁波中山东路，经过江夏桥东一带时，恰好从中间垂直方向穿过了一条亮着红灯的斑马线，而车身广告上董明珠的照片正脸刚好对准了一侧的红灯，如果是个真人的话，TA的确是在闯红灯。高大上的AI检测系统顿时变成“人工智障”，把照片当成了真人，直接把这辆公交车拍了下来，还锁定了车身上董明珠的照片，判定此人闯红灯。该系统还从数据库里搜索，把董明珠的车身广告照片和一行「***，在江夏桥东违法闯红灯」曝光到了大屏幕上。宁波交警事后回应称，技术人员已经对该系统进行了全面升级。
Uber自动驾驶汽车杀死一名行人
在公共道路上第一个已知的与车辆相关的自动驾驶行人死亡事件中，优步的自动驾驶SUV于3月28日在亚利桑那州的Tempe市撞倒了一名女性行人，致其当场死亡。
Uber发现其自动驾驶软件决定在汽车传感器检测到行人后却没有采取任何行动。根据美国国家运输安全委员会关于事故的初步报告，这是因为Uber的自动模式禁用了沃尔沃工厂安装的自动紧急制动系统。
在悲剧发生之后，Uber在北美城市暂停了自驾驾驶测试，而Nvidia和丰田也在美国停止了自驾车道路测试。事故发生8个月后，Uber宣布计划在匹兹堡恢复自驾车路试，尽管该公司的自驾车未来仍然不明朗。
IBM Watson医疗保健出现重大漏洞
BM最初是一个问答机器，一直在广泛的应用程序和流程(包括医疗保健)中探索Watson的AI功能。 2013年，IBM开发了Watson首个针对癌症治疗推荐的商业应用程序，该公司在过去五年中与医院和研究中心建立了许多重要的合作伙伴关系。但Watson AI Health并没有给医生留下深刻印象。一些人抱怨它对癌症治疗提出了错误的建议，可能会导致严重甚至致命的后果。
据报道，在没有显著进步的项目上花费数年后，IBM正在缩小Watson Health的规模并裁掉该部门员工的一半以上。
亚马逊AI招聘工具性别歧视
据报道，亚马逊人力资源部门在2014年至2017年期间使用了支持AI的招聘软件来帮助审核简历并提出建议。然而，该软件对男性申请人更有利，因为其模型是在过去十年中提交给亚马逊的简历上接受培训的，当时雇用了更多的男性候选人。
据报道，该软件降级了包含“女性”一词的简历，或暗示申请人是女性，例如因为他们曾就读过女子大学。亚马逊此后放弃了该软件。该公司并未否认使用该工具提出建议，但表示从未用于评估候选人。
DeepFakes将色情主角错认成《星战》Daisy Ridley
去年12月，Reddit网上出现了一些国际顶级女星——25岁《星战》女星黛丝烈尼(Daisy Ridley)的色情视频，原因竟然是是“DeepFakes”采用生成对抗网络，将明星的脸与色情视频中女性的脸进行了交换。
虽然面部交换技术已经开发多年，但DeepFakes的方法显示，任何拥有足够面部图像的人现在都可以制作他们自己非常有说服力的假视频。色请视频的创作者，就是将《星球大战》知名演员Daisy Ridley的脸与上面的色情女星交换了。
2018年，逼真的名人假视频依旧充斥着互联网。虽然这种方法在技术上并非“失败”，但其潜在的危险是严重而深远的：如果视频证据不再可信，这可能会进一步鼓励流传假新闻。
