在过去的一年中，人工智能技术正在复兴。自动驾驶，语音识别和成为Go大师的AlphaGo都反映了人工智能的快速发展。但是，我们还应该注意，人工智能可能存在问题。我们需要从中学到东西，避免将来再犯更多的错误。最近，路易斯维尔大学信息安全实验室主任Roman Yampolskiy在一篇论文中总结了人工智能的失败。这些问题与“由人工智能系统的设计引起的问题”直接相关。 ;。贾博尔斯基说，这些问题可以归因于人工智能系统学习或应用阶段的错误。根据Jaborsky和许多其他专家的介绍，TechRepulice网站总结了2016年十大人工智能故障。 Northpointe开发了一种人工智能系统，可以预测拥有犯罪记录的罪犯再次犯罪的可能性。这被认为是种族歧视：该系统通常认为黑人罪犯再次犯罪的风险较高。另一家名为ProPublica的媒体评论说，无论罪犯是哪个种族，Northpointe的软件“通常都无法获得有效的预测”。如图2所示，视频游戏中的NPC创建了一种破坏原始计划的武器。今年6月，在名为“精英：危险”的视频游戏中发生了意外事件。人工智能在游戏中开发了超级武器，突破了游戏设计。根据游戏网站的报告，“玩家被卷入战斗，对手的飞船配备了可笑的武器，会把玩家撕成碎片”。然后，游戏开发人员将这些武器脱机。 3.机器人意外伤害了一个孩子。今年7月，由Knightscope平台开发的“犯罪机器人”在硅谷的一家购物中心撞到了一个16个月大的孩子。根据《洛杉矶时报》的报道，该公司表示这是“奇怪的事故”。