它们的结果看似复杂，但也可能会被愚弄，从相对无害地误认一种动物为另一种动物，到在误导停车标志的网络中引导自动驾驶汽车，以表明停车的潜在危险。标志是安全的。进行中。休斯敦大学的一位哲学家在《自然机器智能》上发表的一篇论文中暗示，关于这些假定故障背后原因的一般假设可能是错误的，并且该信息对于评估这些网络的可靠性至关重要。随着机器学习和其他形式的人工智能越来越深入地融入社会，从ATM到网络安全系统，它们都有广泛的用途。 UH的哲学副教授卡梅伦·巴克纳（Cameron Buckner）说，了解造成明显现象的原因是至关重要的。研究人员将其称为“对抗示例”，这意味着当深度神经网络系统遇到除用于构建网络的训练输入之外的信息时，它将错误判断图像或其他数据。它们是罕见的，被称为“对抗性的”。因为它们通常是由另一个机器学习网络（机器学习领域中的一项前沿技术）创建或发现的，所以它们之间是创建复杂示例的更复杂方法与检测和避免之间的更复杂方法。巴克纳说：“其中一些对抗性事件可能是文物。为了更好地理解这些网络的可靠性，我们需要更好地了解它们是什么。换句话说，愤怒可能是由网络引起的。它是由要处理的内容和所涉及的实际模式之间的相互作用引起的。这与完全被误解并不完全相同。 Buckner写道：“了解对抗性示例的含义需要探索第三种可能性：至少某些模式是人工制品。” “...。因此，目前有简单地丢弃这些模式的成本，并且它们也很幼稚。危险。”导致这些机器学习系统出错的对抗事件不一定是故意的渎职行为造成的，但这是最高的风险所在。 Buckner说：“这意味着恶意行为者可能欺骗依赖于其他可靠网络的系统。” “有安全应用程序。”