让AI与人类的价值观保持一致

乎已经在各个主要领域达到与人类智能相近、甚至更高的水平，但又总是在最核心的范畴内有所欠缺。正是这种欠缺，导致AI技术无法成为我们所期望的、真正拥有更改及行事逻辑的智能主体。

程序员兼研究员Brian Christian在最新著作《机器学习与人类价值观之间的一致性问题》(The Alignment Problem: Machine Learning and Human Value)当中，讨论了我们该怎样确保AI模型能够捕捉到“我们的规范与价值观，理解我们的意思或意图，并据此做出优先级判断”这一现实挑战。近年来，随着机器学习应用范围的逐步推广，在实际领域中做出错误决策很可能带来灾难性的后果。正是这样的背景，让Christian提出的问题变得愈发紧迫。

根据Christian所述，“随着机器学习系统的日益普及与功能的逐步增强，我们开始变得像「新手巫师」——我们掌握着一种具有自主性的力量，我们似乎可以用指令引导这种力量，但如果指示不够准确或不够完整，就有可能引发某些可怕且超出意料的后果。”

在书中，Christian全面描述了人工智能的现状以及整个发展历程，同时探讨了现有AI创建方法的种种缺陷。

下面来看书中的几大要点。

机器学习：将输入映射至输出

在AI研究的前几十年中，符号系统在解决以往涉及逻辑推理的复杂问题时，取得了举世瞩目的成就。然而，这类系统反而很难解决人类儿童就能处理的小问题——例如检测物体、识别人脸、理解声音与语音。此外，这类系统的可扩展性也比较差，往往需要大量人工介入以建立明确的规则与知识定义。

最近，全世界对机器学习与深度学习的关注开始快速增长，同时也推动着计算机视觉、语音识别与自然语言处理等领域(传统符号AI无法处理的领域)的迅猛发展。机器学习算法可以跟随数据量与计算资源同步扩展，借此带来了人工智能的黄金十年。

但问题在于，机器学习算法的效果虽然相当突出，但本质却仍然简陋——将观察结果通过复杂的数学函数与结果映射起来。因此，机器学习的质量将直接由数据质量决定，而且会在实际应用并接触到与训练数据不符的真实素材时，产生严重的性能下降。

在书中，Christian列举了一系列实例，阐述机器学习算法遭遇的各种尴尬、甚至具有危害性的破坏。以Google Photos分类算法为例，该算法会将皮肤黝黑的人标记为大猩猩。问题不在算法本身，而在于所使用的训练数据。如果谷歌能够在数据集中纳入更多皮肤黝黑的素材，完全可以避免这个问题。

Christian写道，“当然，从理论上讲，这类系统可以从一组示例中学到任何知识。但这也意味着AI系统的理解方式完全受示例左右。”

更糟糕的是，机器学习模型无法分辨对错，也无法做出道德决策。机器学习模型的训练数据中存在的任何问题，通常都会以极细微、甚至根本无法察觉的方式反映在模型行为当中。例如，Amazon于2018年关闭了用于做出雇用决策的机器学习工具，因为其决策结果明显歧视女性。很明显，AI的创造者并不希望根据性别来选择候选人，但由于模型训练使用的数据来自Amazon公司的过往记录，因此反映出了其用人方面的某些倾向。

这还只是机器学习模型偏见问题中的冰山一角。正是由于存在这些问题，由于机器学习模型会盲目根据我们以往的行为总结经验，才让我们无法充分信任这类工具。

（编辑：通化站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!