评论
谁更强，勒布朗·詹姆斯还是斯蒂芬·库里？哪个国家更强大，美国还是中国？现代 AI 相比于人类有多先进？在上述这三个荒谬的问题中，哪个显得最不明确？尽管如此，我们常常将复杂、多面的议题讨论得好像它们可以简化为单一的标量量。
在过去几年里，现代 AI 技术取得了巨大进展，实现了许多传统上与人类智能相关的成就。特别是，使用深度神经网络的机器学习系统现在可以进行人类水平的语音识别和转录。它们还能为图像添加标签，用合理的自然语言描述它们。就在几个月前，一个将强化学习与深度学习相结合的系统击败了人类在围棋比赛中，这一直被认为是最难以匹敌人类能力的棋类游戏。
在这些成功的背后，人们很容易将 AI 的进展视为一个单一的整体，认为它在所有领域都在均等发展。如果我们只关注监督学习和用于游戏的强化学习，这似乎是可信的。但在接受 AI 单一主义的魔法思维之前，我们应该稍作停顿。尽管一些流行的未来主义者提出了不同的观点，AI 的进展并不会在所有方向上均匀进行，尽管每次计算成本在下降。相反，我们在某些问题类别上取得了快速进展，而在其他问题上则停滞不前。我们的成功来自于那些目标容易且无争议地量化的问题。其他目标更模糊的问题，如个人助手、对话代理、医疗决策等，在向人类能力的进展上相对较少。
哪些问题很难？
人工智能/机器学习研究历史中的一个反复出现的主题是，我们很难确定人类智能的哪个方面是值得注意的。三十年前，许多人认为击败国际象棋大师将构成比匹敌高中生的认知能力更伟大的智能成就。然而，尽管现任冠军马格努斯·卡尔森无法抵挡运行树搜索的 Macbook Pro，但现代对话机器人却无法匹敌一个普通 10 岁孩子的对话能力。也许，我们对各种类型智能的价值观根植于经济思维中。在其他条件相同的情况下，稀缺技能似乎更有价值。国际象棋冠军可能看起来比社交名流更具智能，仅仅因为他们的数量更少。
机器学习问题可能因多种原因而复杂。大多数公开的人工智能处理的是结构良好的模式匹配问题。这些问题包括图像分类等监督学习问题，或像下棋、围棋或玩 Atari 等强化学习问题。这些问题的难度因训练数据的稀缺、行动空间或类别的多样性，或需要学习的模式尤其复杂（如原始音频或视频数据）而有所不同。在这些方面，机器学习研究已经取得了相当大的进展。
然而，机器学习问题也可能因另一个被忽视的原因而变得困难。对于许多我们可能想要引入人工智能代理的场景，这些问题并不是结构良好的。也就是说，优化的目标并不明显。
几乎所有的机器学习任务都涉及某种形式的优化。对于图像分类，我们的目标是最大化正确分类的图像比例。对于语言翻译，我们的目标是输出一个与一组真实候选翻译高度一致的字符串。对于像国际象棋或围棋这样的游戏，我们的目标就是赢。简而言之，监督学习和强化学习都假定存在一个先验的标量量，其最大化等同于成功。
但对于许多我们可能想要插入人工智能代理的现实世界场景，目前没有人能明确目标函数应该是什么。例如，医生的确切目标是什么？我们如何将医疗专业人员的成功提炼为一个随着结果显现而发放的单一奖励？我们如何准确衡量生活质量？肢体与寿命之间的权衡是什么？医生应该如何权衡收入与病人健康（如果生命的价值是无限的，那么所有患者都应该免费就诊）。有时，医生的目标函数可能因患者的偏好而有所不同。人类医生会不断地隐性评估这些权衡，但在我们学会确认目标之前，现有的人工智能可能仍然局限于更孤立的、低层次的模式识别问题。
类似地，对话中的标量量优化是什么？是否仅仅是最大化互动？如果通过恶搞来最大化互动呢？目标是友善吗？提供信息吗？建立持久关系吗？是否应该对不友好的行为施加惩罚？如果是，那么如何量化这种惩罚？
尽管我们在模式识别上取得了显著进展，在监督学习和强化学习中的困难问题上也有所突破，但我们整个学习范式仍需要预先确定的明确目标。然而，对于我们设想中的“强 AI”或类人智能的复杂环境来说，确定这些目标却是一个巨大的障碍。
此外，正是这些无争议的成功指标（测试集准确率、棋类评分等）推动了该领域的进展。与其他因主观性而受阻的领域不同，机器学习受益于这些指标所赋予的客观性。如果目标定义模糊，社区如何才能实现对更一般 AI 的同样和谐的进展？
机器学习已进入黄金时代。它在智力上令人着迷，在经济上影响深远。随着进展似乎稳定地推进，人们很容易将其视为向超智能的单向推进，这种智能在所有领域都与人类能力匹敌或超越。然而，我们可能会记住我们在识别我们智能中具体有趣、有价值或难以复制的方面的糟糕记录。也许正是我们在目标定义模糊的情况下有效操作的能力最为显著——这是机器学习尚未取得显著进展的领域。
扎克里·蔡斯·利普顿 是加州大学圣地亚哥分校计算机科学工程系的博士生。在生物医学信息学系资助下，他对机器学习的理论基础和应用均感兴趣。除了在 UCSD 的工作外，他还曾在微软研究院和亚马逊担任机器学习科学家，并在 KDnuggets 担任贡献编辑。
相关：
-
深度学习来自魔鬼吗？
-
MetaMind 与 IBM Watson Analytics 和 Microsoft Azure Machine Learning 竞争
-
深度学习与经验主义的胜利
-
模型可解释性的神话
-
(深度学习的深层缺陷)的深层缺陷
-
数据科学中最常用、最混乱和最滥用的术语
1. 谷歌网络安全证书 - 快速进入网络安全职业的捷径。
2. 谷歌数据分析专业证书 - 提升你的数据分析能力
3. 谷歌 IT 支持专业证书 - 支持你的组织 IT 工作