原标题:前沿 | 结合感知和概念思维，DeepMind提出可微归纳逻辑框架?ILP
最近，DeepMind 在 JAIR 上发表论文《Learning Explanatory Rules from Noisy Data》，表明将直观感知思维和概念可解释性推理思维整合到单个系统中是可能的。他们介绍的系统?ILP 对噪声数据具备鲁棒性，且可以高效地利用数据，并生成可解释的规则。
假设你在踢足球，足球到了你脚下，你决定把球传给无人盯防的前锋。看似一个简单的动作其实需要两种不同类型的思维。
首先，你识别到脚下有一颗足球，这需要直观感知思维，你无法清晰地表达你是如何知道脚下有一颗足球的，你只是看到它就在那里。其次，你决定将球传给某个前锋，这个决定需要概念性思维。你的决策是有依据的，你把球传给那个前锋是因为她没有被盯防。
这种区别很有意思，因为这两种类型的思维对应两种不同的机器学习方法：深度学习和符号程序合成（symbolic program synthesis）。深度学习聚焦于直观感知思维，而符号程序合成聚焦于概念性的、基于规则的思维。每个系统有不同的指标，深度学习系统对带噪数据具备鲁棒性，但其工作原理难以解释，且需要大量训练数据；而符号系统更容易解释，只需要少量的训练数据，但难以处理带噪数据。虽然人类感知能力可以无缝结合这两种思维方式，但如何将二者整合到 AI 系统中，尚无清晰的结论。
最近，DeepMind 在 JAIR 上发表论文《Learning Explanatory Rules from Noisy Data》，表明将直观感知思维和概念可解释性推理思维整合到单个系统中是可能的。他们所描述的系统?ILP 对噪声是鲁棒的，可以高效地利用数据，并生成可解释的规则。
作者展示了?ILP 如何处理归纳任务。给定一对表示数字的图像，其任务是输出标签（0 或 1）指出左图的数字是否比右图的数字小。解决这个问题需要上述的两种思维：直观感知思维将图像识别为特定数字的表征，概念性思维理解完全一般性的「小于」关系。
给标准的深度学习模型（如带 MLP 的卷积神经网络）提供足够的训练数据，它可以有效地解决这个任务。一旦网络经过了训练，你就可以向网络输入一对它未见过的图像，网络可以正确地对其分类。然而，只有用每对数字的多个样本进行训练，网络才能正确地泛化。这种模型的视觉泛化能力很好：泛化到新的图像上，假定它已经见过测试集中的所有数字对（参见下图中的绿框部分）。但它无法进行符号泛化：泛化到它从未见过的数字对（参见下图中的蓝框）。Gary Marcus 和 Joel Grus 近日通过发人深省的文章指出了这一点。
?ILP 和标准的神经网络不同，它可以进行符号泛化；?ILP 也和标准的符号程序不同，它可以进行视觉泛化。它从可读取、可解释和可验证的样本中学习显式的程序。向?ILP 提供部分样本集（期望结果），它可以生成一个满足需求的程序。它利用梯度下降来搜索程序空间。如果程序的输出和参考数据的期望结果相冲突，系统将修正程序以更好地匹配数据。
?ILP 能够进行符号泛化。在它见过足够的 x < y、y < z、x < z 样本之后，它就会考虑 < 关系可传递的可能性。一旦它意识到这条泛化规则后，就可以将其应用到未见过的新的数字对。
DeepMind 认为该系统可以初步回答深度神经网络能否进行符号泛化的问题。未来，DeepMind 计划将?ILP 类系统整合进强化学习智能体和更大的深度学习模块。DeepMind 希望其系统可以同时具备推断和反应的能力。