20世纪90年代以来，机器学习快速发展，其研究范围包括：基于解释的学习、神经模型学习、计算学习理论、基于事例的学习、发现系统以及各种机器学习的应用。面对如此多样化的研究发展现状，迫切需要一套规范的理论体制，对现有的机器学习方式和方法进行分类、描述、比较，使之综合发展。机器学习的先驱者之一、美国机器学习专家R.S.迈克尔斯基（Ryszard S.Mickalski）提出学习的推理理论，用抽象的知识变形算子分析、解释各种不同的学习方法和学习系统。这种描述方法不依赖具体实施细节，不拘泥于具体的形式，而是直接着眼于学习方法的能力研究。

学习的推理理论既适用于符号性学习，又适用于非符号性学习。提出3个论点：①从推理中学习。认为可以将学习看成为满足既定学习目的而在知识空间中探索和获取知识的过程，这是一个涉及各种形式推理与记忆方法的不断循环的过程。在每一个循环中，系统从输入信息和基础知识中提取新的知识和表达式。凡获取的知识满足学习目的，则将其存入知识库，使之成为基础知识的一部分。输入的信息可以是观测数据、事实、具体概念、抽象概念、知识结构以及有关知识真实性的信息，均且来自学习环境或是教师。总之，学习就是根据输入信息和基础知识进行推理，然后设法记住有用的知识，这可以概括为：学习=推理+记忆。这里的推理是广义的，包括对知识的转换、加工或删除，以及传送到不同的地方等。②变形作为学习算子。认为任何学习过程都是一个在知识空间中探索的过程。这种探索是由一连串的知识变形算子完成的。对系统的某部分基础知识及输入信息，每使用一次算子，都能促成另一种知识的形成。③在学习过程的各种不同的分类标准中，最为关键的是学习目的。据此，学习的推理理论给出一个独特的分类方法。认为学习过程首先应被分成综合性的与分析性的两大类。综合性学习的主要目标是获取新知识；分析性学习的主要目标是变换已有知识的形式，使之更有效率。其他的重要分类标准有：输入信息的类型、学习中用到的主要推理类型以及系统现有基础知识的作用。

学习的推理理论注意从何种输入信息和基础知识出发，以何种推理方式和知识变形来学到何种知识，各种知识变形的性质和相互关系，知识变形在不同学习系统中的差异。特别强调学习过程中学习目的的重要性。这种在抽象层次上的讨论，对认识模型及机器学习研究人员间的交流也极有帮助。