1937年，英国经济学家R.H.科斯（Ronald Harry Coase，1910-12-29～2013-09-02）发表具有开创意义的论文《企业的本质》（the Nature of the Firm），开始了对企业性质的讨论及研究，而且由此开创了一个新的学科领域，即“企业理论”（the theory of the firm）。关于企业性质的理论，可以帮助人们刻画企业的边界，了解企业的内部组织安排以及企业与企业、企业与市场、企业与其他组织的差别与联系。至今，由于认知水平和研究视角的不同，经济学界对于企业本质的理解也是多种多样的。

由于新古典经济学的主要任务是研究价格形成机制及其对各种微观主体资源配置方式的影响，因此企业被抽象为一个追求利润最大化的生产函数。或者说，企业性质就是一个由技术决定的、将各种生产要素转变为产品的生产函数。企业能产生的利润是：

式中为要素价格；为产品价格；为销售收入；为生产成本。企业在利润最大化的驱动下，决定最优的要素组合和投入量及其产量，从而也就决定了企业的最优规模。如果价格是由市场外生决定的，那么企业的最优规模就完全取决于生产技术。在技术上，亚当·斯密特别强调分工的好处。这就暗示企业规模越大，分工越细，效率就越高，那么，能够限制企业规模的力量就是市场的需求规模。

虽然新古典的企业理论对于理解企业的生产决策和市场的价格机制具有重大意义，但是企业仅仅被视为一个反映投入—产出关系的“黑箱”，人们并不清楚企业到底是如何被组织起来的，而且也无法解释在同一个市场中为什么会同时存在大大小小的很多企业。在这个意义上，新古典企业理论并不是企业理论，而是价格理论。

现代企业理论始于科斯在1937年发表的论文《企业的性质》。该论文最初是他根据对美国通用汽车公司等大公司的考察而写成的本科毕业论文。在该文中，科斯问了一个看似简单却非常深刻的问题：若世界真如新古典经济学描述的那样，即价格机制能够完美地引导资源的配置，那么，还需要企业家建立企业并依靠权威（authority）来配置资源吗？由此，他认识到，利用价格机制而从市场上购买要素和中间品是有成本的，因为寻找交易伙伴、商业谈判及其合同执行都会产生“交易成本”（transaction cost）。自然地，如果通过企业家权威配置资源而能节省这些交易费用，则企业就有存在的合理性。因此，在科斯看来，企业的本质就是依靠权威来配置资源的生产性组织。当然，这种权威是来自一种自由自愿的合约关系，其中最典型的就是雇佣合约——根据合约，员工同意在一定的范围内听从企业家权威的支配。与此同时，科斯也意识到，在企业内部依靠权威来配置资源也会发生管理费用，因此，企业存在着边界——若企业再增加一项经济活动的市场交易费用与企业内部的管理费用相等时，则企业就达到了最优规模。

在科斯之后，很多学者进一步深化了对企业性质的认识。

首先，一些学者认识到，不同要素所有者之间之所以通过合约而扭结为一个所谓的企业，关键在于他们之间具有团队生产的性质。然而，业绩测度的困难及其相关的搭便车行为又阻碍了团队生产优势的发挥。为此，需要一个掌握剩余索取权的中心签约人成为其他团队成员的监督者。在这个逻辑下，企业就被视为一个监督装置。

其次，一些学者甚至认为企业和市场以及其他组织一样都只是因某一种契约而扭结，其边界是不清楚的，而且也没有必要搞清楚。例如，张五常在1983年明确指出，与其把企业看作要素市场对产品市场的替代，不如说是一种要素契约对一种产品契约的替代。虽然该观点有一定道理，但不利于探究企业与市场、政府的差别。

相对于上述理论，对科斯思想真正进一步深化的是美国经济学家O.E.威廉姆森（Oliver Eaton Williamson，1932-09-27～ ）。在美国经济学家B.克莱因（Benjamin Klein，1931～ ）等人的基础上，他提出用“不确定性”“交易频率”尤其是“资产专用性”（asset specificity）等3个维度刻画交易的性质并识别交易费用，进而形成了交易费用经济学。在交易费用经济学看来，有限理性和交易费用的存在使得当事人之间签订的合约通常是不完全的。由于不同的交易具有不同的交易维度和交易风险，因此就要根据不同的交易特征选择恰当的治理模式来管控交易费用从而保证交易得以高效地发生。这就意味着，各种组织形态在本质上都是某种治理交易的装置。

具体到企业，这种治理装置的基本特征就是一种依靠权威协调资源配置的科层组织。一般而言，如果某些交易存在大量的专用性投资，外加交易频繁且面临比较的外部不确定性，那么，那些专用性投资者会担心事后被敲竹杠而会失去事前进行专用性投资的积极性，从而造成社会福利损失。此时，将交易双方一体化到一个企业之中来避免敲竹杠问题，而且企业这种权威组织具有内部控制、谈判和信息交流等方面的优势，使得企业这种治理模式更能应对不确定外部世界的适应性优势。不过，随着规模扩大，科层的增加，内部管理成本也会增加，从而限制着企业规模的扩张。

经过科斯及其跟随者的努力，将企业定义为依靠权威来配置资源的营利性生产性组织，这已是学术界对企业本质的一个基本共识。即便如此，交易费用经济学还有3个重要问题没有回答：①一体化的内容和企业的边界到底如何确定。②为什么一项交易费用从市场上转移到企业内部就可减少当事人的机会主义行为及其相关的交易费用。③即便一体化可节省交易费用，但是对于两个当事企业而言，究竟谁更应该兼并谁。

为了弥补交易费用的缺陷，英裔美国经济学家O.哈特（Oliver Hart，1948-10-09～ ）等人在交易费用经济学的基础上提出了新产权理论及其相对应的企业理论。具体而言，除了强调资产专用性和合同的不完全性对交易方式选择的影响，新产权理论深刻地认识到，在合约不完全的情况下，对于交易双方而言，最重要的不是谁掌握了剩余索取权，而是谁掌握了剩余控制权——对于那些合同没有明确规定的控制权的控制，即可以按照任何不与先前的契约、惯例或法律相违背的方式决定资产的使用。同时，新产权理论还强调，只有那些掌握了物质资本所有权的当事人才有掌控剩余控制权的权力（power）。在这两个基本判断下，新产权学派认为，企业在本质上就是物质资产的集合，因为其他非物质资产及其所有者都是粘连在这些物质资产之上的；而且，那些拥有这些财产所有权的当事人才能真正有效地最终掌控着企业的剩余控制权。

对于企业的边界和谁应该掌握剩余控制权，新产权理论认为，那些掌握剩余控制权的当事人将在事后谈判中处于优势地位，可以减少被敲竹杠的风险，从而增强事前专用性投资的积极性；相反，那些失去剩余控制权的当事人将在事后再谈判中处于不利地位，更容易被敲竹杠，从而失去事前进行专用性投资的积极性。由此可知，当交易涉及大量的关系专用性投资，那么，最重要的专用性资产投资方就应该出资兼并对方，掌握一体化之后企业的剩余控制权，尽管这会打击被兼并方的专用性投资积极性；如果双方都需要进行重要的专用性投资，则双方应该共同掌握一体化之后新企业的剩余控制权；如果交易并不需要重要的专用性投资，则两个企业应该保持各自的独立地位。在此特别值得一提的是，上面的第二种情形很容易拓展到“利益相关者共同治理理论”，即强调股东、债权人、员工、供应商、顾客、社区等主体都对企业进行了专用性投资而成为了企业的利益相关者（stakeholders），因此企业应该承担社会责任并由这些利益相关者来共同治理。

显然，相对之前的理论，新产权理论对权力来源和企业边界的观点显得旗帜鲜明，但是也遭到尖锐批评。一则，上述理论以当事人不受财富约束为前提条件，但现实中却经常面临财富约束。这就导致企业控制权的安排往往非常复杂，比如，融资契约通常安排企业家在企业状态良好时掌握控制权，而投资者在企业状态不好时掌握控制权。二则，一些学者指出，权力或者谈判力的来源是当事人所掌握资源对于团队生产的重要性，而不一定来自物质资本的所有权。比如，那些掌握着关键知识和技能的当事人就掌握着组织的实际控制权并享受着实际权威，尽管他们未必享有法律上的正式权威。与之相适应，企业的边界就是由关键性资源及其黏附在其上的其他资源所决定的。