인지능력에 한계에 인간의 행위는 합리적일 수 없다는 것과 거래의 대상을 선택하며, 계약의 체결·유지를 위해 소요되는 비용, 두 가지 전제로 신제도주의 경제학은 거래비용접근법이라 부른다. 
그 내용을 살펴보면 다음과 같다(하연섭, 2003: 80-81). 첫째, 완벽한 정보가 존재하지 않거나 정보를 획득하는데 많은 비용이 소요될 경우, 인간의 인지능력에 한계가 존재할 경우 인간의 행위는 완전히 합리적일 수 없다는 것이다. 둘째, 거래비용의 개념을 제시한다. 시장에서 교환이 이루어지기 위해선, ‘교환’ 자체가 지속되는 사용되는 비용이 존재하며 이를 거래비용이라 한다. 이는 경제학에서 논의하는 생산비용과는 다른 개념이다. 거래의 상대방으로 탐색하고, 그 대상을 선택하며, 계약의 체결·유지를 위해 소요되는 모든 비용을 의미한다. 이러한 두 가지 전제를 바탕으로 신제도주의 경제학은 거래비용접근법(transaction cost approach)이라고도 부르는 것이다.