1943년에 미국의 매컬러프와 피츠가 발표한 논문은 수많은 뉴런으로 구성되는 신경망이 기호논리학의 모든 기본 조작을 수행할 수 있는 가능성을 보여줬다.
 신경망은 ‘뇌의 기능 모델에 근거한 인지정보 처리 구조’라고 정의한다. 신경망은 기본적으로 정보처리 요소(processing element)와 연접경로(interconnect)로 구성된다. 이를테면 정보처리 요소(PE)는 뇌의 신경세포(뉴런), 연접경로는 뉴런과 뉴런을 연결하는 시냅스(synapse)를 흉내(시뮬레이션)낸 것이다.
 1943년에 미국의 신경생리학자인 워런 매컬러프(1898~1969)는 월터 피츠(1923~1969)와 함께 신경망 연구의 효시가 된 논문을 발표했다. 이 논문은 뉴런이 학습과 같은 정신작용을 수행하기 위해 어떻게 서로 연결되는지 설명하면서, 수많은 뉴런으로 구성되는 신경망이 기호논리학의 모든 기본적인 조작을 수행할 수 있는 가능성을 보여주었다. 그들의 신경망 모델은 비록 사람의 뇌에서 뉴런의 실제적인 활동을 복제해 내기에는 역부족이었지만 사람의 뇌를 논리학의 원리에 따라 동작하는 것으로 모형화했기에 선구적인 업적으로 평가받고 있다. 신경망 연구는 캐나다의 심리학자인 도널드 헤브(1904~1985)에 의해 한걸음 더 발전된다. 1949년에 펴낸 저서 《행동의 체제(The Organization of Behavior)》에서 처음으로 신경망의 학습규칙을 제안했다. 이른바 ‘헤브의 법칙(Hebbian Law)’이다. 이 법칙의 요점은 두 개 뉴런의 시냅스를 반복적으로 자극하면 신경망의 학습능력이 증가한다는 것이다. 오늘날 신경망의 학습규칙은 그 뿌리를 헤브의 법칙에 두고 있다.
