장의사를 비롯한 사찰들이 북한산에 건립된 것은 7세기 이후로 추정한다. 장의사는 태종무열왕이 659년 세운 사찰로 고려시대에는 찬유, 탄문 등 고승들이 관여되어 있어 왕실과 밀접한 관계를 유지했다. 또한 조선시대에도 기우제 등을 지냈다는 기록이 있어 왕실과의 관계는 계속된 것으로 보이나 1506년 연산군에 의해 폐사되었다.
7세기 이후부터 본격적으로 북한산에 사찰이 건립된 것으로 보이는데 장의사(莊義寺), 안양사(安養寺), 청담사(靑潭寺), 승가사(僧伽寺)가 기록과 절터 유적으로 확인된다. 장의사(莊義寺)는 태종무열왕이 659년 황산벌에서 백제와 싸우다 전사한 장춘랑(長春郞)과 파랑(罷郞)의 후손들에게 상을 내리고 명복을 빌기 위하여 북한산주에 세운 사찰로 현재 세검정초등학교 자리이다. 절터의  흔적은 거의 확인할 수 없으나 당간지주가 남아 있어 사찰이 있었음을 알 수 있다. 장의사는 고려 초 원종대사 찬유(燦幽, 869~958)가 구족계를 받았으며 법인국사 탄문(坦文, 900~975), 자정국존 자안(子安(彌授), 1240~1327) 등 고승들이 주석했으며 예종, 인종, 의종 등이 남경을 순행하면서 다녀가는 등 지속적으로 왕실과 밀접한 관계를 유지해 나갔다. 또한 조선 태조~명종에 이르는 역대 왕조실록의 기록을 보면 장의사에서 기우제(祈雨祭), 수륙재(水陸齋)를 지내거나 선왕 및 왕비의 기망재(祈望齋)를 지냈다는 것을 확인할 수 있어 왕실과의 밀접한 관계는조선시대까지 이어진 것으로 보인다. 이후 1504년 2월 연산군이 장의사를 철거하고 불상과 승려를 삼각산 안팎의 절로 내보내고 1506년 꽃밭으로 조성하면서 폐사된 것으로 보인다.