개발자가 최초 구성된 알로지금과 투입한 데이터를 알고 있다 하더라도 기계학습 과정을 거친 인공지능의 알고리즘은 전혀 다른 형태로 변형될 수가 있다. 이는 최종 결과물의 예측을 어렵게 만들고 그 결과물이 잘못되었더라도 책임을 물을 대상이 불명확해지는 결과로 이어진다. 따라서 전통적 법규범 체계의 인과관계 파악이 어려워져 이에 대한 대응으로 '설명을 요구할 권리'를 통해 알고리즘의 투명성 원칙을 구현할 필요성이 제기된다.
또한 4차 산업혁명의 핵심기술인 인공지능 알고리즘에 대한 규범적 대응이 필요하다는 문제제기와 그에 따른 대응 방안으로 부각된 ‘설명을 요구할 권리’에 주목한다. ‘설명을 요 구할 권리(이하 설명요청권)’는 인공지능 알고리즘의 고유 특징에 따라 혼란이 가중된 법 규범 논의와 연결된다. 전통적 법규범 체계에서는 특정 사안에 관한 인과관계(因果關係)를 파악하는 것이 핵심이었다. 그러나 인공지능 알고리즘을 거친 행위와 행위의 결과 사이에 서 인과관계를 명확하게 정의하기가 어렵다. 인공지능은 특정 데이터를 투입하여 스스로 학습하고 학습 결과를 인간의 개입 없이 자율적으로 활용하여 자체적으로 알고리즘을 수 정할 수 있다. 인간이 인공지능 알고리즘을 개발하였다고 하더라도 기계학습 과정을 거친 인공지능의 알고리즘은 개발자가 인지하지 못한 형태로 변형되었을 수 있으며 따라서 최종 결과물을 예측하기 어렵게 된다. 결국 최초 구성된 알고리즘과 투입한 데이터를 알고 있다고 하더라도 어떤 결과물이 최종 산출될지에 대해서는 알 수 없게 되었다. 이는 최종 결과물이 잘못되었다고 하더라도 그 책임을 물을 대상이 불명확해진다는 것이다. 이에 신 기술의 법규범적 불확실성에 대한 대응이 현안 이슈가 되었으며, 관련 법적 대응으로 설 명요청권이 제기된 것이다. 알고리즘 투명성 원칙을 구현한다는 점에서 설명요청권은 법 적으로 뿐만 아니라 사회적으로 유용한 권리가 될 수 있다. 이에 본 연구는 국내법과의 법 리적 관계를 다차원적으로 검토하고 설명요청권 및 프로파일링 규제 원칙의 국내법적 적용 범위 및 그 한계는 무엇인지에 대해 논의한다.