인공지능은 인간이 통제하지 못하는 자율 영역이 넓어 작동과정에서 이뤄진 학습에 따라 예측하지 못한 결과가 나올 수 있어, 인공지능 기반 SW의 오작동에 대한 사전 예방을 위한 검증과 인공지능 SW의 기능안전을 일정 수준으로 검체하는 체계를 모색하는 것을 네번째 연구 주제로 한다. 인공지능 SW는 이미 산업과 일상 서비스로 빠르게 확대되고 있어 이에 대한 신속한 대응이 필요하다.
블록체인이나 IoT, 기타 다른 신기술에 비해 인공지능은 그 작동 과정에서 인간이 통제 하지 못하는 자율 영역이 넓은 편이다. 최초 알고리즘 개발(코드구성 등)과 투입된 데이터 가 명확하다고 하더라도 작동 과정에서 어떤 학습이 이루어졌는가에 따라 예측하지 못한 결과가 도출될 수 있다는 점에서 인공지능 기반의 소프트웨어(SW)의 오작동에 대한 사전  예방이 중요해진다. 즉, 인간이 예측할 수 있는 오작동에 대한 모든 가능성을 검토하고 원 인을 도출하는 등 개발 과정의 신중함을 더할수록 최종 결과물의 정확성과 기술 윤리성을 담보할 수 있다. 이에 네 번째 연구 주제로 인공지능 SW의 기능 안전성을 일정 정도나마 검증하는 체계를 모색한다. 법적 쟁점에 이어서 실행 단계에서 인공지능 SW의 통제를 위한 방안을 모색하는 것이다. 새로운 법령을 도입하는 과정에는 심도 있는 사회적 논의와 합의 절차가 필요하지만, 인공지능 SW는 현재 산업분야에서 활용되고 있으며 최근 일상 서비스로 확대되는 속도가 높아지고 있기 때문에 보다 발빠른 대응이 요구되는 상황이다. 따라서 법령 도입과는 별도로 인공지능 SW에 대한 사전 통제 체계를 마련하여 현실 상황 에 대응할 필요가 있다. 이에 본 연구에서는 인공지능 SW 검증 모델과 검증체계의 활용 방안을 제시한다. 즉, 발생가능한 인공지능 SW의 역기능을 사전에 예방한다는 목적으로, 인공지능 SW의 오작동 유형을 분석하고 각 오작동의 원인을 찾아내어 인공지능 SW의 기능안전을 일정수준으로 검증하는 체계를 제안하고자 한다.