인공지능 SW 오작동 검증 체계는 먼저, 인공지능 오작동 사례를 도메인별로 분석하고 안전 기능을 도출하는 것이고, 그리고 안전무결성 수준을 정의하고, 안전 기능을 식별, 관리하는 것이다. 
이어서 앞서 살펴본 인공지능 SW 오작동 유형 분류 및 개발 시 고려사항을 기초로 인공 지능 SW 검증체계를 제안하고 활용방안을 제시하였다([그림 4－8] 참조). 검증체계는 다음과 같은 순서로 진행되도록 하였다. 첫째, 인공지능 오작동 사례 및 현상을 각 도메인별로 분석하고 이를 예방하기 위한 안전 기능을 도출하는 활동을 수행하는 것이다. 둘째, 각 도메인별로 인공지능 SW 안전무결성 수준(SIL) 레벨을 정의하고, 이 레벨에 따라 해당 SW 에 필수적으로 구현되어야하는 안전 기능을 식별하며, 이에 대한 지속적인 관리를 수행하 는 것이다. 마지막으로 검증 활동의 지속성을 위해 정부 차원에서 지원 체계를 구축할 필요성을 제시하였다.