법 분야에서 인공지능 알고리즘을 다루는 것은 진위 판별 과정의 설명이 없는 증거 생성 시스템에 의존하게 하여 절차적 정의를 훼손하는 것이기에  문제가 된다.
인공지능 알고리즘을 법 분야에서 포섭할 때 항상 거론되는 난관이 바로 알고리즘의 불투명성이나 해석 불가능성이다. 인공지능 알고리즘의 블랙박스 위험과 편향성은 법 분야에서 특히 문제가 된다. 기계적 증거 생성에 사용되는 인공지능 알고리즘도 이런 투명성의 결여 문제에 노출되어 있다. 진실과 거짓을 가려야 하는 형사사법시스템에서 블랙박스 위험이 있어서는 아니 된다. 그러한 블랙박스 위험은 미국 수정헌법 제5조 및 제14조를 위반한 것이다. 정부가 진위를 가리는 과정의 설명이 없는 증거 생성 시스템에 의존하거나, 증거의 정확성 여부를 따져볼 수 없는 시스템을 사용하도록 강제하는 것은 절차적 정의를 훼손하는 일이다.