여기서 보듯 인공지능은 아직 판사의 판단을 보조하는 정도로만 활용되고 있다. 사실 이렇게 인공지능을 보조 수단으로만 쓰려 해도 해결해야 할 법적·절차적 문제가 많다.
AI와 법률인공지능은 판사를 완전히 대체할 수 있을까.
  옆의 사례들은 이 질문의 답을 살펴보기 위해 실제 세계 어딘가에서 일어났거나 곧 일어날 일을 살짝 고친 것이다.
  여기서 보듯 인공지능은 아직 판사의 판단을 보조하는 정도로만 활용되고 있다.
  사실 이렇게 인공지능을 보조 수단으로만 쓰려 해도 해결해야 할 법적·절차적 문제가 많다.
   재범 위험성을 재단하는 인공지능 사례 1을 보자.
  우리 형사 재판에서는 성폭력 범죄자의 재범 위험성을 평가하기 위해 ‘한국판 사이코패스진단검사(PCL-R)’와 ‘한국성범죄재범위험성평가(KSORAS)’라는 두 척도를 사용한다.
  피해자와의 관계, 나이 차, 본인의 혼인 경험 등 15~20개의 변수를 활용하며, 점수 산정 원리도 논문 등을 통해 공개돼 있다.
  피고인은 자신의 재범 위험성 점수가 무얼 가지고 어떻게 산정된 것인지 알 수 있고, 오류에 대해 다툴 수도 있다.
  이를 두고 ‘설명 가능성이 100%’라고 한다.
  하지만 이 점수는 재범률에 영향을 미칠 수 있는 수많은 요소 중 일부만 고려하므로 정확성은 떨어진다.
  이들 척도 대신 인공지능을 이용하면 어떨까.
  기존의 수많은 범죄 기록을 반복 학습해 재범 위험성을 산출하는 알고리즘을 만들어 낼 수 있다.
  기존 척도에서는 고려되지 못했던 수많은 변수를 고려하고, 계속 학습하는 과정에서 변수들의 가중치도 수정되므로 앞서 본 한국형 척도보다 훨씬 정확해진다.
  그러나 머신러닝 알고리즘은 인과관계가 아니라 확률적인 상관관계만 포착하는 것이다.
  “이런 사람들이 이렇다더라”는 식이다.
  그래서 결괏값을 어떻게 도출한 것인지 명확히 설명할 수 없다.
  알고리즘이 과거 데이터로부터 편향이나 편견까지 학습했더라도 알기 어렵다.
  미국의 여러 주 법원은 선고 형량이 지나치게 널뛰는 것을 막기 위해 비공개 알고리즘인 ‘컴퍼스(COMPAS)’가 산출한 재범 위험성 점수를 양형에 참고해 왔다.
  여기에 루미스라는 피고인이 이의를 제기했다.
  “이렇게 불투명한 점수를 참작하는 것이 피고인의 방어권을 침해하므로 위법하다”고 다퉜다.
  위스콘신주 대법원은 “판사가 여러 사정을 종합해 독립적으로 형량을 정했으니, 비공개 알고리즘이 낸 결과를 참조한 것만으로는 양형이 잘못되었다고 할 수 없다”고 판단했다.
  그러나 이 판결에 대해서는 비판이 많다.
  특히 판사가 점수를 본 이상 소위 ‘정박 효과’가 생기는 문제가 있다.
 