제스트 파이낸스 사는 데이터를 수집해 ‘규칙을 준수하는 사람’이 신용도가 높다고 판단하고, 저소득층이나 이민자들이 높은 이율의 대출을 받게 됐다. e점수는 다양한 업체의 평가 잣대 사용되는데, 이는 빅데이터 알고리즘의 차별적 판단이 확산된다는 의미이다.
e점수를 활용해 단기소액대출을 제공하는 스타트업 회사 제스트 파이낸스 사는 대출신청자 1인당 최대 1만 개의 데이터를 수집·분석해 위험도를 측정한다. 데이터 가운데는 온라인으로 대출신청서를 작성할 때 맞춤법을 맞게 쓰는지, 구두점은 제대로 찍는지, 신청서를 읽는데 얼마나 시간이 걸리는지, 이용약관을 꼼꼼히 확인하는지 등의 데이터도 포함된다. 이는 ‘규칙을 준수하는 사람’이 신용도가 높다고 판단한 것인데, 이 때문에 교육 수준이 낮은 저소득층이나 이민자들이 높은 이율의 대출을 받게 됐다. 캐시 오닐은 이런 행태가 인종이나 가난에 대한 차별임에도 불구하고 알고리즘에 교묘하게 숨겨져서 드러나지 않는다고 비판한다. e점수는 대출이나 보험뿐만 아니라 일자리를 구하고, 아파트를 빌리거나 심지어 데이트·결혼 상대를 소개해주는 업체에까지 평가 잣대로 확장되어 쓰이고 있는데, 이는 곧 사회 곳곳에서 빅데이터 알고리즘의 차별적 판단이 확산된다는 뜻이기도 하다.