이런 기술들은 지능적 판옵티콘 사회를 형성한다는 우려가 있다. 아마존은 수사기관·법집행기관에 '레코그니션'을 제공하여 용의자를 추적할 수 있는 프로그램을 계약하였다. 그러나 아마존 직원들은 레코그니션이 새로은 '빅 브라더'가 될 것이라고 경고했으며, 이 프로그램은 인종차별적 요소의 오류가 자주 발생하였다.
하지만 이런 기술들은 전체 시민들을 대상으로 다양한 개인정보를 수집하고 감시 기능을 확대해 지능적 판옵티콘 사회를 형성한다는 우려를 자아내고 있다. 아마존은 2018년 중반 미국 경찰, 중앙정보국(CIA), 이민세관단속국(ICE) 등 수사기관·법집행기관에 얼굴인식 소프트웨어인 '레코그니션(Rekognition)'을 제공하기로 계약했다. 레코그니션은 교통단속 카메라, CCTV 등에 잡힌 불특정 다수 행인의 사진을 수사기관에 보관된 머그샷(피의자 식별용 얼굴사진)과 실시간으로 대조해 용의자를 추적할 수 있는 프로그램이다. 그런데, 이에 대해서 아마존 직원 450명은 제프 베이조스 최고경영자 앞으로 의견광고형식의 서한을 발송했다. 이들은 레코그니션이 대중을 감시할 새로운 '빅 브라더'가 될 것이라는 경고했다. 직원들은 "우리는 견제받지 않는 새롭고 강력한 감시도구가 국가의 손에 쥐어졌을 때, 무고한 사람들이 볼 수 있는 피해를 역사의 교훈을 통해 알고 있다"고 강조했다. 이 소프트웨어는 미국 상하원의원 28명의 얼굴을 범죄자로 잘못 식별한 적도 있다. 특히 유색 인종에서 오류가 자주 발생했다. 미국시민자유연맹(ACLU)은 아마존의 얼굴인식 시스템에 1만 명의 머그샷을 올려 정확한 인식 여부를 테스트한 결과 28명의 얼굴에서 오류가 발견됐다고 밝혔다. 오류가 나타난 사람들이 대부분 유색인종이었다는 점에서 ACLU 측은 프로그램에 인종차별적 요소가 있다고 주장했다.