자율운행 차량이 윤리적 논쟁은 딜레마적 상황에서의 판단에 대한 것에서 생긴다. 인간과 달리 돌발적 상황에서 빠른 계산으로 피해를 최소화할 수 있지만 피해를 입은 측은 인간생명에 대한 경시라고 항의하게 될 수 있다.
그런데 자율운행 차량의 윤리가 문제되는 것은 딜레마적 상황에서의 판단에 대한 것이다. 인공지능 알고리즘의 판단에 따라 주행하는 차량이 갑작스런 끼어들기와 추돌 상황에 직면하여 순간적으로 선택을 해야 할 때 그대로 직진하여 1명의 상대방 차량 운전자만 치는 상황과 오른편으로 핸들을 꺾어서 4명의 행인을 치는 선택을 할 것인가? 인간이라면 돌발적 상황에서 대응이 불가능했노라고 말할 수 있지만 인공지능은 찰나의 순간에도 수백 번의 판단을 하여 최소한의 피해를 합리적으로 택할 수 있다. 이렇게 피해를 계산하여 선택해야 하는 상황이 벌어졌을 때 알고리즘에 기초한 판단의 결과 피해를 입은 측은 인간생명에 대한 평가와 경시라고 항의하게 될 것이다. 이러한 측면은 알고리즘의 판단과 편향도 윤리적 논쟁으로 번질 수 있음을 시사한다.