인공지능이 불러 올 사회문제에 대한 우려는 오래전부터 있었다. 아이작 아시모프의 책을 원작으로 한 영화 ‘아이 로봇’처럼 정교한 원칙을 따르더라도 인공지능은 의도하치 않은 상황이 생길 수 있어 모든 상황을 예측한다는 건 어려운 일이다.
사실 인공지능이 야기할 수 있는 사회문제에 대한 우려는 인공지능이란 개념이 처음 등장하던 때부터 시작하였다. SF의 거장 아이작 아시모프는 1942년에 벌써 로봇의 행동을 규정하는 3원칙(Three Laws of Robotics)을 창조했다. 1) 로봇은 인간에게 해를 가하거나 위험에 빠진 인간을 방관해서는 안 된다. 2) 1법칙을 위배하지 않는 한 로봇은 인간 명령에 복종하여야 한다. 3) 1, 2법칙에 위배되지 않는 한 로봇은 자신의 존재를 보호해야 한다. 아시모프의 과학소설을 원작으로 한 영화 ‘아이, 로봇(I, Robot)’에서 인공지능은 인간이 파괴를 좋아하는 존재로서 내버려두면몰락에 이르게 될 것이라고 판단한다. 따라서 로봇 3원칙에 따라 인류를 파멸로부터 방관하지 않고 보호하기 위해 로봇이 인간을 직접 통제하려고 시도한다. 이처럼 인공지능이 나름대로 정교하게 수립된 원칙을 준수한다 하더라도 전혀 의도하지 않은 상황이 발생할 수 있는 것이다. 발생 가능한 모든 미래 상황을 미리 예측하고 대비한다는 것은 결코 쉽지 않은 일이다.