현재 범죄성립요건은 인간의 행위로 출발해 인간의 행위가 아닌 인공지능은 범죄주체가 되지 않는다. 우리 형법은 법인 역시 처벌할 수 있는데, 긍정과 부정 견해가 있다. 긍정설은 법인의 행위능력과 책임의 소지를 논거로 삼는다. 긍정설에 따르면 인공지능에게 법인격을 부여해 범죄능력을 갖게 할 수 있다.
현재 구축되어 있는 범죄성립요건에 대한 형법체계에서 범죄성립요건의 출발점은 ‘인간의 행위’이다. 즉, 인간의 행위가 아닌 것은 범죄성립요건을 심사할 필요조차 없게 되는 것이다. 범죄행위의 주체는 자연인인 사람이어야하므로 인공지능 또는 인공지능 로봇은 범죄주체가 될 수 없다. 그런데 우리 형법은 자연인인 사람 외에도 양벌규정을 통해 ‘법인’을 처벌하고 있다. 즉, 자연인인 사람의 행위 외에 법적인 지위를 부여받은 법인에게 형사 처벌할 수있는 장치를 마련해 두고 있는 것이다. 물론 학설에 따라서는 법인의 범죄능력을 부정하는 견해와 긍정하는 견해, 부분적으로 긍정하는 견해 등이 존재한다. 긍정설은 법인실재설의 입장에서 법인의 범죄능력을 인정하고, 법인 고유의 의사능력과 행위능력이 있으며, 법인의 반사회로부터 사회를 방위하고 사회적 책임을 물을 필요성이 있고, 무엇보다 형사정책적인 필요성이 있다는 것을 주요 논거로 삼고 있다. 긍정설의 입장에서 보면 인공지능에 대해 법인격을 부인할 수 있다면 인공지능은 현재의 법인과 같이 범죄능력을 갖게 된다. 하지만 부정설의 입장에서 보면 인공지능은 여전히 범죄능력을 갖지 못한다.