<입론> ○○: 저는 자율주행차 사고는 제작자의 책임이라고 생각합니다. 왜냐하면 자율주행차 사고는 기술적 결함이기 때문입니다.조건부 자동화(3단계)부터 전체 자동화(4단계)까지 자율주행차는 인간의 도움 없이 자율주행이 가능합니다. 이때 사고가 나는 것은 프로그램상의 오류로 취급되는 것과 같으며, 이는 기술상의 결함으로 제작자가 책임을 져야 합니다. 예를 들어 2018년 미국의 40대 여성이 자전거로 도로를 건너고 있는데 자율주행 모드로 주행하던 차량 한 대가 시속 65km로 달려와 여성을 들이받았습니다. 이것은 자율주행차의 무조건적인 규칙인 사람을 보호해야 한다는 것을 어겼습니다. 따라서 이는 프로그램상의 오류로 볼 수 있으며 프로그래밍상의 문제가 아니라 구동장치와 센서 등 부품상의 문제도 발생할 수 있습니다. 이렇게 되면 근원적인 원인은 제작자에게 있다고 봐야 하지 않을까요?
△△: 저희가 다루게 된 자율주행 차량의 사고는 운전자의 책임인지 제작자의 책임인지에 대해 제 입장은 제작자의 책임이라고 생각합니다. 그 이유는 첫째, 자율주행차 사고를 봤을 때 대다수의 사고가 확률적으로 주행하도록 시스템을 만들고 나머지 경우의 수를 예측할 수 없게 만든 제작자의 실수로 인해 일어난 사고라고 생각합니다. 주로 운전하는 것이 0단계부터 3단계까지는 운전자가 개입하기 때문에 운전자의 책임이지만 레벨4부터는 운전자가 개입하지 않고 스스로 교통상황과 추월 등을 계산해 차량이 스스로 운행을 안정적으로 할 수 있는 단계인데, 2016년 일어난 테슬라 사건과 2016년 12월 구글 자율주행자동차와 버스가 충돌한 사건 등 여러 사례를 본 것처럼 계산을 해도 확률적 판단만 하고 케이스 수를 판단하지 않게 한 소프트웨어에 대한 문제가 있습니다. 둘째, 운전자가 개입하기에는 애매한 상황이기 때문에 자율주행에서 운전으로 바꾸려면 소프트웨어가 판단을 먼저 하고 움직이기 때문에 이점을 운전자가 위급한 상황에 대처할 수 있는 소프트웨어가 부족하다는 점을 고려해 그 점을 알면서도 출시한다는 제작자 측의 문제가 있다고 생각합니다. 그래서 저는 이 논제에 대해 제작자 측의 책임이 분명하다고 생각합니다.
□□: 자율주행차는 인지, 판단, 제어의 3단계로 주행하게 됩니다. 우선 인지 단계는 차량이 주행 중 외부 정보를 받아들이는 단계입니다. 차량에 있는 센서로 차량이나 사람, 동물 등의 장애물을 인식하는 것입니다. 제어단계는 자동차의 속도와 방향을 스스로 제어함으로써 자율주행이 이루어지는 단계입니다. 이상의 세 단계가 차량 주행 중 지속적으로 반복하게 되며 운전자의 별도 조작 없이 차량이 자동으로 주행할 수 있는 원리입니다. 최근 자율주행 사고는 이러한 데이터 획득을 위한 센서의 오작동이 대부분이라고 할 수 있습니다.나는 자율주행으로 인한 사고에 대한 책임이 개발자에게 있다고 생각합니다.첫째, 소프트웨어의 학습 부족으로 인한 사고입니다.2016년 12월 구글 자율주행차를 예로 들면 자율주행차는 도로 배수로 근처에 있던 모래주머니를 발견하고 우회전하려고 했습니다. 하지만 버스와 충돌하는 사고가 발생했습니다. 사고의 원인은 버스가 속도를 줄인다고 오인한 것이라고 자율주행차를 만든 구글이 답했습니다.둘째, 자율주행차의 레이더 인식에 의한 사고입니다.2016년 5월 테슬라 모델 s 차량이 흰색 트레일러와 햇빛을 오인해 사고가 났습니다. 당시 전문가는 레이더 신호 분석 오류를 지적했습니다.
◇◇: 저는 자율주행차 사고는 운전자의 책임이라고 생각합니다. 그 이유는 운전자의 부주의 때문입니다. 운전자의 부주의에는 두 종류가 있지만 기술적, 그리고 운전자 본인입니다. 첫째, 운전자의 기술적 부주의는 운전자가 차량을 운행하기 전에 레이더나 시스템이 잘 작동하는지 확인하지 않았을 때입니다. 자율주행차 제작자는 사람이며 모든 변수를 제어할 수 없습니다. 따라서 예기치 못한 장소로부터의 변수를 차단하기 위해 기술적으로 차량을 체크해야 합니다. 둘째, 운전자의 부주의가 있습니다. 제작자는 자율주행차 제어가 제대로 안 됐을 때 하는 일을 가정해 차 안에 대비 장치를 마련했을 겁니다. 자율주행차라도 운전자는 도로교통법 제38조에 따르면 전방 주시 의무가 있기 때문에 미리 위험을 감지할 수 있습니다. 자율주행차 사고를 막기 위해 제작자는 변수를 최대한 제어하는 매뉴얼을 줬을 것이고, 그 매뉴얼을 운전자가 잘 숙지했다면 사고는 나지 않았을 것입니다. 따라서 자율주행차 사고는 운전자의 책임이라고 생각합니다.
<반론> ○○: 운전자의 부주의가 있다고 하셨지만 자율주행자동차의 마지막 단계인 4단계에서는 운전자 없이도 스스로 자동차를 주행할 수 있습니다. 이런 상황에서 운전자 없이 자동차 스스로 주행하다 사고가 난다면 이는 운전자의 책임이라고 말하기 어렵습니다. 이는 프로그램상과 안의 부품 문제일 확률이 높고 운전자가 미리 점검하고 알기도 어렵기 때문입니다. 그런 상황에서 운전자의 책임이라는 것은 모든 책임을 운전자에게 전가하는 것이라고 생각합니다. 따라서 나는 자율주행차 사고는 제작자의 책임이라고 생각합니다.
△△: 반박하겠습니다. 인공지능이 예측할 수 없는 상황이라며 심리에 대해 말씀하셨지만 심리에 대해서는 누구나 모를 수도 있습니다. 하지만 인간도 심리를 모르지만 상황 대처 능력으로 처리할 수 있습니다. 그런데 그 위험한 점에 대해서 제작을 한편으로는 알면서도 프로토타입도 아닌 완제품으로 제출한 것에 대해서 의문입니다. 이런 사고가 일어날 수 있다는 걸 알았다면 이렇게 빨리 내놓는 것보다 제작사 측에서 좀 더 검토하고 인공지능을 더 개발해서 확률적으로 움직일 게 아니라 상황 대처 능력을 더 키우는 게 맞을 것 같습니다. 그래서 상황 대처 능력이 부족한 인공지능을 앞세워 공식적으로 시장에 내놓고 부족한 점을 숨기고 완벽하지 않은 주행차를 앞세운 제작자 측의 문제점이라고 생각합니다.
□□: 반박합니다. 운전자의 기술적 부주의는 운전자가 차량을 운행하기 전에 레이더나 시스템이 잘 작동하는지 확인하지 않았을 때라고 말씀하셨습니다. 그러나 사용자는 센서가 잘 작동하는지, 소프트웨어가 정상인지 주행해봐야 알 수 있습니다.
◇◇: 제작자의 책임이라고 주장하는 측이 첫 번째 주장에 소프트웨어 학습 부족으로 인한 사고라고 하셨는데, 자율주행이 안전해지는 것은 인공지능이 예측할 수 있는 값이어야 합니다. 인공지능은 가까운 자동차 운전자의 심리를 알 수 없습니다. 그리고 사람도 마찬가지입니다. 따라서 사람도 자율주행차의 학습 부족 문제는 자율주행차가 완전 상용화되고, 두 차 모두 자율주행차의 경우 인공지능은 서로 값을 공유하고 예측할 수 있어 사고를 줄일 수 있습니다. 두 번째 주장의 반박에서 레이더 문제를 지적받았지만 테슬라는 레이더 문제가 지적된 후 레이더를 없애도 정확하게 감지할 수 있는 기술을 개발했습니다.
<결론> ○○: 저는 자율주행 자동차 사고의 책임이 제작자에게 있다고 생각합니다. 첫째, 기술적 결함이 있다는 점과 둘째 프로그래밍 문제가 있다는 점을 들며 자율주행자동차 사고의 책임은 제작자에게 있다고 생각합니다.
△△ : 자율주행으로 인한 사고의 책임은 제작자에게 있다고 생각합니다.소프트웨어 오류를 운전자가 사전에 알 수 없는 점, 기술적 결함이 생겼을 경우 신속하게 대처할 수 없는 점을 근거로 책임은 제작자에게 있다고 생각합니다.
□□: 자율주행 자동차 사고에 대해 저는 제작자에게 책임이 있다고 생각합니다. 우선 첫 번째는 제작자 측에서의 경우의 수를 제대로 파악하지 못하고 확률적 통계로만 진행했다는 것이다.둘째, 운전자가 개입하기에는 너무 어려운 상황 속에서 대처할 수 있는 다른 방법을 제대로 만들지 못하고 소프트웨어가 판단을 하고 먼저 움직이기 때문에 운전자가 대처할 수 없는 문제점을 보고, 이 때문에 운전자의 책임이 아닌 제작자에게 책임이 있다고 생각합니다.
◇◇ : 자율주행으로 인한 사고의 책임은 운전자에게 있다고 생각합니다. 운전자의 기술적 부주의, 규칙 위반 등을 근거로 책임은 운전자에게 있다고 생각합니다.