■ "늑대가 나타났다. 이번엔 진짜다"
테슬라의 최고 경영자 일론 머스크가 자율주행 도입 일정을 발표했다. 머스크는 6일 상하이에서 열린 세계 인공지능 대회 개막식 영상에서 "추측이지만 올해 말에는 4단계 또는 5단계 완전 자율주행을 달성할 수 있을 것"이라고 말했다.
그러면서 이렇게 덧붙였다. "나는 이전에도 비슷한 예측을 몇 번 했고 그건 틀렸다" 과거 자신의 말들이 지켜지지 않았음을 인정한 것이다. 하지만 "지금은 그 어느 때보다도 (자율주행 완성에) 가까워졌다"고 덧붙였다.
머스크의 자율주행 호언장담은 자주 틀렸다. 2019년 4월 투자자 행사에서 2019년 말에는 자율 주행을 도입하고 2020년에는 자율주행 택시(로보택시) 함대를 거느리게 될 거라고 말했다. 이후 아직까지도 테슬라는 자율주행 택시는 도입하지 못했다.
이번에는 머스크의 말이 과연 지켜질까? 낙관하기에는 분명한 문제가 있다.
■ 1) 자율주행 도중 사고가 나면 자동차 회사는 책임질 수 있나?
완전한 자율주행이 도입되면 운전자는 없어도 된다. 하지만 사고가 나면 누가 책임을 져야 하는가? 이론적으로는 자동차 회사가 책임을 져야 한다. 사고가 난다는 것은 차량의 자율주행 시스템이 완벽하지 못하다는 것, 한마디로 하자가 있다는 뜻이기 때문이다.
완벽한 자율주행까지는 오랜 시간이 걸린다. 그래서 미국의 국제자동차기술자협회(SAE)는 자율주행을 다섯 단계로 분류한다. 1단계인 '스마트크루즈'를 제외하고 2~2.5단계인 테슬라의 오토파일럿이나 현대차의 HDA부터 분류하자면 다음과 같다. 눈여겨볼 점은 대부분의 자동차 회사들이 2~2.5단계에 머물러 있다는 점이다. 2.5단계와 3단계 사이에는 심연이 존재한다.
■ 3단계부터는 자동차 회사가 일부 책임. 과연 얼마나 질 것인가?
배상 책임의 문제는 3단계부터 발생한다. 3단계 자율주행은 일부 구간에서는 핸들을 완전히 놓고 제어권이 사람이 아니라 자동차로 넘어간다. 그때 사고가 나면 과연 누구의 책임이 될 것인가? 이론적으로는 자동차 회사가 져야 하는데 전 세계에서 발생하는 모든 사고의 인적 물적 피해를 배상하려면 어마어마한 규모의 보험에 가입해야 한다.
그래서 자동차 회사들은 2단계 자율주행까지는 빠른 속도로 도입했지만 3단계 도입은 오랜 기간 머뭇거리고 있다.
3단계 자율주행 차량은 현재 벤츠와 혼다만 일부 양산하고 있지만 널리 쓰이지 않고 있다. 기아는 EV9에, 현대차는 G90 연식 변경모델에 도입할 가능성이 큰 상황이지만 아직 장담은 이르다.
자율주행 기술이 가장 앞선 곳 중 하나인 테슬라의 '풀 셀프 드라이빙(FSD)'도 마치 4/5단계 자율주행 같은 이름을 쓰고 있지만, 현재 국내에서 이루어지는 서비스는 2.5 단계에 불과하다. 테슬라 역시 핸들을 놓은 채로 주행할 수는 없기 때문이다.
2단계와 3단계 사이에는 자동차 회사로 책임이 돌아가는 심연이 존재하고 있다. 법과 제도 정비, 운전자의 보험사와 자동차회사가 가입한 보험사 사이의 위험 분담 등 해결할 과제가 여전히 산적해 있다. 민사 배상은 그렇다 치고 형사 책임은 현대차의 총수가 질 것인가? 올해 안에 EV9과 G90에 3단계 자율주행이 도입되더라도 관련 논쟁이 격렬할 것으로 예상된다.
■ 2) 트롤리의 딜레마
자율주행에는 또 하나의 과제가 있다. '트롤리의 딜레마'(혹은 트롤리의 문제) 라고 불리는 윤리학에서 가정하는 사고 실험이 문제다. 과거 법학전문대학원 면접 시험에서 자주 출제되던 문제 중 하나다.
트롤리는 광산에서 쓰는 궤도차의 일종이다. 브레이크가 고장 난 트롤리가 돌진하고 있다고 가정하자. 직진을 하면 5명의 인부가 사망하고 관리자가 레일변환기로 트롤리의 방향을 바꾸면 1명만 사망한다. 이때 변환기를 작동시켜서 1명만 죽게 하는 것이 올바르냐는 것이 문제다.
만약 작동시키는 것을 허용한다면 1명의 목숨보다 5명의 목숨이 귀하다는 데 동의하는 셈이 된다. 과연 사람의 목숨을 숫자로 비교하는 것이 옳을까? 가치관에 따라 답이 달라질 수 있다.
자율주행차도 마찬가지 딜레마가 있다. 브레이크를 밟더라도 직진할 경우 보행자를 치게 되고 핸들을 꺾으면 운전자가 위험할 경우 자율주행차는 핸들을 꺾는 결정을 해야 할 것인지가 문제다.
보행자와 운전자 중 누구를 우선할 것인가? 만약 보행자는 5명이고 탑승자는 2명이면 보행자를 더 우선해야 하는가? 숫자에 따라 고려할 점이 기하급수적으로 늘어난다. 피해자의 연령이나 성별, 사고와 관련된 과실의 유무는 동일하게 판단할 것인가?
이 문제는 단순한 윤리학 문제가 아니라 실제로 현업에 있는 자율주행 기술자들이 고민하고 있는 문제다.
2016년 파리오토쇼에서 벤츠의 운전보조 안전책임자인 크리스토프 본 휴고는 카앤드리아버와의 인터뷰에서 "언제나 탑승자를 우선시하도록 프로그램할 것"이라고 말했다가 비난을 받았다. 사고 상황에서 탑승자를 우선한다면 보행자의 목숨이 경시될 수 있다는 것이다.
당시 벤츠 본사는 "딜레마적 상황을 미연에 완벽하게 방지하도록 주력하고 있다"면서 "차량 탑승자를 우선하는 결정을 내린 적이 없다"고 밝히면서 인터뷰로 불거진 논란을 진화하려고 했다.
■ 딜레마 상황 자체가 발생하지 않도록 기술 수준 높여야...오랜 세월 필요
결국, 탑승자와 보행자를 선택해야 하는 상황이 벌어지지 않을 수준으로 자율주행의 안전 보장 수준이 높아져야 이 딜레마는 해결될 것이다. 그리고 자율주행 안전기술이 그 정도로 탄탄하게 준비될 때까지는 무척 오랜 시간이 필요하다.
이런 문제 때문에 민주주의 국가가 아니라 독재국가에서만 자율주행 등 AI 기술이 급속히 발달할 수 있다는 우려까지 존재한다. 냉혹한 가정이지만 생명의 가치에 대한 논란을 어느 한 기준, 예를 들어 사람 숫자로 정할 수 있지 않겠냐는 것이다.
머스크는 실제로 재활용 가능한 로켓 개발에도 성공했고 테슬라도 순항 중이다. 하지만 자율주행에 대한 그의 계획은 이번에도 이런 여러 난점을 극복하기 어려울 수 있다. 또 한 번의 "늑대가 나타났다"로 끝날 우려가 크다.