[테크월드=선연수 기자]
경쟁에서 앞서 나가기 위해 자동차 제조업체는 미래를 내다보고 면밀히 계획을 짜야 한다. 현재 자동차 제조업체가 바라보는 자동차 산업의 미래는 자율주행자동차다. AI가 제어하는 자동차는 더 빠른 속도로 서로 가깝게 주행할 수 있어 도로의 차량 수용 능력을 높인다. 또한, 자동차 사고가 발생할 수 있는 상황에서 빠르게 반응해 더 안전할 수 있다. 전 세계 곳곳에서 자율주행자동차 시험 운행이 진행되고 있으며, 최초로 상용화된 자율주행자동차가 일반 대중에게 판매되는 것은 시간문제일 뿐이다.
자율주행자동차 사고 책임의 주체
자율주행자동차가 잠재성을 완전히 실현하려면 공개적인 사용 전에 짚고 넘어갈 문제가 몇 가지 있다. 특히, 윤리적 문제와 책임 주체에 관한 문제를 꼽을 수 있으며, 다른 분야와 관련된 엔지니어들은 이미 수년간 이런 문제를 다뤄왔다.
테슬라와 같은 반자율주행차에서, 향후 완전 자율주행차로 나아가는 데 있어 중요한 문제 중 하나는 사고의 책임을 물을 대상이다. 현재 반자율주행차는 충돌 발생 시 이에 대한 책임을 운전자가 지는 것으로 탑승자를 규정하고 있다. 그러나 만약 자율주행자동차가 충돌한다면 누가 책임질 것인가? 이 질문에 대한 답을 얻기 전엔 자율주행자동차는 보험에 들 수 없으며, 따라서 공공 도로에서 운행할 수 없다.
자율주행자동차는 여러 잠재적 책임 주체를 가진다. 자동차 소유자, 제조업체, 소프트웨어 개발자, 서브시스템 제조업체가 모두 사고에 책임이 있을 수 있다. 만약 자동차가 도로 규칙을 준수했다면 제조업체에 잘못의 책임이 있는 걸까? 지금까지 책임지겠다고 직접 표명한 제조업체는 볼보뿐이며, 2015년 10월 자사의 자율주행자동차에 대한 책임을 수용할 것이라고 밝혔다.
트롤리 딜레마
자율주행자동차 제조업체가 직면한 윤리적 문제와 관련해 가장 많이 언급되는 시나리오 중 하나가 ‘트롤리’ 딜레마다. 이는 사고가 불가피할 때 자동차의 소프트웨어가 어느 방향을 취할지 결정해야 하는 상황을 의미한다. 원래 트롤리 시나리오는 5명이 있는 선로를 향해 달려가는 고장난 열차와 선로 전환기 앞의 한 사람과 관련된 문제로, 전환기 앞의 결정권을 가진 사람이 아무 행동을 하지 않으면 5명의 사람이 죽게 되고, 전환기를 당겨 방향을 돌리면 1명이 죽게 된다. 이제 자율주행자동차 시대에선 전환기 앞의 사람을 자동차의 소프트웨어가 담당하게 된다. 만약 사고가 일어날 것이 확실한 상황에서 도로의 한 쪽에는 엄마와 아기가 있고, 자동차 앞쪽엔 한 무리의 어린 학생들이 길을 건너고 있으며, 도로의 다른 쪽은 절벽이라면, 자동차가 내릴 수 있는 가장 윤리적인 결정은 무엇일까? 자동차가 방향을 틀어 엄마를 치는 것일까, 아이들에게 돌진하는 것일까, 아니면 절벽으로 몰아 차 안에 탄 사람을 죽도록 하는 것일까?
메르세데스는 이 상황에 대해 자동차는 운전자를 보호할 일차적인 책임이 있다고 발표했으나, 해당 표명은 상황을 잠재우는 대신 ‘킬러 로봇’이라는 헤드라인으로 장식됐다.
트롤리 딜레마 논제의 비현실성
현실적인 상황을 평가하기 위해선 이런 상황이 얼마나 일어나기 어려운지, 그리고 자율주행자동차가 어떻게 동작하는지 자세히 알 필요가 있다. 트롤리 딜레마에서 상정되듯이 매우 제한적인 공간에서 자율주행자동차는 트롤리 결정을 내리는 상황을 맞닥뜨리기 전에 환경에 반응한다. 자율주행자동차는 속도를 늦추고 센서의 범위를 확대해 주변 환경에 대해 최대한 완벽한 그림을 확보한다. 이런 작업이 이뤄짐으로써 자율주행자동차는 누구를 죽여야 할 것인가에 대한 결정을 내려야 하는 상황에 놓일 가능성이 훨씬 낮다. 그런데도 만약 해당 상황에 놓인다면, 초기에 위험을 감지하지 못하고 자동차를 위험한 상황에 빠뜨린 메인 라이다(LiDAR)와 레이더, 초음파 센서의 잘못일까?
자율주행자동차가 선택할 상황에 놓이지 않을 두 번째 이유는 자율주행자동차는 인간 운전자보다 훨씬 빨리 멈출 수 있다는 사실이다. 충돌 가능성이 있는 상황이 감지되면, 자동차는 밀리초만에 제동하기 시작한다. 센서의 범위가 차량의 정지거리를 훨씬 넘어서기 때문에 자동차가 치명적인 상황에 처할 경우는 훨씬 줄어든다. 어떠한 이유로 충돌이 불가피해졌다면, 브레이크뿐 아니라 센서 역시 안전벨트를 조이거나 에어백을 작동시키는 등 운전자를 보호하기 위한 다양한 조치를 취할 수 있다.
자동차의 라이다 센서는 자동차 주변 영역에 대해 3차원 모델을 구성한다. 이후 알고리즘으로 영역 내 모든 위험을 탐지하며, 다른 센서 시스템을 이용해 라이다가 감지한 위험의 진위 여부를 이중으로 검사한다. 이때 잘못된 감지라 해도 적시에 위험을 인식하지 못하는 것보다는 바람직하다.
전체 시스템은 세대를 거칠 때마다 향상된다. 따라 센서는 더 빨라지고 더 섬세해지며, 위험을 평가하는 소프트웨어 알고리즘 역시 더욱 정교해진다. 시스템 기능 향상은 잘못된 감지가 발생할 가능성이 줄어드는 것을 의미하며, 안전 시스템의 충분한 배치를 보장함으로써 자율주행자동차를 더욱 안전하게 만든다.
실질적인 위협, 해킹
마지막으로 남은 치명적인 위험은 바로 외부로부터의 해킹이다. 차량의 소프트웨어는 그 어떤 것이라도 변경된다면, 도로 위에서의 안전이 보장되지 않는다. 사이버 보안은 자율주행자동차 제조업체에게 남겨진 가장 큰 과제이며, 이를 해결하기 위해 제조업체들은 적극적으로 노력하고 있다. 무선 차량 간 통신(V2V) 시스템은 전체 안전 시스템에서 필수적인 기능 블록으로, 전방에 위험이 존재할 경우 자동차가 다른 차량의 동작 정보를 얻어 더 일찍 제동할 수 있도록 한다. 이는 V2V 시스템이 어떻게 활용될 수 있는지 보여주는 한 예다.
개발자와 해커 간의 전쟁은 자율주행자동차의 진정한 위험이며, 승객과 일반 대중의 안전뿐 아니라 자율주행자동차의 성공을 보장하기 위해선 개발자가 반드시 이겨내야 하는 전쟁이다. 악의적인 위협은 앞서 언급한 자동차의 트롤리 딜레마나 진정한 책임 주체와 같은 인지할 수 있는 위협보다 훨씬 더 실제적인 문제다.
글: 마크 패트릭(Mark Patrick)
자료제공: 마우저 일렉트로닉스
운전이라는 행위는 ㄱ지점에서 ㄴ지점으로의 이동으로 보이지만, 때로 그 행위는 사람만이 판단하고 결정할 수 있는 복합적이고 실존적인 영역이기도 하다. <교육방송>의 ‘한국기행: 가을, 버스 안에서’(왼쪽)와 영화 <택시 운전사>.
운전행위는 지점간 이동 이상의
인간 의지와 사회적 맥락 반영
알고리즘 위주로 해결하려 하면
복합적 문제 못풀고 진퇴양난 빠져
자율주행 자동차가 대중화를 위해서 넘어야 할 고비는 기술 개발만이 아니다. 사고를 피할 수 없는 상황에서 어떤 기준에 따라 선택을 할지에 관한 도덕적 문제가 무엇보다 어려운 과제다. 자율주행차가 인명 사고를 피할 수 없는 주행 상황에서 누구를 희생시키고 누구를 살리도록 설계할 것인가라는 ‘트롤리(전차) 딜레마’로 알려진 문제이다. 지난 16일 서울 대한상공회의소에서 한겨레 사람과디지털연구소가 ‘알고리즘과 사회적 가치’를 주제로 개최한 ‘2017 휴먼테크놀로지 포럼’에서 트롤리 딜레마에 관한 주목할 만한 주장이 제기됐다. 전치형 카이스트 과학기술정책대학원 교수가 ‘자율주행차 알고리즘에 어떠한 가치를 담을 것인가’를 주제로 발제한 내용을 중심으로 소개한다.
전 교수는 알고리즘과 사회적 가치를 자율주행차 시대에 직면할 두 가지의 질문으로 구체화했다. ‘자율주행차는 어떤 가치를 가져야 하는가’와 ‘사회는 운전이라는 행위에 어떠한 가치와 의미를 담아 왔는가’라는 질문이다.
1. 자율주행차에 어떤 가치를 담을 것인가
트롤리 딜레마는 알고리즘이 사람 목숨에 직접적 영향을 끼친다면 무엇을 기준으로 판단하게 해야 할지, 그런 판단을 알고리즘에 위임해도 되는지에 관한 질문이다. 선로에서 작업 중인 5명의 노동자를 살리기 위해 선로 변환기를 조작해 다른 선로의 작업자 1명을 희생시키는 선택을 하는 행위가 최대 다수의 최대 행복이라는 공리주의 원칙으로 정당화될 수 있는가의 문제이다. 1967년 영국의 윤리철학자 필리파 풋이 제기한 트롤리 딜레마는 사고 상황에서도 알고리즘에 따라 작동해야 하는 자율주행차 시대에는 현실의 문제가 됐다. 자율주행차 개발자는 충돌 사고가 불가피한 상황에서 운전자와 보행자 목숨 중 무엇을 우선시해야 하는지와 같은 구체적 상황에서 선택을 해야 하기 때문이다.
전 교수는 트롤리 문제는 어느 쪽을 선택해도 반론이 나올 수밖에 없어, 답이 없는 문제라고 본다. 트롤리 딜레마는 인공지능의 윤리와 가치를 논하는 상황에서 논의 범위를 지나치게 제한해 문제의 본질을 덮어버리는 결과로 이어진다. 전 교수는 트롤리 문제는 자율주행의 상황 거의 대부분은 기술적 계산에 의해서 문제없이 처리될 수 있고, 아주 예외적인 사고 상황에서 순간적으로 처리해야 하는 긴급한 경우에서만 알고리즘의 윤리적 판단이 요구된다는 믿음을 전제하고 있다고 본다. 자율주행차가 이러한 예외적 상황에서 매끄럽게 대처할 수 있다면 기존 교통시스템에 잘 정착할 수 있다는 전제이다.
하지만 그는 교통사고와 교통안전은 긴급 상황에서 대처 문제가 아니라 오랜 시간에 걸쳐 자리잡은 교통정책과 시스템, 교통문화가 복합된 결과로 발생한다고 지적했다. 자율주행차가 직면할 트롤리 문제와 유사한 사고 상황은 순간적이거나 불가피한 상황이 아니라 사회가 운영해오고 있는 전체적인 교통시스템의 결과라는 얘기다. 그는 도로에 횡단보도를 어디에 어떤 간격으로 설치할지와 연관되며 그동안 보행자보다 차량 흐름을 우선시해온 도로교통 시스템의 영향을 자율주행차도 피할 수 없다고 지적했다. 트롤리 딜레마가 알려주는 것은 도로교통 시스템은 이미 엄청나게 복잡하고 많은 사회적 가치판단을 전제하고 있는 복잡계이기 때문에, 예외적이고 불가피한 사고 상황을 처리할 정교한 알고리즘으로 해결될 수 없다는 것이다. 특정 상황을 처리할 수 있도록 알고리즘에 어떤 가치를 넣을까 고민하는 대신 사회가 합의하고 실행하고 있는 전체 시스템 차원에서 어떠한 가치를 우선시할지 새로운 합의가 요구된다는 주장이다.
2. 자율주행차는 운전을 어떻게 바꿀 것인가
자동차 사고의 90%는 사람의 실수인데 자율주행은 이를 획기적으로 감소시킬 기술로 기대받고 있다. 자율주행은 운전을 지점 ㄱ에서 지점 ㄴ까지 이동하는 단순한 행위라고 보고 있지만, 실제 상황에서 운전은 개인의 삶에서 다층적 의미를 갖는 실천이자 상호작용의 의미를 지니고 있다. 전 교수는 최근 <교육방송> ‘한국기행: 가을, 버스 안에서’가 청산도에서 42년간 버스를 운행하는 기사가 마을공동체를 돌보는 일, 영화 <택시 운전사>에서 총으로 길을 막아도 기자를 싣고 가는 택시운전사의 의지, 광주민주화운동 때 학생들을 보호하기 위해 시위에 나선 버스와 택시기사들의 결단 등을 예로 들며 운전 행위에 담긴 복합적 의미를 조명했다. 지난 9월 말 사우디아라비아에서 그동안 불법이던 여성의 운전을 허용하면서 운전 행위는 개인의 자율성과 권리를 상징하는 의미를 지닌다는 것을 드러냈다.
자율주행은 운전을 ㄱ에서 ㄴ으로 이동하는 행위로 단순화하고 있지만 때로 운전은 양도할 수 없는 인간 의지와 자율성을 실천하는 행위라는 점이다. 전 교수는 현재 교통시스템은 이미 수많은 가치판단과 사회적 합의의 결과물이고, 운전자의 자격과 자율성에 관한 판단, 보행자와 자동차의 상대적 중요성에 대한 판단 등을 전제하고 있다고 말했다. 알고리즘에 더 바람직한 가치와 정교한 계산을 적용해 완벽한 자율주행 시스템을 구축할 수 없고 대신 사회 전체 차원의 복합적인 관행과 문화, 가치 틀을 함께 고민해야 한다는 게 그의 주장이다.
머지않아 보편화할 자율주행 시대를 준비하는 방법은 기술 개발과 함께, 이처럼 기술로 해결할 수 없고 정답도 존재하지 않는 복합적인 사회적 시스템을 다양한 논의와 합의를 통해 새로운 시스템으로 업그레이드하는 과제임을 알려준다.
구본권 사람과디지털연구소장
◎ Weconomy 홈페이지 바로가기: //www.hani.co.kr/arti/economy
◎ Weconomy 페이스북 바로가기:
//www.facebook.com/econohani