FSD로 들여다 보는 민주주의의 한계

·

기술이 발전함에 따라 FSD나 AI agent처럼 점점 더 책임이 필요한 일에 기계가 개입될 것이다. 기술을 받아들이면 받아들일 수록 그 한계를 드러내는 것은 우리 사회 규범이고 기술 종주국이 되는 것보다 더 중요한 것은 기술이 뿌리내릴 수 있는 사회 시스템 개발이라는 생각이 든다.

#fsd

캡쳐0
캡쳐0

캡처1
캡처1

캡쳐2
캡쳐2

캡쳐3
캡쳐3

캡쳐4
캡쳐4

1. 상황

a) 테슬라 차주가 대리운전을 불렀다.

b) 주행 중, 차주의 지시로 대리기사가 FSD를 켰다.

c) FSD 주행 중 사고가 났다.

d) 차주는 대리기사에게 보험 처리를 요구하지 않고 자비로 수리했다.

e) 댓글에서 논쟁이 붙었다. 한쪽 당사자를 A라고 부른다.


2. 법적으로는 A가 맞을 것이다

국내에서 테슬라 FSD는 레벨2 운전자 보조 시스템으로 인증되어 있고 레벨2에서 책임은 운전자에게 있다. 이 사안에서 대리기사가 운전석에 있었기 때문에 (법적 해석의 여지가 있겠지만) 대리기사가 운전자라고 보는 것이 자연스럽다.


3. 그런데 원글쓴이는 법을 말한 적이 없다

"제가 해달라고 한건데 양심상 그럴 순 없죠"

재미있게도 글쓴이의 문장에 법률 용어가 없고 원글쓴이가 말한 것은 하나다. 내가 시켰고, 저 사람은 거절할 수 없었다.

그런데 A는 아무도 묻지 않은 질문에 정확하게 답을 했다.

A가 주장하는 규칙의 숨은 전제

A의 주장 : "운전하다 사고내면 운전자의 보험으로 처리하는게 당연합니다."

여기에 주장이 두 개 들어 있다.

  • 사고의 책임이 운전한 사람에게 있다는 것.
  • 그러므로 그 사람의 보험이 지불한다는 것.

"당연"이라는 표현이 이 두 주장을 하나로 붙여 놓았다.

앞의 것은 레벨2 인증에서 나온다. 뒤의 것은 별개 계약의 문제다. 대리운전자보험은 대리기사가 자기 돈으로 가입한 상품이고, 무엇을 보상하는지는 약관이 정한다. FSD 주행 중 사고를 어떻게 다루는지는 확인되지 않았다. 책임이 있다는 것과 그 사람의 보험이 나간다는 것은 자동으로 이어지지 않는다.

이 글은 보험 약관까지 다루지는 않는다. 그래서 사고의 책임이 운전자에게 있다는 논제에 대해서만 이야기한다.

운전자인 대리기사의 책임을 이야기하기 위해서는 FSD 작동을 거부할 자유에 대해 이야기할 필요가 있다. 그래야 대리운전자의 판단으로 주행이 이루어졌다는 구도가 완성되기 때문이다. 그러나 현실에서는 별점, 콜 취소, 신고, 그리고 1~2만 원짜리 일에서 고객과 실랑이하는 비용이 있기 때문에 대리기사의 거부권은 존재하지만 권리 행사 비용이 대가보다 크다.

이러한 상황을 설명하기 위해 프랑스 소설가, 아나톨 프랑스(Anatole France)가 1894년 소설 『붉은 백합(Le Lys Rouge)』에 쓴 문장을 인용해본다.

법은 그 장엄한 평등 속에서, 부자에게도 가난한 자에게도 똑같이 다리 밑에서 잠자는 것, 거리에서 구걸하는 것, 빵을 훔치는 것을 금지한다.

부자와 빈자는 똑같이 금지되는 것이 존재하지만 부자는 애초에 다리 밑에서 잘 이유가 없다. 금지는 한쪽에만 작용한다.

이 사안에서 보면 거부할 자유는 차주와 대리기사에게 똑같이 주어져 있다. 하지만 행사할 수 있는 쪽은 하나다. 형식적 대칭이 실질적 비대칭을 덮고 있다는 점에서 구조는 같다.

누군가는 대리기사는 전문 운전자이기 때문에 위험한 지시를 거부하는 것은 직업적 의무라고 생각할 수 있다. 술을 마신 차주가 대리기사에게 과속하라고 하면 당연히 거부해야 한다. 그렇다. 과속 지시는 명백한 위법 요구다.

하지만 FSD 작동 지시는 아니다. 합법적으로 판매된 기능을, 소유자가, 자기 차량에서 쓰라고 권한 것이다. 거부할 명분 자체가 없다.더 결정적인 것은 정보 비대칭이라는 것이다. 대리기사는 그 차량의 FSD가 어떤 상황에서 실패하는지 모른다. 소유자가 아니고, 그 차를 처음 몰고, 소프트웨어 버전도 모를 가능성이 크다. 위험을 평가할 정보가 없는 사람에게 위험을 거부하라는 요구는 성립하지 않는다. 그런데 그 중요한 정보를 가진 사람, 차주가 FSD 기능을 켜라고 했다.

정보와 권력은 한쪽에 있고, 책임은 반대쪽에 있는 것이 이 사안의 형태이다.


4. A 주장의 문제점

A는 규칙을 틀리게 말하지 않았다. 규칙이 전제한 자유가 이 사람에게 실재하는지를 묻지 않았을 뿐이다.

① "당연합니다"

A의 첫 문장은 "운전하다 사고내면 운전자의 보험으로 처리하는게 당연합니다"이다.

이 단어는 규칙을 기술하는 동시에, 그 규칙이 왜 그렇게 정해졌는지 묻지 못하게 만든다. 레벨2 인증은 누군가가 특정 시점에 특정 이유로 내린 결정이다. 결정이었던 것을 자명한 것으로 바꾸면 재검토할 언어가 사라진다.

② 비유 두 개가 모두 쟁점을 삭제한다

차주가 FSD로 사고내면? 지시자와 실행자가 동일인이다. 귀속 문제가 없는 사례를 귀속 문제의 근거로 썼다.

아내가 남편에게 운전을 강제하면? 부부는 공동소유·일상가사대리권 영역이다. 게다가 이 비유는 그의 논지를 무너뜨린다. 귀속이 애매하기로 유명한 관계를 끌어와 귀속의 명확함을 증명하려 했다.

두 비유의 공통점. 지시자와 실행자가 분리된 상업적 계약이라는 이 사안의 유일한 특징이 제거되어 있다.

③ 레벨을 바꿔치기했다

원글쓴이는 도의를 말했다. A는 규칙으로 답했다. 그리고 원글쓴이의 판단을 "디폴트를 면제해준 선의"로 재서술했다.

규범적 진술을 사실 진술로 번역한 것이다.

④ 입증책임을 돌렸다

근거 없이 "당연합니다"를 먼저 선언한 쪽이 A다. 논쟁이 진행되자 상대에게 "판례가 있으면 알려주세요"라고 요구한다.

판례가 없다는 것이 문제가 아니다. 판례가 없는 상태가 이 사안의 조건이다. 규칙이 형성되지 않은 영역에서 선례를 요구하는 것은 언제나 현상 유지 쪽에 유리하게 작동한다.

⑤ 위험이 협상력 최저점에 배분된다

1~2만 원을 받는 플랫폼 노동자가 차주의 기술 실험에서 발생한 손해를 흡수한다.

A는 이것을 중립적 규칙 적용이라고 서술한다. 서술은 정확하다. 규칙은 실제로 중립적이다.


5. A의 가치관 추정

  • 형식주의자. 책임은 역할을 따른다. 운전석에 앉았으면 운전자다. 실질적 통제는 부차적이다.

  • 계약 완결주의. 일을 수락했으면 리스크도 수락한 것이다. 계약 밖의 사정은 고려 대상이 아니다.

  • 반(反)여론 자기규정. 첫 문장이 "댓글들, 뭘 이리 몰아갑니까?"다. 자신을 정서적 집단 앞의 소수 이성으로 위치시킨다. 반박이 늘수록 강화되는 자기상이다.

  • 절차 신뢰. 판례를 요구하고, 무례한 댓글에 "예의를 좀 갖추죠"라고 답한다. 논증 절차와 대화 예절을 같은 레벨에서 이야기한다.

  • 개인 간 대칭 가정. 세계를 대등한 계약 당사자들의 집합으로 본다. 구조적 비대칭은 변수로 들어오지 않는다.

  • 온화하되 유연하지 않은 자아. 악의는 없다. 오히려 사고를 당한 회원을 감싸려는 사람이다. 동시에 같은 브랜드 사용자끼리 힐난하는 상황을 견디기 어려워한다. 브랜드와 자신을 어느 정도 동일시한다. 일관성을 추구한다. 다만 잘못된 추상 수준에서 유지한다.


6. 민주주의 이론으로의 확장

이 댓글창에 이미 정치철학적 발언이 나온다.

진짜 이런 사람이랑 나랑 같은 한표라니… 이게 맞나요??

(1) 에피스토크라시

에피스토크라시(epistocracy)는 지식(episteme)의 지배(kratos)다. 정치권력을 판단 역량이 뛰어난 사람에게 더 배분하자는 주장이다. 민주주의가 1인 1표를 지위의 문제로 보는 데 반해, 에피스토크라시는 투표권을 역량의 문제로 본다.

다들 눈치챘겠지만 에피스토크라시는 플라톤의 철인정치가 원형이다. J.S. 밀은 『대의정부론』에서 교육 수준에 따른 복수투표제를 실제로 제안했으며 이것을 현대적으로 재정식화한 사람은 Jason Brennan이다. 그들의 논지는

투표는 사적 선택이 아니라 타인에게 부과되는 결정이다. 의사와 조종사에게 자격을 요구하면서 투표에 요구하지 않는 것이 일관적인가.

이번 논쟁은 이 논변의 정서적 원형이라고 볼 수 있다.

(2) 진짜 복잡한 문제는 A가 무능하지 않다는 것

에피스토크라시가 가장 그럴듯하게 느껴지는 순간은 모두가 아는 것을 누군가가 모를 때이다. 분명한 정답이 있을 때 틀린 사람에게 틀렸다고 판정하고 권리를 박탈하는 것이 매우 타당한 절차로 받아들여진다.

그러나 이번 논쟁에서 A는 오히려 사실을 잘 알고 있다.

단지 그가 보지 못한 것은 사실이 아니라 위치이다. 본인이 거부할 수 없는 자리에 서본 적이 없으면, 형식적으로 존재하는 자유가 실제로는 존재하지 않는다는 것이 보이지 않는다. 이것은 지식의 문제가 아니다. 단순한 역량 심사로는 이런 결함을 걸러낼 수 없다. 어떤 시험도 "당신은 약자의 위치를 상상할 수 있는가"를 채점하지 못한다. 채점하려는 순간 그 기준은 채점자의 위치가 될 것이다.

(3) 절차주의와 비지배

이 논쟁에서 A의 입장은 절차주의적 민주주의관에 대응한다. 규칙을 당사자의 힘의 관계와 무관하게 균일 적용하고 있다. 이러한 태도의 반대편은 공화주의적 비지배(Pettit)다. 타인의 자의적 의사에 종속된 상태 자체가 부자유다. 실제로 지시가 있었는지가 아니라, 지시를 거부할 수 없는 관계에 놓여 있다는 것이 문제다.

대리기사는 이 사안에서 정확히 그 상태에 있었다.

(4) 탈정치화

A는 논쟁 중에 "판례를 가져오면 수긍하겠다"로 이동한다. 규범적 질문을 사법 권위에 외주하는 것이다.

플랫폼 노동자가 차주의 지시로 발생한 위험을 부담해야 하는가

이것은 위험 배분에 관한 정치적 질문이다. 법률 검색으로 해결되지 않는다. 정치적 질문을 기술적 질문으로 번역하는 것은 중립이 아니라 현상 유지 편향이다. 그리고 판례는 충분히 많은 사람이 이미 손실을 흡수한 뒤에야 형성된다. 규칙 공백기의 비용은 언제나 먼저 걸린 사람이 낸다.


7. 맺음말

나는 이 글을 쓰는 내내 A가 대리기사의 위치를 보지 못한다고 주장하고 있다. 그 근거는 나는 대리기사의 사회적 위치를 상상할 수 있다는 것이다. 동시에 내 상상이 A의 상상보다 정확하다는 증명은 할 수 없다.

이 글을 쓰는 동안 내가 느낀 것 = 저 사람은 왜 이걸 못 알아듣는가?

이것이 정확히 에피스토크라시의 출발점이다. "진짜 이런 사람이랑 나랑 같은 한표라니"라고 쓴 사람은 A의 지식을 검증한 적이 없다. 결론이 다르다는 것만 확인했다. 나는 같은 일을 더 긴 글로 했을 뿐이다.

에피스토크라시에서 말하는 무능을 정의하는 것은 복잡한 현대 사회에서 거의 불가능하다. 정치적 쟁점의 대부분은 무지 대 지식의 대립이 아니라, 서로 다른 위치에서 보이는 것이 다른 상태다. 역량 심사는 이 차이를 걸러내지 못한다. 심사자의 위치를 정답으로 승격시킬 뿐이다.

민주주의가 우중정치라 평가절하되면서도 유지되는 이유가 여기 있다. 투표권은 옳은 답을 낼 능력에 대한 보상이 아니라, 강제력의 대상이 되는 사람에게 귀속되는 지위다. 거부할 수 없는 사람에게 한 표가 주어져야 하는 이유도 같다.

하지만 기술은 이러한 문제를 확대시킨다.

FSD와 AI 에이전트처럼 책임이 필요한 자리에 기계가 개입하는 일은 계속 늘어난다. 그때마다 운전석에 앉은 자가 결정한다는 기존의 규칙 위에서 기계가 동작하게 된다. 그리고 이 논쟁처럼 오래된 규칙은 자동으로 책임의 오배분을 낳는다. 자연스럽게 오배분의 결과 비용은 언제나 거부할 수 없는 쪽이 내게 된다.

결국 기술을 받아들일수록 한계를 드러내는 것은 우리의 사회 규범이다. 그래서 인간이 사회를 이루고 살아가는 한, 기술 종주국이 되는 것보다 중요한 것은 기술이 뿌리내릴 사회 시스템이라는 생각이 든다....

이것도 읽어보세요

댓글

이 에세이에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...