자율주행자동차의
법적 쟁점
인공지능 · 데이터 · 개인정보 · 책임을 중심으로
Rule-based에서 End-to-End까지
강의 개요
핵심 키워드: 개인정보 보호법 · 이동형 영상처리장치 · EU AI Act · GDPR · 제조물책임 · End-to-End 학습 · 알고리즘 편향 · 데이터 국외이전
기술적 배경
SAE 자율주행 레벨 분류와 법적 함의
| Level | 명칭 | 개요 | 대표 사례 | 법적 운전 주체 |
|---|---|---|---|---|
| L0 | 자동화 없음 | 운전자가 모든 것 수행 | 일반 차량 | 운전자 100% |
| L1 | 운전자 보조 | ACC, LKAS 등 단일 기능 | 현대 스마트크루즈 | 운전자 (감시) |
| L2 | 부분 자동화 | 조향+가감속 복합, 감시 필수 | Tesla Autopilot | 운전자 (감시의무) |
| L3 | 조건부 자율 | ODD 내 자동, 개입 요청 가능 | Mercedes EQS L3 | 시스템(ADS 작동 중)↔운전자(개입 요청 후) |
| L4 | 고도 자율 | 특정 ODD 내 완전 자율 | Waymo, 후쿠이현 버스 | 시스템 (ODD 내) |
| L5 | 완전 자율 | 모든 환경, 운전자 불필요 | 미래 목표 | 시스템 100% |
⚠️ 법적 문제: 국내 자동차관리법·자율주행자동차법은 SAE 레벨 수치를 명시 미채택 → L2와 L3 경계에서 책임 주체 판단 모호
※ 자율주행자동차법은 '부분 자율주행자동차'(L3 상당)·'완전 자율주행자동차'(L4·L5 상당) 독자 2분법 채택 - SAE 수치와 직접 대응되지 않음
자율주행 시스템 아키텍처 - 인지·판단·제어
🔍 인지 (Perception)
- LiDAR: 3D 점군, ~130만 pts/sec (Velodyne HDL-64E 기준, KITTI Dataset)
- Camera ×8: ~20~40 GB/hr (압축 기준, Tesla Autopilot 기준)
- Radar: 악천후 대응, 속도·거리
- GPS/IMU: 위치·자세 추정
- 센서 퓨전: 칼만 필터 통합
🧠 판단 (Planning)
- Route Planning: A*, Dijkstra
- Behavioral Planning: 차선 변경·추월
- Motion Planning: 궤적 생성
- 예측 모델: 타 차량 의도 추론
🎮 제어 (Control)
- PID Controller: 기본 제어
- MPC: 모델 예측 제어
- 액추에이션: 조향·가속·제동
- 안전 모니터: 비상 개입
📊 데이터 규모: 완전자율주행차 1대 시간당 압축 기준 수십 GB, 원시 데이터 기준 수 TB 규모 생성 (Geiger et al., KITTI, 2013; Waymo Open Dataset; 센서 구성·압축 방식에 따라 상이) - "움직이는 데이터 센터"
Rule-based 방식
- 인간 전문가가 명시적 규칙을 코딩하는 방식
- 대표 사례: 고려대학교 한민홍 교수팀 무인자동차(1992), DARPA Urban Challenge 2007 (CMU Boss), Google 초기 자율주행 (2009~2013)
- 장점: 완전한 투명성·예측 가능성·설명 가능성 → 화이트박스
- 단점: 엣지 케이스(edge case) 처리 한계, 확장성 부족
사고 시 어떤 규칙이 작동했는지 완전 추적 가능
제조물책임의 "설계상 결함" 판단이 상대적으로 명확
소프트웨어 버그 = 프로그래밍 오류로 책임 귀속 명확
규칙 예시
AND 상대속도 > 0
THEN 감속(비례제동)
IF 신호등 = 적색
AND 정지선거리 < 10m
THEN 정지
Machine Learning → End-to-End 학습
🤖 지도학습 기반 인지 (2013~)
- CNN으로 물체 감지: YOLO, Faster R-CNN
- 데이터셋: KITTI, nuScenes, Waymo Open Dataset
- 모듈식 파이프라인 - Waymo, GM Cruise 채택
- 장점: 해석 가능성 일부 유지
⚡ End-to-End 학습 (E2E)
- 센서 입력 → 직접 제어 명령 (단일 신경망)
- NVIDIA 2016년 논문: 카메라 3개 + 조향각 데이터로 학습
- Tesla FSD v12: 완전 E2E (Rule 코드 제거)
- 최신: BEVFormer, UniAD, DriveVLM
E2E 수식
ot = 센서 관측값
at = 제어 행동
θ = 신경망 파라미터
Fleet Learning 규모
End-to-End 학습의 핵심 법적 문제
- ① 블랙박스 문제
결정 과정 설명 불가 → EU AI Act 투명성·기술 문서화·자동 로그 의무(제11~13조)와 긴장 관계 - ② 학습 데이터 편향
특정 지역·기상·인종 편중 데이터 → 알고리즘 차별 문제 - ③ 운전 습관 데이터 = 개인정보?
주행 패턴, 급제동 습관 → 차량 번호와 결합 시 개인 특정 - ④ 지속적 데이터 전송과 동의
OTA·Fleet 학습 중 개인정보 보호법상 동의 체계 문제
Rule-based vs E2E 비교
| 구분 | Rule-based | E2E |
|---|---|---|
| 투명성 | 추적 가능 | 없음 |
| 설명 가능성 | 높음 | 매우 낮음 |
| 법적 책임 규명 | 용이 | 곤란 |
| 운행 중 플릿 학습 | 불필요 | 상시 필수 |
| OTA 후 재검증 | 용이 | 사실상 불가 |
| 성능 | 한계 | 우수 |
자율주행 기술 유형별 데이터 수집 목적 분류
📍 위치·맵 데이터
- GPS 궤적 → 경로 계획
- HD Map 구축·업데이트
- 랜드마크 데이터
📷 영상·센서 데이터
- 카메라: 물체 인식 학습
- LiDAR: 3D 환경 인식
- 외부 보행자·차량 촬영
🚗 차량·운전자 데이터
- OBD: 속도·제동 패턴
- DMS: 눈 움직임·졸음
- 음성: HMI 대화 데이터
★ 핵심 쟁점: "외부 보행자·차량 영상"은 차량 소유자의 동의와 무관하게 제3자를 촬영하는 것 → 이동형 영상처리장치 규제의 핵심 대상 (개인정보 보호법 제25조의2)
법적 쟁점
자율주행 데이터의 '개인정보' 해당 여부
"살아 있는 개인에 관한 정보로서 … 개인을 알아볼 수 있는 정보 (다른 정보와 쉽게 결합하여 알아볼 수 있는 정보 포함)"
| 데이터 유형 | 개인정보 해당 |
|---|---|
| GPS 궤적 + 번호판 | 해당 (결합 시) |
| 외부 카메라 (보행자 얼굴) | 원칙 해당 |
| 차량 번호판 | 해당 |
| DMS (눈 움직임·얼굴) | 민감정보 가능 |
| 운전 패턴·급제동 로그 | 결합 시 해당 |
| 음성 대화 데이터 | 해당 + 통신비밀 |
재식별화의 위험
de Montjoye et al. (Scientific Reports, 2013)
"Unique in the Crowd"
⚠️ 위치정보의 보호 및 이용 등에 관한 법률 제2조 제2호
위치정보는 다른 정보와 용이하게 결합하여 특정 개인의 위치를 알 수 있는 경우 개인위치정보에 해당
수집·이용의 법적 근거 - 동의와 그 대안
제15조 수집·이용 법적 근거 7가지
- 정보주체의 동의
- 법률 특별규정 또는 법령상 의무
- 공공기관 소관 업무 수행
- 정보주체와의 계약 이행
- 긴급한 생명·신체·재산상 이익
- 정당한 이익 (침해 과도하지 않을 것)
- 공공의 안전과 안녕을 위한 긴급 필요
동의 체계의 현실적 문제
- 운전자·탑승자: 차량 구매 약관에 포괄 동의 → 유효성 논란
- 제3자(보행자): 동의 취득 구조적 불가능
- 개인정보위: 포괄적·묵시적 동의는 원칙적 위반
목적 외 이용 허용 예외 - 제18조 제2항 (한정 열거, 부당한 이익 침해 시 적용 불가)
- 제1호: 정보주체 별도 동의
- 제2호: 다른 법률의 특별 규정
- 제3호: 생명·신체·재산의 긴급 이익
- 제10호: 공공의 안전·안녕을 위한 긴급 필요
- 제5~9호: 공공기관에만 적용
⚠ 안전 운행 목적 수집 → 상업적 AI 학습 이용 시:
제1호(별도 동의 없음) · 제2호(특별법 없음) · 제3·10호(상업적 학습 ≠ 긴급 공익) - 해당 각 호 없이 목적 외 이용 불가
데이터 국외 이전 - 데이터 주권의 부상
① 정보주체의 별도 동의 ② 법률 및 조약 근거
③ 계약 체결 및 이행 ④ 개인정보 보호 인증 등
⑤ 적정성 인정 국가 이전
| 국가 | 규제 수준 | 특징 |
|---|---|---|
| EU | 엄격 | GDPR 제44~49조, Schrems II 판결 |
| 한국 | 강화 | 2023 개정, 중지명령권 신설 |
| 중국 | 최강 | 중요 데이터 국외이전 원칙 금지 |
| 미국 | 완화 | 연방법 없음, 주별 상이 |
Tesla 중국 사례 (2021)
중국 군부: Tesla 차량의 군사기지 진입 금지 → 카메라의 군사 정보 수집 우려
결과: Tesla가 중국 내 데이터 센터 구축 완료
데이터 주권 (Data Sovereignty)
자율주행 데이터 = 단순한 개인정보 이상의 가치
→ 국가 안보·인프라 관련 전략 자산으로 부상
데이터 보안과 사이버 보안
- CAN Bus 해킹: Jeep Cherokee 원격 제어 시연 (Miller & Valasek, 2015)
- OTA 공격: 악성 펌웨어 배포 가능
- 센서 스푸핑: LiDAR·GPS 신호 조작
- V2X 통신 공격: 교차로 신호 조작
2024. 7. 1.부터 신규 형식승인 차량 국내 적용
→ CSMS(사이버보안 관리체계) 구축 의무화
개인정보 보호법 제34조
제1항: 유출 사실 인지 → 정보주체에게 지체 없이 통지 (별도 의무)
제3항: 일정 규모 이상 유출 시 → 개인정보보호위원회에 72시간 이내 신고
법적 쟁점
AI 학습 데이터와 저작권
TDM (Text & Data Mining) 논쟁
- HD Map, 도로 촬영 영상, 항공 지도 → 저작물성 인정 가능
- AI 학습 목적 복제·이용 → 저작권 침해?
- 한국: 저작권법 제35조의5 공정이용만 존재, TDM 명시 규정 없음
| 국가 | AI 학습 TDM 허용 범위 |
|---|---|
| 일본 | 가장 넓음 (제30조의4, 영리 무관) |
| EU | 비영리 연구 ○, 영리 opt-out 가능 |
| 미국 | 공정이용 판례 중심, 불확실 (Transformative use 여부 쟁점) |
| 한국 | 명시 규정 없음 → 논란 |
저작권 보호 대상 예시
- 구글·네이버 지도 서비스 → 편집저작물
- 도로 표지판 디자인 → 공공저작물 (제24조의2, 자유이용)
- 자율주행 알고리즘 → 영업비밀 (Waymo v. Uber, 2018 합의)
⚠️ 한국 입법 필요성:
문화체육관광부 저작권법 개정 논의 중
→ AI 학습 목적 TDM 허용 범위 명확화 시급
알고리즘 편향과 차별 금지
- 보행자 인식 편향
Wilson et al. (2019): 어두운 피부 보행자 인식 정확도 낮음 - 자율주행 안전 불평등 - 훈련 데이터 지역 편향
미국·서유럽 도로 중심 → 아시아·개도국 대응 취약 - 야간·악천후 데이터 부족
맑은 낮 데이터 편중 → 폭우·눈길 성능 저하 위험 - Gender Shades (Buolamwini & Gebru, 2018)
상용 얼굴인식의 피부색별 정확도 차이 입증 → 자율주행에도 동일 우려
EU AI Act 제10조 (데이터 거버넌스)
- 훈련·검증 데이터의 품질 관리 의무
- 편향 모니터링 및 보정 의무
- 고위험 AI → 데이터 대표성 확보 필요
한국 현황
- 차별금지법 미제정 → 알고리즘 차별 명시 규율 없음
- 행정기본법 제4조 평등 원칙 유추 적용 논의
- 인공지능기본법(2024 공포·2025. 1. 일반 시행·2026. 1. 고위험 AI 조항 시행): 편향 모니터링 의무
AI 모델 안전성 검증 · 형식승인
현행 형식승인 체계의 한계
- 자동차관리법 제30조: 전통 안전기준 중심 (제동거리·충격흡수)
- AI 소프트웨어 안전성 검증 기준 미비
- OTA 업데이트마다 형식승인? → 현실적 불가
- 업데이트 후 새 편향 발생 시 책임 불명확
UN R157 (ALKS): L3 고속도로 자율주행 최초 국제 기준 (2021)
UN R155·R156: 사이버보안·SW업데이트 의무화
XAI (설명 가능한 AI) 기법
- Grad-CAM: 주목 영역 시각화
- SHAP: 입력 특징별 기여도 분석
- LIME: 국소적 선형 근사
EU AI Act 제13조
고위험 AI: 투명성·사용자 정보 제공 의무
사고 시 원인 규명 위한 자동 로그 기록 의무 (제12조)
자율주행 데이터 거버넌스 - 소유권과 공유
차량 제조사
데이터 생성 인프라 제공
"플릿 데이터 독점" 주장
운전자·탑승자
데이터 생성 행위자
개인정보 자기결정권
SW 공급사
알고리즘·모델 제공
학습 결과물 귀속 주장
EU 데이터법 (Data Act, Reg. 2023/2854 - 2024. 1. 발효 / 2025. 9. 12. 적용 시작)
- 커넥티드 차량 사용자의 데이터 접근권 보장
- OEM → 제3자 서비스 제공자 데이터 공유 의무화
- 과도한 데이터 독점 금지
한국 현황과 과제
- 현행법: "데이터 소유권" 개념 자체 없음
- 자율주행자동차법 제50조: 자율주행자동차 통합정보시스템 구축
- 국토부 "AI 자율주행 허브" 구축 (2026. 4., 화성시)
- 경쟁법: 데이터 독점 = 시장지배적 지위 남용?
이동형 영상처리장치
자율주행차 카메라의 법적 규율
이동형 영상처리장치 - 왜 새 규정이 필요했나
기존 CCTV 규정의 한계
구 개인정보 보호법 제25조: "일정한 공간에 지속적으로 설치"된 장치 전제
이동하는 차량 카메라는
① 설치 장소 고정 없음
② 불특정 다수 이동경로 추적 가능
③ 수백만 대 = 도시 전체 모니터링
→ 기존 CCTV 규정으로 보호 불가
이동형 영상처리장치 정의
- 자율주행차 외부 카메라
- 드론 카메라
- 바디캠 (경찰관·경비원)
- 스마트 안경, 웨어러블
2023. 9. 15. 시행
개인정보 보호법 전면개정 - 제25조의2 신설
국내 최초의 이동형 영상처리장치 명시적 규율
개인정보 보호법 제25조의2 - 조문 분석
공개된 장소에서 이동형 영상정보처리기기로 사람·사물 영상 촬영 금지
예외 (각호)
1. 제15조제1항 각 호에 해당하는 경우
2. 촬영 사실 명확히 표시 → 정보주체 거부 의사 없는 경우
(권리 침해 우려 없고 합리적 범위 초과 않는 경우로 한정)
3. 대통령령으로 정하는 경우
제25조의2 제2항 (절대적 금지 - 누구든지)
목욕실·화장실·탈의실 등 사생활 현저히 침해 우려 장소 내부 촬영 전면 금지
(인명 구조·구급 등 대통령령 사유 제외)
제1항 예외에 해당하여 촬영하는 경우
불빛·소리·안내판 등 대통령령이 정하는 방법으로 촬영 사실 표시·고지
자율주행차에 대한 적용
- 자율주행 외부 카메라 → 이동형 영상처리장치 해당
- 공개 도로에서 보행자 촬영 → 원칙적 금지
- "촬영"의 엄밀한 정의?
→ 명확하지 않아 해석 논란 - 안내 의무: 고속에서 보행자가 인식 가능? 현실적으로 양산차에 표시 가능?
→ 실효성 의문
이동형 영상정보처리기기를 위한 개인영상정보 보호ㆍ활용 안내서 (2024)
- 수집 최소화: 자율주행 기능에 필요한 최소한만
- 비식별화: 특정 개인을 알아볼 수 없도록 가명처리
- 저장 제한: 지체없이 자동 삭제하거나 익명 처리
- 안내: 차량 외관에 식별 가능한 표시
핵심 쟁점 - 안전 목적 vs. 학습 목적
✅ 목적 A: 실시간 안전 운행
- 전방 충돌 방지, 차선 유지 등 안전 기능
- 처리 후 즉시 삭제, 저장 최소화
- 자동차관리법상 안전기준 달성 목적
→ 정당한 이익(제15조 제1항 제6호) 또는
법령상 의무 근거 인정 가능성 높음
⚠️ 목적 B: AI 모델 학습
- 수집 영상을 서버에 저장 후 ML 학습 활용
- 제3자(보행자) 얼굴·행동 데이터 포함
- 차량 제조사의 상업적 이익
→ 별도 법적 근거 필요
(동의 또는 가명처리 후 연구 목적)
⚠️ 현실 문제: E2E 학습에서 목적 A와 B는 분리되지 않음 - 실시간 운행 중 수집 데이터가 자동으로 학습 데이터화
→ 목적 외 이용(제18조 제1항) 해당 가능성 / 제18조 제2항 각 호(별도 동의·특별법·긴급 공익) 어느 것도 충족하기 어려움
영상정보 처리 특례 - 임시운행허가 차량에 한한 수집 자유화
법률 제21482호, 2026. 3. 17. 일부개정 / 2026. 6. 18. 시행
① 자율주행자동차 임시운행허가를 받은 자(자율주행자동차제작자등)는 자율주행시스템의 성능 및 안전성 향상 목적으로 특정 개인정보가 포함된 영상정보를 촬영·수집할 수 있으며, 수집한 영상정보를 익명처리 또는 가명처리를 하지 아니하고 이용할 수 있다.
② 수집한 영상정보를 특정 개인 식별 목적으로 이용하거나 목적 외 이용·제공 금지
③ 분실·도난·유출 등 방지를 위한 기술적·관리적 보호조치 의무 (대통령령 위임)
④ 수집일부터 5년 경과 시 지체 없이 파기 의무
제20조와의 관계: 제20조는 익명처리한 경우 개인정보보호법 등의 적용을 배제. 제20조의2는 제20조에도 불구하고 익명·가명처리 없이도 수집·이용을 허용하는 추가 특례
⚠️ 핵심 한계 - 적용 대상의 제한
특례 대상: 「자동차관리법」 제27조 제1항에 따른 임시운행허가를 받은 자에 한정
- 임시운행허가 차량 = 시험·연구 단계의 소수 차량
- 양산·판매 차량은 특례 미적용 → 소비자에게 인도된 차량에서 수집한 영상정보는 여전히 개보법·위치정보법 전면 적용
- E2E 학습에 양산 차량 데이터 활용 시 별도 법적 근거(동의·가명처리 후 연구목적 등) 필요
입법 공백 - 상용화 이후를 위한 입법 과제
- 임시허가 → 정식 형식승인 후: 특례 소멸, 법적 공백 발생
- 동일 차량·동일 카메라, 허가 전후 법적 지위 급변
- 레벨 4·5 상용화 시 Fleet Learning용 데이터 수집 근거 입법 필요
각국의 규제 패러다임과 한국에의 시사점
EU - GDPR과 자율주행 데이터
GDPR 핵심 원칙 (제5조)
- 목적 제한: 수집 목적으로만 이용
- 데이터 최소화: 필요 최소한만 수집
- 저장 제한: 필요 기간만 보유
- 무결성·기밀성: 보안 의무
자동화 의사결정 (제22조)
자동화 처리만으로 법적 효과 또는 유사한 중대한 영향을 미치는 결정 원칙 금지
→ 자율주행차의 긴급 회피 결정이 제22조 '개인에 관한 자동화 결정'에 해당하는지 논쟁 중
※ 트롤리 문제와의 윤리적 접점에서 논의 - 제22조 직접 적용 여부는 불확실
DPIA 의무 (제35조)
대규모 공개 장소 체계적 감시 시 DPIA 필수
→ 자율주행 데이터 수집 = DPIA 의무 대상 가능성
미국-EU Privacy Shield 무효화
→ 미국으로의 데이터 이전 리스크 급증
한국 GDPR 적정성 결정 (2021. 12.)
→ EU ↔ 한국 데이터 이전 용이 (한국 기업에 유리)
EU AI Act - 자율주행 AI의 고위험 분류
위험 분류 체계
고위험 AI 의무 (제9~15조)
- 위험 관리 시스템 구축 (제9조)
- 훈련 데이터 품질 관리, 편향 모니터링 (제10조)
- 기술 문서화 의무 (제11조)
- 자동 로그 기록 (제12조)
- 투명성·사용자 정보 제공 (제13조)
- 인간 감시 가능 설계 (제14조)
- CE 인증 (적합성 평가) 요건
🚫 실시간 원격 생체인식 (제5조): 공개 장소 안면인식 원칙 금지
→ 자율주행 카메라의 실시간 보행자 안면인식 시 적용
미국 - 연방·주 분권 체계
연방 규제 기관
| 기관 | 역할 |
|---|---|
| NHTSA | 연방 자동차 안전기준, 사고 보고 의무 |
| FTC | 소비자 프라이버시 보호 |
| FCC | V2X 통신 주파수 할당 |
NHTSA AV SGO (2021~):
L2 이상 자동화 기능 작동 중 사고 → 15일 내 NHTSA 보고
Tesla: 2021~2023 기간 936건으로 보고 건수 1위
주별 자율주행 규제 편차
- 🌴 캘리포니아: 가장 엄격, DMV 허가 + 사고 보고
CCPA/CPRA: 차량 위치·주행 데이터 = 민감한 개인정보 - ☀️ 텍사스: 무인 자율주행 허용, 가장 완화
- 🌞 플로리다: 안전기준 없이 자율주행 허용 (2019)
- 🎰 네바다: 최초 자율주행 허가 (2012)
⚠️ 연방 프라이버시법 부재 - 미국에는 GDPR 같은 포괄적 연방 개인정보법 없음
주별 20개 이상 법률 난립 → 규제 불확실성
독일 - 세계 최초 L4 법률 / 일본 - Soft Law 중심
독일 StVG (2021. 7. 개정) 및 AFGBV (2022. 5. 제정)
세계 최초 L4 자율주행 상용화 법률
- 특정 운행구역 내 L4 허용
- 기술감독관(Technische Aufsicht): 원격 감시·개입 주체
- 사고 시 → 차량 소유자(Halter) 1차 책임 → 제조사 구상
- 데이터 저장 장치(DSSAD): 사고 전후의 차량 거동·시스템 데이터를 자동 기록 및 저장할 의무
상시 녹화(permanente anlasslose Aufzeichnung) = 개인정보 수집
→ 정당한 이유 없는 경우 독일 개인정보보호법(BDSG) 위반
→ 단, 위법하게 촬영된 영상이라도 교통사고 민사재판에서 증거 능력은 예외적으로 인정
일본 - Soft Law 중심
- 도로교통법 개정 (2019, 2020.4. 시행): L3 자율주행 허용
- 도로교통법 개정 (2022): L4 자율주행("특정자동운행") 제도화
- 일본 최초 L4 무인카트 정기 운행 승인(2023): 후쿠이현 에이헤이지마치
- AI 사업자 가이드라인 (총무성, 경제산업성, 2024): 민간 자율규제 기반의 원칙 중심 Soft Law
일본 저작권법 제30조의4
"정보해석을 위한 복제"는 저작권 침해 아님
→ AI 학습 목적 이용: 가장 넓은 허용
기업 친화적 → 글로벌 AI 학습 데이터 허브 역할
※ L3: 도로교통법 2019년 개정(2019.12. 시행) / L4(특정자동운행): 2022년 개정
중국 - 국가 주도 데이터 주권 / 한국 - 현황과 과제
중국 - 가장 엄격한 데이터 통제
- 데이터보안법 (2021): 데이터 = 국가 전략 자산
- 개인정보보호법 (2021): GDPR 유사 구조
- 자동차 데이터 보안 관리 규정(시행) (2021): "중요 데이터(重要数据)"의 국외이전 엄격심사
- 자동차 데이터 국외 반출 보안 지침 (2026): "중요 데이터(重要数据)"의 범위 구체화
- Tesla 2021년 사례: 군부 진입 금지 → 중국 내 데이터 서버 구축 강제
한국 - 핵심 법령
- 자율주행자동차법 (2020 시행): 임시운행 허가, 안전구역, 정보 구축
- 개인정보 보호법 (2023 시행, 전면개정): 이동형 영상처리장치 신설
- 자동차관리법: UN R155·R156 도입 (신차 2025.8. 시행, 기존차 2027.8. 시행)
- 인공지능기본법 (2024 제정 · 2025.1. 시행 · 2026.1. 고위험AI조항 시행)
한국의 과제
- AI 학습 데이터 수집 법적 근거 불명확
- 이동형 영상처리장치 예외 요건 모호 → 시행령 필요
- 자율주행 AI 고위험 분류 체계 미완성
- 사고 책임 특례 입법 미비
주요국 비교법 - 종합 비교표
| 구분 | EU | 미국 | 독일 | 일본 | 중국 | 한국 |
|---|---|---|---|---|---|---|
| 자율주행 전용법 | 없음(회원국 각자) | 없음(주별) | AFGBV (2022 시행) | 도교법 개정 (2023 시행) | ICV 규정 (2022 시행) | 자율주행자동차법(2020 시행) |
| AI 규제 | AI Act (2024 발효) 엄격 | 연방법 없음 유연 | AI Act 적용 | 가이드라인 중심 | 국가통제 강함 | AI기본법(2026 시행) |
| 개인정보 | GDPR 엄격 | 주별 상이 | GDPR 적용 | 개인정보법 | PIPL 엄격 | 2023 전면 개정 |
| 이동형 영상 | GDPR 원칙 적용 | 주별 법률 | GDPR 적용 | 규정 없음 | 차량데이터규정 | §25조의2 신설 |
| AI 학습 TDM | DSM 지침(opt-out) | 공정이용 판례 | DSM 지침 | 가장 넓은 허용 | 규정 없음 | 불명확 |
| 데이터 국외이전 | GDPR 44~49조 | 사실상 자유 | GDPR 적용 | 강화 추세 | 원칙 금지 | §28조의8 |
| 규제 성격 | Hard Law(엄격) | Soft Law(유연) | Hard Law | Soft Law | 국가통제형 | 혼합형 |
교통사고 책임과 보험
Uber AV 치사 사건 (2018)
- 2018. 3. 18. 아리조나 - 보행자 사망
- 시스템이 보행자 분류에 혼동(알 수 없는 물체·자전거 등)
- 비상 제동 비활성화 상태였음
- 안전 운전자는 스마트폰 시청 중
민사: Uber → 유족과 비공개 합의
★ AI 시스템 결함 + 인간 감시 의무 + 기업 책임이
교차하는 전형적 자율주행 사고 사례
현행법상 책임 분석
⚖️ 자배법 제3조
"운행자"는 운행으로 타인을 사상한 경우 손해배상 책임
- 자율주행 중 사고 = "운행" 해당
- 면책 요건: 주의 의무 + 구조적 결함 없음 → 자율주행 결함 시 면책 불가
- 한계: L4 무인차의 "운행자" 개념 자체 변형
⚖️ 제조물책임법
결함(설계·제조·표시)으로 인한 손해 → 제조업자 책임
- 설계 결함: 합리적 대체설계 불채택 - E2E의 경우 입증 곤란
- 표시 결함: "Full Self-Driving" 마케팅 과장
- 개발위험 항변: 당시 기술로 발견 불가 주장
⚖️ 블랙박스 입증 문제
AI 결정 과정 불투명 → 어떤 판단이 잘못되었는지 입증 어려움
- 제조물책임법 제3조의2: 결함 추정 (정상 사용 중 손해 발생 증명)
- 포렌식: EDR·로그 데이터 분석 필수
- 수사기관 기술 역량 미흡
🚨 형사 책임: AI는 형사 피고인 불가 → 안전 운전자·임직원·법인 양벌규정 적용 논의
도로교통법: L4 무인차가 신호 위반 시 누가 처벌? → 법 체계 근본 재설계 필요
책임 배분 이론 - 다양한 접근
① 엄격책임 (Strict Liability)
과실 유무와 관계없이 제조·배포에 따른 결과적 책임
장점: 피해자 보호, 정보 비대칭 해소
단점: 기술 혁신 억제, 개발 비용 증가
② 비교 과실 (Comparative Fault)
알고리즘 결함 70% + 운전자 부주의 20% + 도로 결함 10%
문제: 기여율 산정 비용·시간 막대
③ 채널링 (독일 StVG §7·§1f 모델)
StVG §7: 차량 보유자(Halter) 위험책임(Gefährdungshaftung) 1차 부담
StVG §1f: L4 ADS 작동 중 보유자 면책 → 제조사·기술감독관으로 귀속
장점: 피해자 단일 청구 상대방
단점: 구상 절차 복잡
④ 공동 책임풀 (영국 AEVA 2018 · AVA 2024)
AEVA 2018: 보험사 1차 보상 → 원인 규명 후 개발자 구상
AVA 2024 §47·48: ADS 작동 중 운전자 형사 책임 감면
장점: 피해자 신속 구제 + 혁신 지원 균형
→ 한국법 개정 시사점
주요국 자율주행 사고 책임 법제
영국 AEVA 2018 + AVA 2024 (세계 선도 모델)
- AEVA 2018 (보험 책임): 보험사가 피해자에게 1차 보상
- 보험사 → 자율주행 시스템 개발자에게 구상권
- "허가된 자율주행 기능" 작동 중 차량 소유자 면책
- AVA 2024 §47·48 (형사 책임): ADS 작동 중 운전자 형사 책임 감면 규정
독일 StVG §7·§1f
- §7: 차량 보유자(Halter) 위험책임(Gefährdungshaftung) - 과실 무관 1차 책임
- §1f: L4 ADS 작동 중 → 보유자 면책, 제조사·기술감독관으로 책임 귀속
- AFGBV는 허가·운행 요건(operational) 규정 - 손배 책임 근거는 StVG
미국 - 판례 형성 중
- NHTSA: Tesla FSD·Autopilot 관련 사고 다수 조사
- 2023. 12.: NHTSA, Tesla에 200만 대 리콜 명령
- Tesla Autopilot 관련 손해배상 소송 다수 진행 중 - "Full Self-Driving" 명칭 과장 광고 책임 쟁점
한국 현황
- 자율주행 사고 책임 특례법 없음
- 현행: 자배법(운행자 책임) + 제조물책임법
- 국토부 '자율주행차 사고책임 TF' → 2026년 출범
- 자동차손해배상보장법 및 자율주행자동차법 개정 논의 중
자율주행차 보험 체계의 재편
기존 시장 축소
자율주행 보급 → 인간 과실 사고 감소 → 개인 보험 수요 감소 (McKinsey, 2023)
책임 주체 이동
신규 보험 시장
- 자율주행 제품책임보험
- 사이버 보험 (차량 해킹)
- 데이터 보험 (개인정보 침해)
- 플리트 보험 (로보택시)
⚡ UBI(사용량 기반 보험): 자율주행 레벨별 보험료 차등 - L2 수동 구간: 운전자 과실 기반 / L4 자율 구간: 제조사 책임 기반
→ 주행 데이터 수집 목적과 보험 연계 → 개인정보 문제 재부상
트롤리 문제 - AI 윤리와 법의 경계
자율주행의 트롤리 문제
불가피한 사고 상황에서 AI가 누구를 피해야 하는가?
The Moral Machine experiment (Nature, 2018)
233개국 230만 명 참여 - 국가별 선택 경향 차이 확인
동아시아 (한국 포함): 고령층·보행자 우선
서구: 다수·어린이 우선
법적 접근 방향
- 독일 윤리위원회 (2017): 나이·성별·장애 등 개인 특성에 따른 생명 선택 금지
- 공리주의적 "총 피해 최소화 원칙" 권고
- EU AI Act: 차별 금지 원칙 = 알고리즘 생명 선택 알고리즘 금지
- 트롤리 문제 자체를 설계로 회피 (충분한 제동 능력 확보)
⚠️ 법적 면책 규정 필요: 선택 불가피한 상황에서 제조사 면책 조항 검토
→ 어떤 윤리 원칙을 법적 기준으로 채택할 것인가? - 사회적 합의 필요
종합 결론 및 정책 제언
핵심 정책 과제
- 자율주행 전용 데이터 법제
안전 목적 vs. 학습 목적 구분 규정 신설 - 이동형 영상처리장치 시행령·고시 정비
예외 요건 구체화, 실현 가능한 안내 방법 고시 - AI 모델 안전성 검증 체계 구축
고위험 AI 분류 확정, 알고리즘 로그 보존 의무화 - 자율주행 사고 책임 특례 입법
영국 AEVA 2018 모델 참고, 보험사 1차 보상 체계 - 국제 협력 강화
UN WP.29 적극 채택, EU·미국·일본과 공동 기준 개발