연구보고서
미래세대 보호를 위한 법적 과제 4 - 인공지능(AI)에 대한 유럽연합(EU)의 규제체계와 대응전략을 중심으로 -
Legal Imperatives for the Protection of Future Generations 4 - Focusing on the European Union's regulatory framework and response strategies for artificial intelligence (AI) -
Ⅰ. 배경 및 목적
▶ 연구의 목적
○ 인공지능백서(White Paper on Artificial Intelligence)를 비롯하여 인공지능에 대한 유럽연합(EU)의 정책이나 전략을 상세히 분석하여 인공지능시스템에 대한 규제체계나 전략방안을 구축하는 것을 목적으로 하고 있음
○ 인공지능 정책에 대한 신뢰확보를 통해 산업계의 투자를 유인하고, 인공지능에 대한 연구와 혁신에 대한 중장기 국가정책의 기초를 마련하는 것을 목적으로 함
▶ 연구의 필요성
○ 알고리즘(algorithms) 기반의 인공지능은 프라이버시(Privacy)나 개인정보의 침해를 비롯한 기본권 침해나 소비자 보호, 리스크 증가 등을 발생시키므로 규범적 차원에서 이에 대한 대응전략이 필요함
○ 디지털 시대에 진입함에 따라 국가경쟁력을 강화해야 하며, 인공지능시스템에 대한 국가차원의 전략과 비전을 제시해야 함
Ⅱ. 주요 내용
▶ 유럽연합의 인공지능 정책 및 전략
○ 유럽집행위원회는 2018. 4. 25. ‘유럽을 위한 인공지능’에 관한 커뮤니케이션을 발표하였고, 산업부문의 디지털 전환정책을 추진하고 있음. 이후 2018. 5. 15. ‘신뢰받는 디지털 단일시장의 완성’에 관한 논의를 하였고, 2019. 4. 8. 유럽집행위원회는 ‘인간중심적 인공지능에 대한 신뢰형성’을 강조하고 있음
○ 인공지능에 대한 유럽연합의 전략은 인간중심적 인공지능에 대한 신뢰형성을 기반으로 하고 있으며, 인간의 존엄과 가치, 자유, 민주주의, 평등, 법의 지배 및 소수자 보호 등을 망라한 기본권 보호에 기반을 둔 정책을 추진하고 있음
○ 유럽연합은 디지털 혁신 허브로서 네트워크를 구축하고 데이터를 공유할 수 있는 데이터공간의 확보를 위해 노력하고 있으며, 데이터에 대한 단일시장의 구축을 통해 국제적 경쟁력과 데이터 주권을 확보하기 위한 정책을 추진하고 있음
○ 특히 2020. 2. 19. 유럽집행위원회가 발표한 인공지능백서(White Paper on Artificial Intelligence)와 유럽데이터전략(A European strategy for data) 등에는 구체적인 규제체계와 대응방안, 그리고 공통의 유럽데이터 공간의 거버넌스에 대한 입법체계에 대한 구상을 밝히고 있음
▶ 디지털시대의 기본권 보호와 민주주의
○ 편견이나 선입견을 가진 인공지능은 민주적 여론형성이나 자유로운 정치적 의사형성을 특징으로 하는 의회민주주의에 위협적 요소가 되고 있으며, 인공지능시스템의 민주적 정당성을 확보하는 것이 중요한 과제의 하나이며 알고리즘 기반의 인공지능에 의한 자동결정도 법률에 기속되도록 해야 함
○ 인공지능에 의한 차별을 방지하고 편견을 차단하기 위해서는 프로그램의 설계와 데이터의 입력 단계에서 보다 정확하고 객관적인 데이터를 설정해야 하고, 이에 대한 투명성을 확보하기 위해서는 민간부문의 참여와 협력을 보장하는 거버넌스 체계를 구축해야 함
○ 디지털 전환에 따른 인공지능 결정에 민주적 정당성을 확보하기 위해서는 인간의 감독이 보장되고 리스크관리시스템이 보장되어야 한다. 인공지능에 대한 규제의 범위와 수위에 있어서도 고도의 리스크가 있는지 여부에 따라 차별화하고 있으며, 이러한 점은 향후 우리나라의 규제체계를 설계함에 있어서 고려해야 할 부분임
▶ 인공지능에 대한 안전 및 책임문제에 대한 분석 및 대응
○ 인공지능 의사결정의 어떤 단계에서 행위성이 나타나는지 불명확하며, 소프트웨어를 제조물과 분리하여 별개로 보기 어려우며, 소프트웨어를 쉽게 업데이트하거나 조작할 수 있으므로 기존 책임법리를 그대로 적용하는데 한계가 있음
○ 사전예방적 리스크 관리는 국가 차원의 예방적 조치로서 사전고지, 사전예방적 보상체계(책임보험), 리스크관리 격차를 줄이기 위한 공통 가이드라인 마련이 요구되며, 사후책임관리에 관하여, 유럽연합 제조물 책임지침에 따르면 이용자 과실이 있는 경우에는 과실책임, 제품의 하자로 발생한 손해에 대해서는 엄격책임 적용이 가능함
○ 인공지능이 정보수집→판단→실행행위를 하는 경우, 제조물 제조사-소프트웨어 설계자-이용자(사실상의 지배자)의 행위성이 없거나 매우 낮은 상태에서 손해가 발생할 수 있으므로 과실책임자를 명확하게 밝히기 어려울 수 있음. 고도화된 인공지능에 엄격책임이 적용되고 제조사가 개발이익의 항변으로 면책될 경우 손해배상의 주체가 없어지게 됨
○ 유럽의회 로봇 엔지니어를 위한 윤리적 행동지침에서 "로봇의 선한이용, 악의없는 이용, 외부 압박없는 자율성 확보, 정의실현"을 목표로 제안하고 실천방안으로 로봇의 인간을 위한 활용, 인간의 기본권 보호, 프라이버시 보호, 불법행위에 대한 엄격책임 원칙, 의무보험 또는 보상기금제도 도입, 인공지능 등록제도, 인공지능 지능형 로봇에 대한 인격권 부여방안이 제안됨
○ 1-2단계의 자율주행시스템에서는 원칙적으로 운전자의 운전의무가 전제되므로 운전자가 불법행위 책임을 부담함. 비상시에만 수동운전으로 전환하는 3단계의 경우 사고 시 운전자는 부작위에 의한 불법행위책임을 부담함. 운전자의 의식적 행위가 거의 이루어지지 않는 4-5단계에서는 손해가 발생하더라도 운전자에게 불법행위 책임이 있다고 보기 어려움
○ 의료행위는 인간의 의식적 판단을 근거로 이루어지므로 인공지능 결함이 명백한 경우에는 엄격책임이 적용되나, 그러한 경우가 사실상 없다는 점을 고려한다면, 인공지능이 포함된 의료기기를 보조적 수단으로 활용한다 할지라도 의료행위는 의료인의 의학적 판단과 식견에 따라 이루어지는 것으로 볼 수 있음
▶ 인공지능 규제패러다임과 규제체계의 설계
○ 유럽연합 인공지능 백서에서는 단계화된 리스크 관리라는 관점에서 리스크 기반 규제를 제시하고 있으며, 이를 통해 인공지능 규제목적을 보다 적합하고 구체적으로 설정할 수 있음
○ 인공지능 윤리규범과 같이 연성규범에서 출발하여 중장기적으로는 리스크 기반 규제의 방식으로 접근하는 것이 바람직함
○ 인공지능에 대한 규제전략은 리스크의 수위나 강도에 따라 차별화가 필요하며, 고도의 리스크는 개인과 사회에 대한 영향력을 고려하여 판단되어야 함
○ 민간부문이나 연구분야 등에서는 자율규제가 고려되어야 하고, 국가와 민간부문의 협력이 필요한 분야에서는 규제된 자율규제가 접목될 수 있음. 그러나 고도의 리스크가 있는 분야에 대해서는 인간의 감독과 고권적 규율이 필요함
Ⅲ. 기대효과
○ 인공지능에 대한 유럽연합의 정책적 변화와 최근 동향을 체계적으로 검토하여 인공지능 규제를 위한 정책 방향을 제시하고, 정부의 규제전략을 수립하는 데에 기여함
○ 기본권보장, 안전 및 책임 등 인공지능과 관련된 문제에 대한 윤리적･규범적 근거를 분석하여 법령의 제정 및 정비 방안을 위한 기초를 마련하고, 투명성 확보를 통해 산업계의 신뢰를 확보할 수 있는 이론적 토대를 제공할 수 있음
○ 유럽연합의 규제패러다임에 관한 상세한 분석을 통해 학계에서 인공지능에 대한 규제분야의 논의가 활성화될 수 있는 동기를 제공하고, 인공지능과 관련된 민주주의와 인권 등 헌법적 가치에 관한 학계의 논의를 견인하는데에 기여함
요 약 문 5
Abstract 11
제1장 서론 / 23
제1절 연구의 목적 및 필요성 25
1. 연구의 목적 25
2. 연구의 필요성 29
제2절 연구의 범위와 방법 31
1. 연구의 범위 31
2. 연구의 방법 33
제2장 유럽연합의 인공지능 정책 및 전략 / 35
제1절 인공지능에 대한 유럽연합의 접근방식 및 전략 37
1. 디지털사회의 도래와 유럽연합의 인공지능 전략 37
2. 인공지능에 대한 윤리 가이드라인의 제정 50
제2절 유럽연합의 인공지능백서 57
1. 인공지능백서의 제정 경위 57
2. 인공지능백서의 주요 내용 59
제3절 시사점 77
제3장 인공지능시대의 기본권보호와 민주주의 / 81
제1절 디지털시대의 인공지능과 민주주의 83
1. 알고리즘에 기초한 인공지능과 민주주의 83
2. 인공지능시스템의 민주적 정당성 확보 86
3. 인공지능에 의한 행정과 절차적 권리 89
제2절 인공지능시대의 기본권보호와 대응전략 92
1. 인공지능과 유럽연합의 기본권보호 92
2. 인공지능과 관련된 유럽연합의 데이터 보호정책 94
3. 인공지능에 의한 차별 금지와 평등 보호 97
제3절 시사점 100
제4장 인공지능에 의한 안전 및 책임문제에 대한 분석 및 대응 / 103
제1절 인공지능 리스크에 관한 공법적 접근 105
1. 인공지능 리스크 논의의 배경 105
2. 인공지능 리스크의 특수성 109
3. 유럽연합의 인공지능 리스크에 대한 공법적 접근 111
제2절 인공지능 리스크 사회의 안전과 책임 논의 112
1. 인공지능 리스크의 일반적 유형 112
2. 인공지능 리스크의 안전과 책임확보 방안 114
3. 인공지능 안전과 책임에 관한 일반 법체계 117
제3절 개별 영역에서 안전과 책임 논의 127
1. 개관 127
2. 로봇공학 영역에서 안전과 책임 128
3. 자율주행자동차에서 안전과 책임 136
4. 의료영역에서 안전과 책임 143
제4절 인공지능 리스크 관리를 위한 대응방안 151
1. 인공지능 리스크관리를 위한 논의의 전개 151
2. 인공지능 설계를 위한 윤리원칙과 실천원칙 152
3. 논의의 시사점 154
제5장 인공지능 규제패러다임과 규제체계의 설계 / 157
제1절 논의의 방향 159
1. 인공지능 규제체계의 설계 방향 159
2. 배경 발상 161
제2절 규제체계의 논의 방식 163
1. 규제의 일반원리 163
2. 규제의 필요성과 가능성 166
제3절 인공지능 규제의 패러다임 169
1. 규제 일반원리의 적용 169
2. 인공지능 윤리와 규제 175
3. 인공지능규제의 체계화 가능성 189
4. 인공지능의 리스크 기반 규제 191
5. 규제법과의 접점: 규제목적과 영역특수성 196
제6장 결론 / 205
참고문헌 217
부 록 227
1. 유럽연합의 인종평등지침 229
2. 유럽연합의 제조물 지침 248
본 공공저작물은 공공누리 “출처표시+상업적이용금지+변경금지” 조건에 따라 이용할 수 있습니다.
키워드
"인공지능백서"
" 알고리즘"
" 인공지능"
" 디지털시대"
" 윤리가이드라인"
" 데이터보호"
" 민주주의"
" 프라이버시"
" 리스크"
" 안전"
" 책임"
" 규제패러다임"
" 규제체계"
" 리스크 기반 규제"
저자
관련보고서 [ *이 연구보고서의 관련 저자는 "정남철, 계인국, 김재선" 입니다.]