연구보고서
리스크 기반 규제의 법제화 연구 : 게임체인저 기술 법제를 중심으로
Legislating Risk-based Regulation : Focusing on Legal Frameworks for Game-changing Technologies.
Ⅰ. 배경 및 목적
▶리스크 기반 규제(Risk-Based Regulation) 이론의 법제화 연혁과 내용을 분석하고, 주요 쟁점을 도출함으로써 게임체인저 기술의 규제 규범으로 작용하고 있는 리스크 기반 규제의 법제화에 참고가 될 수 있는 기초연구를 수행함
▶4차 산업혁명을 유발한 3대 게임체인저대통령직속 국가과학기술자문회의(Presidential Advisory Council on Science & Technology, PACST) 제6회 전원회의(‘24. 4. 25.)는 우리나라 3대 게임체인저 기술로 AI-반도체, 첨단바이오, 퀀텀(양자) 기술을 선정하고 민ㆍ관 합동으로 비전과 전략을 구체화한 3대 게임체인저기술 이니셔티브를 발표하였다. 관계부처 합동, ‘AI-반도체 이니셔티브’, ‘첨단바이오 이니셔티브 -2035 글로벌 바이오 강국 도약-’, ‘퀀텀 이니셔티브 -양자과학기술 대도약, 디지털을 넘어 퀀텀의 시대로-’, 2024. 4. 25.
기술인 인공지능(AI)-반도체 기술본 연구는 3대 게임체인저 기술로 지정된 AI-반도체 기술 중 AI 기술에 한정하여 리스크 기반 규제 법제 연구를 수행하였다. AI와 반도체 기술은 상호 연계되는 기술이지만, 반도체의 경우 GPU, NPU 등 고성능 프로세서 수요와 산업 경쟁력 강화를 위한 인프라 기술에 초점이 있는 반면, AI는 사회적 위해를 직접 발생시키는 소프트웨어적 기술이다. 대표적인 AI 관련 법제인 EU AI Act는 AI 시스템이 하드웨어에 내장되어 있는지 여부를 불문하고, AI 소프트웨어 기능 자체가 규제 대상임을 명시하고 있으며(recital 12), 반도체 기술 자체가 아닌 AI의 기능(소프트웨어 모델, 알고리즘, 데이터 처리)을 중심으로 인공지능 기술의 활용이 사회적 리스크를 발생시킬 수 있음에 기초하여 리스크 기반 규제, 법체계를 설계하고 있다. 따라서 본 연구에서는 하드웨어 기반 기술인 반도체 기술을 제외하고, 사회적ㆍ윤리적 리스크를 수반하는 인공지능 기술을 중심으로 규제 방안을 분석하였다.
, 첨단바이오 기술, 양자과학(퀀텀)기술 관련하여, 리스크 기반 규제(Risk-Based Approach)에 기초한 규범 제정이 국제적으로 주목받고 있음
○ 미국, EU, 일본 등 3대 게임체인저 기술 선도국의 리스크 기반 규제 법제화 동향
-유럽연합은 로봇공학, 인공지능 및 관련 기술의 윤리적 관점의 체계를 제안하는 결의안(2020)에서 유럽연합 디지털 기술 규범을 리스크 기반 규제를 중심으로 형성할 것을 제안하고 EU AI Act 입법(2024), 미국은 국가 인공지능 이니셔티브 법(2020)에 근거하여 인공지능 리스크 관리 체계(AI Risk Management Framework) 제정(2023)
-일본은 첨단바이오 분야 ｢재생의료 등의 안전성 확보 등에 관한 법률｣에서 리스크 기반 규제 입법(2014)
-양자과학기술 관련하여, 리스크 기반 규제를 법제화해야 한다는 논의(2022), 유럽연합은 양자과학기술의 민간ㆍ군용 활용성에 주목하여, 회원국들의 집단적인 리스크 평가 권고(2024)
▶우리나라는 게임체인저 기술 분야에서 국제적 정합성을 갖춘 법제 체계의 선제적 마련 의지를 표명하고 관련 법령을 제정하고 있지만, 리스크 기반 규제(Risk-Based Regulation) 법제에 대한 기초연구는 아직 충분히 축적되지 않은 상황이므로, 본 연구는 기초연구의 관점에서 리스크 기반 규제의 연혁, 개념, 적용요건과 원리를 체계적으로 분석하는 데 목적을 둠
○선행연구는 행정학, 경제학 관점의 리스크 기반 규제 연구에 제한되어 있고, 법제적 관점에서의 연구 결과는 거의 없어, 리스크 기반 규제의 법제화 연혁과 내용, 법제화에서의 주요 쟁점을 분석하여 합리적인 규제 법제화 방안을 모색함
○2025년도 기준, 새롭게 대두된 리스크 기반 규제 법제화 분야인 3대 게임체인저 기술 관련 입법 사례를 조사 및 분석하여 시사점 도출
○ 향후 리스크 기반 규제 법제화의 과제 도출, 규범화 추진의 기초 자료 활용
Ⅱ. 주요 내용
▶ 리스크 기반 규제 법제의 형성 연혁 및 체계 조사ㆍ분석
○ 리스크 기반 규제(Risk-Based Regulation) 분석
- 리스크 개념, 리스크 규제의 형성 연혁, 규제방법론을 체계적으로 분석함
-리스크 기반 규제는 규제기관이 리스크 정도ㆍ심각성ㆍ발생가능성에 비례하여 규제수준을 합리적으로 차등화하는 의사결정 전략임. 영국에서 처음 개념 제안된 이래(Hutter, 2005), OECD를 중심으로 각국 규제기관의 핵심 규제원리로 채택할 것을 권고하여 옴(OECD, 2010)
-리스크의 어원은 ‘위험을 감수한다’(risicare)는 의미에서 출발하며, 해상보험 영역에서 손해의 중대성과 발생가능성을 결합하여 보험요율을 산정하는 기준으로 처음 체계화되었다는 점에서 확률ㆍ중대성 개념이 핵심임
-제2차 세계대전 이후 과학기술이 초래한 복합적ㆍ예측불가능한 리스크가 등장하며 근대적 합리성만으로 통제할 수 없는 위험사회(Risk society)에 대응하기 위한 새로운 규제 패러다임이 등장함. 이에 따라 리스크 관리ㆍ감독자의 리스크 평가를 통한 리스크 등급화, 이러한 등급에 비례하여 리스크 최소화 의무를 리스크 유발자에게 부과하는 리스크 기반 규제 체계 정립, 리스크를 감수하며 이익을 보는 자에 대한 책임 설계
-2010년도 전후로 리스크 기반 규제방법론이 표준화되었고,(ISO 31000, 31010) OECD 또한 현대사회 각종 위험의 대형화, 복잡화, 상호연계화에 대응하는 데 적합한 조직의 핵심 관리 전략으로, ‘리스크 기반 규제’ 개념요소와 실천모형을 정립하는 연구 수행
○ 리스크 기반 규제의 법제화 내용과 쟁점 연구
- 리스크 기반 규제의 주요 입법 요소를 구조적으로 분석함
- 리스크 식별ㆍ평가, 리스크 관리, 리스크 커뮤니케이션을 포괄하는 전 과정적 규제 법제화를 검토함
* 리스크 식별 단계에서의 절차적 요건, 리스크 평가 단계에서의 평가방법론, 리스크 관리단계에서의 예방ㆍ통제 조치의 범위, 책임주체의 의무 검토
- 리스크 기반 규제 법제의 핵심 쟁점을 도출하고 심층 분석함
* 리스크 발생시 책임 귀속 체계, 규제 준수 확보를 위한 실효성 확보수단 검토 쟁점 분석
- 리스크 기반 규제 법제에서 새롭게 제기되는 쟁점 연구
* 리스크(risk)와 영향(impact) 개념 규명
* 새로운 리스크 관리ㆍ감독을 위한 거버넌스 구조
* 국제규범과 국내법제간 정합성 확보 쟁점 분석
▶ 게임체인저기술 관련 법제에서의 리스크 기반 규제 입법 내용 조사, 분석
○3대 게임체인저 기술인 인공지능(AI), 첨단바이오, 양자과학(퀀텀)기술 관련 리스크 기반 규제가 도입된 법제화 동향 분석과 시사점 도출
-3대 게임체인저 기술에 대하여 정부는 선제적 법제도 마련을 표방하고 있으며, 인공지능(AI) 분야 ｢인공지능 발전과 신뢰기반 조성에 관한 기본법｣, 첨단바이오 분야 ｢첨단재생의료 및 첨단바이오 의약품 안전 및 지원에 관한 법률｣, 양자과학기술 분야 ｢양자과학기술 및 양자산업 육성에 관한 법률｣ 제정
-기술 선도국들은 리스크 기반 규제를 법제화 원리로 채택하는 동향을 보이고 있으며, 대표적인 법제인 유럽연합 AI Act, 일본 ｢재생의료 등 안전성 확보 등에 관한 법률｣, 양자 분야 리스크 기반 규제의 법제화 제안 논의 진행
○우리나라 인공지능, 첨단바이오, 양자과학기술 관련 리스크 기반 규제 법제 분석과 개선 방안 제언
-인공지능 기본법은 인공지능 기술을 고영향, 고성능으로 나누어 전자의 경우 사업자의 책무, 후자의 경우 사업자의 의무 부과 법제화
-｢인공지능 발전과 신뢰기반 조성에 관한 기본법｣에서 규정하는 ‘고영향 인공지능’의 개념은 유럽연합 AI Act의 ‘High risk AI System’ 정의와 구조적으로 동일하며, 하위법령에서도 유사한 규범목적으로 구체화됨. 그럼에도 불구하고 현행 법제는 리스크 기반 차등규제 체계가 명확히 드러나지 않는 한계 존재. 따라서 고영향 인공지능에 관한 규정 또한 위험수준의 차등화에 기초한 규범설계가 요구되며, 이때 ‘위험 및 안전성’은 인공지능 기술의 개발ㆍ검증 단계에서 작동하는 관리ㆍ감독 의무로, ‘영향’은 제품ㆍ서비스의 시장 배포 또는 운영단계에서 발생하는 사회적ㆍ기본권적 영향평가의 범주로 구분하여 규율하는 방식이 타당함
-｢첨단재생의료 및 첨단바이오 의약품 안전 및 지원에 관한 법률｣은 리스크 기반 규제를 도입하여 고위험, 중ㆍ저위험 기술을 나누어 심사기준 등을 차등 적용하고 있으나, 향후 기술 구분기준의 구체화, 전문위원회의 실질화, 제재의 차등화 필요성 존재
-｢양자과학기술 및 양자산업 육성에 관한 법률｣은 아직 산업육성 및 진흥법 단계에 머물러 있으나, 국가안보 및 사생활 침해 위험 등 중대한 위험 발생 가능성이 예견되고 있어, 양자암호기술 표준화, 사전적 영향평가 제도 도입, 리스크 수준에 따른 차등 규제방법론이 학계에서 지속적으로 제안되고 있으며, 최근에는 국가정보원 보안 통제 체계에서도 양자과학기술 영역을 포섭하여 리스크 기반 보안관리체계의 정립 기반 마련 중임
Ⅲ. 기대효과
▶리스크 기반 규제의 원리, 적법요건, 합리화 방안을 우리나라 입법과 비교법적 관점에서 분석
○ 규제기관이 자신들의 법적 목표 달성에 가장 큰 위협이 되는 대상(기업·활동)에 자원을 집중하는 전략인 리스크 기반 규제는 입법에서 리스크, 위험, 위해, 안전성에 따른 차등 구조로 나타남
○ 법치주의 원리(명확성 원칙, 법률유보 원칙, 투명성 원칙, 비례성 원칙)와 정책ㆍ기능적 원리(사전주의 원칙, 증거기반 원칙)ㆍ리스크 귀속, 통제 원리가 입법에 반영되었는지 분석
○ 리스크 기반 평가에 따른 규제 연동, 제품 및 서비스 전 생애주기에 리스크 기반 규제가 적용되는지 리스크 커뮤니케이션 제도를 마련하였는지 분석
○ 리스크 평가(정량평가, 영향평가, 권리에 대한 리스크평가), 리스크 관리(산업진흥 관점에서 사후관리 체계로의 변화), 책임 귀속 및 제재 수준에 대한 입법 분석
▶리스크 기반 규제의 법제화 양상과 핵심 쟁점, 새롭게 대두되는 쟁점을 분석하고, 개선 방안 제언
○ 위험, 영향체계의 혼선 원인과 해결 방안 제언
○ 리스크에 비례한 집행체계 설계 및 법제화 방안 제언
▶3대 게임체인저 기술 관련 규범 현황을 리스크 기반 규제의 관점에서 분석하고, 향후 정책입안 및 입법시 개선 방안에 대한 제언
요 약 문 1
Abstract 7
제1장
서 론 / 17
제1절 연구의 배경 및 목적 19
1. 연구의 배경 19
2. 연구의 목적 22
제2절 연구의 범위 및 방법 23
1. 연구의 범위 23
2. 연구의 방법 24
제2장
리스크 기반 규제의 개념과 연혁 / 25
제1절 서 설 27
제2절 리스크 개념의 형성과 개념화 과정 29
1. 검토배경 29
2. 연혁 – 리스크 개념의 발생과 확장 33
3. 리스크 개념의 표준화 37
4. 비교법적 검토 40
5. 분야별 리스크 개념 입법례 45
6. 소결 56
제3절 리스크 기반 규제의 정의와 규제 이론 57
1. 리스크 기반 규제의 개념 57
2. 리스크 기반 규제 이론 63
3. 소결 71
제3장
리스크 기반 규제의 입법과 쟁점 / 73
제1절 서 설 75
제2절 리스크 기반 규제의 법제화 76
1. 법제화 원리 76
2. 법제화 내용 82
제3절 리스크 기반 규제 입법의 쟁점 86
1. 리스크 기반 규제 입법의 특성 86
2. 리스크 평가 법제 89
3. 리스크 관리 98
4. 리스크 책임구조 102
5. 실효성 확보수단 109
제4절 리스크 기반 규제 입법의 새로운 과제 112
1. 리스크(Risk)와 영향(Impact) 체계 112
2. 복잡다기한 거버넌스 설계 117
3. 국제적 정합성 확보 120
4. 소결 121
제4장
게임체인저 기술 관련 법제와 리스크 기반 규제 / 123
제1절 게임체인저 기술 관련 법제에서의 리스크 기반 규제 125
1. 게임체인저 기술의 법제화 동향 125
2. 비교법적 검토 128
제2절 인공지능기술 관련 리스크 기반 규제 법제 129
1. EU AI Act 129
2. 우리나라 인공지능 기본법 139
3. 우리나라 인공지능 법제의 개선방안 146
제3절 첨단바이오기술 관련 리스크 기반 규제 법제 152
1. 서설 152
2. 일본 첨단바이오기술 관련 법제 152
3. 미국 및 유럽연합 법제 160
4. 우리나라 첨단바이오 법제의 개선방안 163
제4절 양자과학기술 관련 리스크 기반 규제 법제 168
1. 서설 168
2. 양자과학기술 정책과 법제화 169
3. 양자기술의 리스크 173
4. 리스크 기반 규제 도입 논의 174
5. 우리나라 양자 법제의 개선방안 176
제5절 입법적 개선과제 177
제5장
결 어 / 181
참고문헌 189
본 공공저작물은 공공누리 “출처표시+상업적이용금지+변경금지” 조건에 따라 이용할 수 있습니다.
키워드
"리스크 기반 규제"
" 리스크 규제"
" 게임체인저 기술"
" 인공지능"
" 첨단 바이오"
" 양자과학"
" 위험성"
" 위해성"
" 영향평가"
" 인공지능 발전과 신뢰 기반 조성에 관한 기본법"
" 첨단재생의료 및 첨단바이오의약품 안전 및 지원에 관한 법률"
" 양자과학기술 및 양자산업 육성에 관한 법률"
" 인공지능기본법"
" 첨단재생바이오법"
" 양자기술산업법"
저자
관련보고서 [ *이 연구보고서의 관련 저자는 "라기원" 입니다.]