국문초록
2016년 1월 다보스 세계경제포럼(World Economy Forum: WEF)에서 ‘4차 산업혁명 시대 도래’를 공표하고, 같은 해 3월 알파고와 이세돌 9단의 바둑 대국 이후에 국내에서 인공지능(Artificial Intelligence: AI)에 대한 관심이 집중되기 시작하였습니다. 특히, 세계경제포럼에서 과학기술이 글로벌 담론으로 다뤄진 것은 이번이 처음이라는 점에서 주목할 필요가 있습니다. 문재인 정부도 4차 산업혁명에 선도적으로 대응하기 위해서 지난 10월 ‘4차 산업혁명위원회’를 설치하였으며, 다양한 논의가 각 분야에서 활발하게 이루어지고 있습니다. ‘4차 산업혁명’과 ‘인공지능’에 대해서 폭발적인 관심과 더불어 최근에는 인공지능이 초래할 수 있는 위험에 대한 우려가 점차 확산되고 있지만, 이에 대한 효과적인 위험관리 연구는 국·내외에 전무한 상태입니다.
이에 본 연구는 인공지능 기술로 인하여 우리사회에서 어떠한 위험요소가 대두될 수 있는 지 살펴보고, 기술발전과 함께 새롭게 요구되는 사회적 규범과 윤리 담론, 규제 및 법제도 개선 사항, 위험관리 운영의 효율적인 총괄 조직체계 등을 연구하였습니다. 이를 위해서 선행연구, 전문가 워크숍 및 설문조사, 전문가 AHP 조사 등 다각적 실증조사 방법을 활용하였고, 선진국의 최신 법 개정사항, 연구 동향, 조직 체계, 산업 동향 등을 면밀히 분석하였습니다. 이를 통해서 74개의 정책적 함의를 도출하였고, 정책적 함의를 다시 사전 예방적 정책 제언 13개와 복원력 정책 20개로 분류하여 효과적인 인공지능 위험거버넌스 구축을 위한 정책을 종합적으로 제시하였습니다.
목차
제1장 서 론 [류현숙]
제1절 연구의 배경 및 필요성 2
제2절 연구의 목적 및 내용 9
1. 연구의 목적 9
2. 연구의 범위 및 내용 10
제3절 연구방법 14
1. 이론 및 문헌조사 15
2. 국내외 사례조사 및 위험관리･정책 비교연구 15
3. 설문 조사 16
4. AHP 조사 17
제4절 기대효과 18
제2장 이론적 고찰 [류현숙･김은성]
제1절 기술위험 관리 22
1. 위험 및 기술위험관리 개요 22
2. 인공지능(AI)과 신기술위험관리의 중요성 29
제2절 인공지능의 위험 및 사회적 영향 31
1. 사회적 위험 지위 32
2. 부메랑 효과 37
제3절 사전예방원칙과 복원력 40
1. 사전예방원칙 40
2. 복원력 48
제4절 연구 분석틀 53
제3장 인공지능 적용 분야별 위험 예측 [류현숙]
제1절 교통안전 분야 63
1. 개요 63
2. 상용화 사례 및 위험특성 64
3. 시사점 66
제2절 범죄(치안) 분야 68
1. 개요 68
2. 상용화 사례 및 위험특성 70
3. 시사점 72
제3절 노동(근로) 분야 74
1. 개요 74
2. 상용화 사례 및 위험특성 79
3. 시사점 81
제4절 의료(보건) 분야 83
1. 개요 83
2. 상용화 및 위험특성 84
3. 시사점 87
제5절 소결 88
제4장 인공지능에 대한 국내외 위험정책 및 위험관리 [김은성･류현숙]
제1절 유럽의 인공지능 위험관리 정책 98
1. 유럽의 인공지능 법제도 및 거버넌스 체계 98
2. 자율주행자동차에 대한 유럽연합의 규제 103
3. 드론에 대한 유럽연합의 법률 108
4. 군사기술에 대한 유럽규제 110
5. 기계안전, 작업안전, 의료 관련 유럽연합의 기존 법률들 111
6. 인공지능 윤리와 책임 있는 연구개발 112
제2절 영국의 인공지능 위험관리 정책 115
1. 무인자동차에 대한 안전규제 120
2. 드론에 대한 법률 121
3. 군사기술에 대한 규제 121
4. 인공지능 윤리와 책임 있는 연구개발 122
제3절 미국의 인공지능 위험관리 정책 123
1. 자율주행자동차에 대한 안전규제 128
2. 드론에 대한 미국의 규제 134
3. 작업장 안전 및 의료관련 로봇에 대한 규제 136
제4절 국내 위험관리 정책 137
1. 인공지능에 대한 규제법률 141
2. 로봇윤리 145
제5절 소결 146
제5장 인공지능 위험관리에 관한 전문가 의견 조사 [류현숙]
제1절 전문가 워크숍 152
제2절 전문가 설문조사 155
제3절 전문가 AHP 조사 161
제4절 전문가 설문조사･AHP 조사 결과 분석 167
1. 전문가 설문조사 결과 167
2. AHP 조사 결과 194
제5절 정책적 시사점 242
제6장 인공지능 기술위험에 대한 정책 제언 [류현숙･김은성]
제1절 인공지능 기술위험 사전예방원칙에 따른 정책제언 248
1. 사전 예방적 위험 평가 정책 제언 249
2. 사전 예방적 위험관리 정책 제언 267
3. 사전 예방적 위험 소통 정책 제언 273
제2절 인공지능 위험 복원력 제고 정책제언 276
1. 복원력 위험 평가 정책 제언 277
제7장 결 론 [류현숙]
제1절 종합 정책 제언 302
1. 행정적 측면 실행전략 302
2. 기술적 측면 실행전략 304
3. 사회적 측면 실행전략 306
4. 경제적 측면 실행전략 307
5. 정책대상을 고려한 실행전략 308
6. 인공지능 위험 거버넌스 추진 로드맵 311
제2절 요약 및 결론 312
1. 학술적 기여도 및 정책 활용가능성 312
2. 연구의 한계 313
참고문헌 _ 317
