국내 이슈 분석
- 기술혁신과 신뢰가능한 AI의 균형: 한국의 AI 규제정책 방향에 대한 소고 -
이종한 선임연구위원
한국행정연구원 규제정책연구실
✅ 서론
최근AI 기술발전은 우리들 생각보다 빨리 일상생활속으로 들어오고 있다. 이미 대다수 사람들은AI를 활용해 온갖 보고서나 업무자료를 만들어 내고 있으며, 업무관련 활동외에도 사적 선택에 대한 조언, 나아가 연애, 심리 상담에 이르기까지 사생활 깊숙히 영향을 끼치고 있다. 지식정보뿐만 아니라 감성적 영역에서도AI는 인간과 구별하기 어려운 수준으로 발전하고 있고, 이런 측면에서 아동청소년의 교육과 학교생활, 나아가 정서발달에 어떤 영향을 줄 지 우려가 앞서기도 한다.
이처럼 AI 기술의 급속한 발전과는 달리 규제시스템이 반응하는 속도는 느리기만 하다. AI 학습과정의 저작권 침해, 딥페이크 활용한 가짜 정보 생산, AI의 악의적 활용, 사회에 해악을 끼치는 각종 범죄활동에 이용될 가능성은 상존하고 있다. 범용AI에 대한 수요가 매우 광범하고 부정적 수요 가능성도 클 수밖에 없다. 따라서 정부의 입장에서는 이런 다양한 수요측면보다 공급측면의 위험에 주목하고AI 알고리즘의 편향성과 공정성, 투명성, 책임성 부족을 지적하고 우선적으로 규제하고자 한다. 인간도 사회적 교육을 통해 사회적, 문화적 공동체 생활이 가능하듯이AI도 인간과 신뢰형성이 가능한 공동체 시민으로서의AI 윤리가 형성되고 올바른 학습이 이루어져야 한다. 이미AI 기술이 피해갈 수 없는 현재와 미래의 생활필수품으로 생각되는 지금 정부가 무엇보다 중요하게 고려해야 할 측면은AI에 대한 사회적 신뢰 문제이다. AI 기술에 대한 규제는 이런 관점에서 건전한AI-인간 생태계 구축과 함께 이루어져야 한다.
일부 기업의 검색, 추천AI 알고리즘의 편향성 문제, 나아가 의도적인 알고리즘 조작(?), 자율주행, 산업용AI 로봇의 오작동, 연애분석 챗봇, AI 면접관, 의료 또는 법률AI 컨설턴트 등 다양한AI 시스템이 편향성이나 오작동 문제가 제기된 바 있으며, 이런 문제는AI 시스템에 대한 신뢰를 떨어트리고 이용에 대한 사회적 불신을 초래하여 국내AI 기업의 경쟁력 약화와 장기적으로는AI 이용과 기술발전에 부정적 영향을 미칠 수 있다. 여기에 더해AI에 대한 정부 정책의 투명성과 일관성이 보이지 않는다면AI기술은 인간의 일자리를 빼앗고 신뢰하기 어려운 인간과 함께하기 어려운 일부 기업의 블랙박스 비밀병기로 전락될 수도 있다.
따라서 국내AI기업과 관련 산업의 발전을 위해서는 적절한 규제가 필요한데 어떤 수준에서 무엇을 어떻게 규제하느냐 하는 보다 근본적인 고민이 필요하다. 벌써 인공지능기본법이 내년에 시행예정이고 관련 시행령이 준비되고 있는 만큼 지금 이런 고민할 때가 아니라고 할 수도 있지만, 빨리 가는게 중요한게 아니라 한걸음 늦게 가더라도 부실한 시공보다 시간이 걸리더라도 올바른 방향에 근거한 규제프레임을 제공하는 것이 규제정책 설계에서는 특히 중요하다.
이하에서는 혁신과 안전을 담보할 수 있는 한국의AI 규제정책의 방향은 무엇인지 유럽과 미국의 AI 규제전략과 비교해 검토해보고 우리에게 바람직한 방향을 모색해보기로 하자.
✅ 미국과 EU의 AI 규제전략
미국은 연방차원의AI 규제법률은 아직 마련되지 않았지만 주 정부에 따라서 규제 수준이 다르고, 분야별로AI 관련 규제가 이루어지기도 한다. 기본적으로AI의 사회적 신뢰성과 윤리성에 대한 우려가 제기되고 있지만 아직 법적 의무를 부과하는 방식의AI 규제가 아닌 행정명령을 통한 지침 제공의 수준에 그치고 있다. 2023년 바이든 행정부의 신뢰가능한AI 개발, 연방기관의AI 시스템 관리지침, NIST의AI 리스크 프레임워크 등을 통해 자율적 통제를 권장하고 있다. 미국의AI 생태계는 오픈소스 기반으로 수많은 벤처기업들과 자발적 개발자들의 협업을 통해 중요한AI 기술개발이 이루어지고 있으며, open source 기반AI기술은 혁신 생태계 참여자들의 공유자산으로 누구도 독점하지 않고 자발적으로 공정한 룰(GPL)에 따라 관리된다.
PyTorch, TensorFlow와 같은ML 프레임워크와 HuggingFace와 같은 공유플랫폼이 없었다면 오늘과 같은 급속한AI발전은 불가능하였을 것이다.
미국의 빅테크 기업도 이런 오픈소스 개발에 참여하여 오픈소스 발전을 통한 혁신에 크게 기여하고 있을 뿐만 아니라 사실 전세계 개발자들이 참여하여 생태계 선순환을 만들어 가고 있다. 미국의AI 리더십은 바로 이런 오픈소스 생태계에 기반하고 있다해도 과언이 아니다. 이런 배경에서 미국은 아직 민간의 자발적AI 개발, 공급과 이용을 위한 시장활동을 존중하며 규제를 최소화하는 수준에서 개입하고 필요한 경우 지침을 마련하여 준수하도록 권고하는 수준에서 그치고 있다. 그러나 자율규제의 편익을 뛰어넘는 커다란 손실을 발생시키거나 사회적 위험(hazards)이 현실화된다면 입법을 통한 규제가 도입 압력이 커질 수 있을 것이다.
반면, EU의 경우 미국에 비해AI 기술을 선도하는 기업이 적고AI에 대한 사회적 신뢰를 중시하고 앞서 언급한대로AI의 윤리성과 안전성을 시장을 통한 이용 활성화보다 우선적으로 고려하고 있다. EU가AI법을 통해 투명성, 설명가능성, 안전성, 인간개입 등을 기본원칙으로 삼고AI기술의 위험수준을 평가하고 위험에 따라 사전규제를 강화하는 배경에는 미국과 다른EU AI 생태계가 있으며, 선제적인 입법을 통해 일종의AI 기술관리 표준을 제시하고자 한다. 유럽 자체의AI 기술 및 오픈소스 생태계 육성을 위한 정책(예: GAIA-X)을 추진하는 한편, EU는AI에 대한 선제적 규제와 윤리 담론을 제시함으로써 미국 중심의AI 생태계와는 구별되는EU의 독자적인AI 생태계를 유지 확장하고, 이를 통해AI 주권, 디지털 리더십을 추구하고자 한다.
✅ 한국의 AI 규제전략
우리나라는 지속적으로 환경과 안전에 대한 규제를 강화해왔다. 커다란 안전사고가 발생할 때마다 여지없이 안전규제가 강화되었다. 그러나 결과적으로 국민들이 체감하는 안전사고는 이전에 비해 줄지 않았고, 사업장과 시민사회의 안전관리는 여전히 규제 입법자가 의도한대로 충분하게 이루어지지 않고 있다. AI 기술과 관련해서 앞서 언급한대로 사회적인 우려도 존재하고, AI 기술을 악용한 사례도 발견되고 있다. 즉AI 기술에 대한 우려와 안전성에 대한 규제를 요구하는 시민사회의 요구가 존재한다.
그러나AI 기술은 빠르게 변화하고 있으며, 대표적인 신산업 기술로 사전허용, 사후규제 원칙이 요구된다. 입법에 필요한 의견을 수렴하고 필요한 규제안을 설계, 규정화, 심사하는 과정에는 상당한 시간과 자원이 투입되는 반면 기술은 아주 빠르게 진화하고 있어 규제지체를 피하기 어렵다. 규제안을 만들어 시행한다해도 변화한 환경에 여전히 적합하다는 보장이 없으며, 잘못하면 기술혁신을 저해하는 질나쁜 규제로 전락할 수 있다. 더욱 중요한 점은 한국의AI 기술 생태계 기반이 취약하고 기술을 선도하는 기업도 미국이나 유럽에 비하면 잘 보이지 않고 있다는 점이다. 말하자면AI 생태계에 기반한 기술혁신이 어려운 환경이다. 이런 상황에서는 미국의 자율에 기반한 시장중심 규제전략이나EU의 위험기반 예방적 규제전략을 따라가는 것은 위험할 수 있다.
미국의 시장중심 자율규제가 답이 아닌 것은 미국과 같은 강력한 오픈소스 생태계가 주도적 역할을 하지 못하고 대기업과 계열사가 주도하는 폐쇄적 기술 생태계가AI 기술발전을 주도하고 있다는 차이가 있기 때문이다. 자율규제의 기반이 취약하기 때문에 자발적 참여 벤처를 중심으로 공유자산 역할을 할 수 있는 공동 기술 플랫폼을 지원하는 방향으로AI 규제정책도 기여해야 한다. AI 생태계 기반조성에 정부의 대규모 지원이 필요하며, 이와 병행하여 필요한 규제 프레임이 설계되어야 한다. EU의 선제적 예방규제는 더욱 현실에 부합하기 어렵다. 잘못하면 선제적 예방을 통해 얻는 사회적 편익보다 선제적 사전규제로 인한 기술발전의 지체를 초래할 우려가 크다는 점을 고려해야 한다.
정부의AI 규제프레임은AI 생태계의 구축과 자율적 규제가 이루어질 수 있도록 뒷받침하는 방향으로 설계되어야 할 것이다. AI Hub와 같은 데이터 공유 플랫폼은 개발자가 보다 고품질의 데이터를 쉽게 활용할 수 있도록 공유 및 활용할 수 있는 안전한 데이터 프레임워크가 될 수 있도록 정책적 지원과 기술개발을 유인할 수 있어야 한다. AI 데이터 거버넌스도 이런 측면을 고려하여 설계하고 고품질 데이터 공유에 필요한 개인정보 비식별화 기술, 합성 데이터 생성기술 등을 제공해야 한다. 이밖에도 공공-민간협력 프로젝트를 통한 기술개발의 결과를 오픈소스에 기여하도록 인센티브를 제공하는 등 전략적R&D투자정책 추진, 책임감있는 오픈소스AI 모델 개발을 위한 가이드라인 제시, 오픈소스 친화적AI 규제설계하여 오픈소스 개발의 특수성을 고려하여 혁신을 저해하지 않도록 배려하는 등의 조치가AI 규제프레임워크에 반영되어야 한다.
✅ AI 규제정책의 방향 : 유연한 원칙중심 규제 채택
우리나라 인공지능 기술 수준은 특정 응용 분야에서는 경쟁력이 있으나, 범용AI를 비롯한 기반기술에서는 아직 뒤쳐져 있다. 이런 상황에서 수많은 개발자와 기술벤처가 중심이 되는AI 생태계를 구축하고 기반기술의 경쟁력 강화를 위해서 한국의AI 규제정책은 엄격한 사전적 규칙 기반(rule-based) 규제보다는 유연한 원칙 중심(principle-based)의 규제로 방향을 설정하는 것이 바람직하다. 원칙 중심 규제는 공정성, 투명성, 안전성, 책임성 등과 같은 포괄적이고 보편적인 규범 원칙을 중심으로 구성되며, 기술 변화 속도가 빠르고 불확실성이 높은 인공지능 분야에 적합하다. 이러한 규제 접근은 혁신을 저해하지 않으면서도 예상치 못한 위험에 유연하게 대응할 수 있는 구조를 제공하며, 동시에 책임 있는 기술 개발을 유도하는 사회적 안전장치가 될 수 있다.
그러나 원칙 중심 규제가 제대로 작동하기 위해서는 다음과 같은 제도적 기반이 반드시 병행되어야 한다. (1) 원칙 해석과 적용 권한을 가진 전담AI 규제 거버넌스 기구의 설립, (2) 공공기관과 독립기구의 기술적 규제 역량 강화, (3) 이해관계자 참여와 실험적 규제 적용을 위한 규제 샌드박스 및 공론 절차 도입, (4) 원칙의 실효성을 높이기 위한 가이드라인, 모범 사례, 주기적 검토체계 마련이 그것이다. 이런 제도적 기반을 마련하기 위해서는 규제기관과 개발업체간의 지속적인 대화와 협력이 전제되어야 한다.
규제기관은 단속점검 기관이 아니라 기업이 필요한 지원과 정보을 제공하는 기관이 되어야 한다. 이와 같은 방향은 한국이 기술 경쟁력을 유지하는 동시에, 국제적인 윤리 기준과의 정합성을 확보하고, 유럽의 법률 중심 모델이나 미국의 자율 규제 중심 모델과는 다른 한국형AI 규제모델을 구축하는 기반이 될 수 있다. 장기적으로AI기술에 대한 신뢰를 확보하고AI 리더십을 갖추기 위해서는 유연하고 예측가능한 규제환경을 조성해야 한다. 지금이야말로 한국이 '신뢰 기반의 기술 사회'로 나아가기 위한AI 규제정책의 대전환을 준비해야 할 시점이다.
본 글은 저자 개인의 의견이며, 한국행정연구원의 공식견해가 아님을 밝힙니다.
|