본문으로 바로가기

연구보고서

페이스북으로 이동 트위터로 이동
인공지능 시대의 경쟁력 강화를 위한 AI 규제 연구 Research on AI Regulation for Enhancing Competitiveness in the Age of Artificial Intelligence
보고서명

인공지능 시대의 경쟁력 강화를 위한 AI 규제 연구

 보고서명(영문)

Research on AI Regulation for Enhancing Competitiveness in the Age of Artificial Intelligence
  • 지난 반세기에 걸쳐 AI 기술은 여러 차례 암흑기와 부흥기를 겪었으나 정보기술 산업의 꾸준한 발전이 밑거름되고 새로운 기술이 등장할 때마다 급진적으로 성능이 향상하였다. 2022년 ChatGPT의 등장은 생성형 AI 분야의 새로운 지평을 열고 대형언어모델의 성능과 활용 확대를 예고하였다. 이처럼 인공지능 시대가 현실이 되고 있다. 싱가포르 「국가 AI 전략 2.0」은 2022년 생성형 AI 등장을 기점으로 모두가 인공지능을 알아야 하는 시대가 왔음을 알리고 국가 비전을 제시하고 있어 주목된다.
    인공지능 기술이 급격하게 발전하면서 AI 개발과 활용에 대한 투자도 증가하고 있다. 글로벌 테크 기업은 AI 기술 경쟁력 확보를 위해 공격적인 연구개발 투자를 추진하고 있고 주요국 정부도 AI 분야 연구개발과 인력양성에 막대한 규모의 예산을 투입하는 상황이다. 또한, AI 데이터를 확보하기 위한 경쟁, 인재 채용을 위한 경쟁, 시장점유를 위한 경쟁 등 전례 없는 수준의 국가 간, 기업 간 경쟁과 전략적 동맹 확대가 전개되고 있다. 이러한 글로벌 맥락에서 보더라도 AI 산업 발전과 AI 확산을 통한 경제 발전 방안에 대한 고민은 시대적으로 거스를 수 없는 국가적 과제임이 틀림없다.
    이 연구는 인공지능 시대의 경쟁력을 강화하기 위한 인공지능 규제의 방향성과 개선 과제를 모색하기 위하여 수행되었다. 이를 위해 최근의 규제 동향과 논의 방향을 전반적으로 고려할 필요가 있다. 이 연구에서 중요하게 주목한 최근 동향 중 하나는, AI 안전과 신뢰를 위한 규제가 증가하고 있다는 점이다. AI 안전과 신뢰 확보는 AI 확산에 기여하는 핵심 개념이자 도달해야 하는 목표로서 강조되고 있다. 둘째, AI 기술이 빠르게 진화하고 있어 AI 규제의 필요성과 방향성도 계속 변하고, 이에 따른 신중한 규제 접근이 필요하다는 논의가 확대하고 있다. 셋째, 우리나라의 AI 기술 경쟁력과 산업 경쟁력을 강화하기 위한 관점에서 규제 및 규제 체제에 관한 토론과 연구가 더욱 활성화해야 한다는 점이다. 이 연구는 AI 규제 연구에 필요한 기초 자료를 제공하고 AI 규제 논의의 기본 틀을 강화하는 데에 필요한 시사점을 제공할 것이다.
    이 연구는 인공지능 규제 체제의 범위와 기본 틀을 제시하기 위하여 세 가지 핵심 쟁점을 파악하고 각각을 분석하였다. 즉, AI 규제의 핵심 쟁점을 데이터, 안전과 보안, 윤리적 문제라는 세 가지 영역에서 일반적으로 분석하고, 더 나아가 주요 산업별로도 분석하였다. 이를 통해, 산업마다 AI 활용도와 AI 규제 쟁점이 다름을 밝히고 산업별 규제 체제의 필요성과 유용성을 강조한다. 이와 함께, AI 산업 시대가 도래하고 전 분야와 산업이 AI 안전과 신뢰 확보를 위해 노력해야 하는 상황임을 밝히고 있다. 전 분야와 산업에 적용할 수 있는 기본 원칙과 이행 기준도 필요하며 이러한 최소한의 일반적 또는 수평적 규제를 통해 궁극적으로 AI 산업 경쟁력이 강화될 수 있음을 논의하였다. 또한, AI 기술 특성과
    속도를 고려하고 글로벌 규제 동향을 살펴본 결과, 우리나라도 유연한 AI 규제 전략이 필요하고 폭넓은 규제 수단과 방법들을 고려하고 활용할 필요가 있음을 확인하였다.
    이 보고서 본문의 구체적인 내용은 데이터, 안전과 보안, 윤리 문제 영역에서의 AI 규제 관련 핵심 쟁점을 분석하는 부분과, 제조, 금융, 보건의료 산업의 규제 동향과 핵심 쟁점의 특징을 분석한 부분으로 구성된다. 각 장의 주요 결과와 경쟁력 관점에서 본 AI 규제 개선 방향을 정리하면 다음과 같다.
    먼저, 2장은 AI 확산에 따른 사회경제적 파급효과가 광범위한 분야에서 나타나고 있음을 살펴본다. 또한, 한국 국민의 AI에 대한 감정을 미디어 텍스트 분석을 통하여 측정하였는데, 기본적으로 기대와 관심이 가장 큰 것으로 나타났다. 그러나 전 세계적으로 AI 피해 사례가 늘어나고 우리나라도 개인정보 유출과 같은 AI 피해 사고가 잇따르면서 부정적 인식이 증가하는 추세임을 확인하였다. 부정적 인식 중에서도 구체적으로 분노와 불쾌감, 우려, 두려움의 감정이 꾸준히 증가하는 상황이다. 이처럼 AI 규제 필요성에 대한 인식이 고조되면서, 세계 주요국은 AI 규제의 기본 틀로 위험 기반 접근 방식을 채택하고 있다. 이론적으로 규제 대상인 ‘위험(risk)’을 규정하고 사전에 방지하기 위해 기준과 대응 체제를 마련하는 방식이며, 제도적 한계가 있음에도 불구하고 국제기구와 주요국이 널리 채택한 규제 방식임을 확인하였다.
    3장에서는 지금까지 채택된 세계의 주요 AI 원칙, 가이드라인, 권고 등을 종합적으로 분석하여 AI 규제가 다루는 위험의 세 가지 주요 쟁점이 데이터 분야, 안전 분야, 윤리 문제에 관한 것임을 파악하였다. AI 기술과 시스템 자체의 결함이나 오류, 기술적 한계와 관련된 위험이 중요한 규제 사안으로 논의되고 있으며, 이에 대응하기 위해 AI 기술 개발을 강화하고 기술적 해결 방법을 찾는 노력이 확산하고 있다. 또한, AI 개발의 全 생애주기에 걸쳐 문제를 모니터링하고 보완하는 순환적 관리 기준과 체계가 대응 방법으로 확산하고 있다. AI 규제 논의의 또 다른 축은 AI 데이터 문제를 중심으로 하고, AI 학습데이터의 질적 문제, 알고리즘 설계의 견고성 문제, 보안 문제, 편향성 문제 등에서 비롯된 위험을 해소하기 위해 다양한 표준이 개발되고 있다. 한편, AI 안전과 신뢰 관련 기준이 요구되며 가령, 투명성, 설명 요구 등의 AI 원칙과 기준이 논의되고 있다. AI 오용과 남용, 불법 사용 등이 원인인 AI 사용에 따른 위험에 대해서는 자발적 참여보다 강제적 규제 수단이 효과적이다. 다만, 산업 진흥 차원에서는 최소한의 규제와 신중한 접근이 필수적이다. AI 등장으로 새롭게 부상하는 규제 문제는 AI 윤리에 관한 것이다. 관련 논의 동향을 살펴보면, 원칙 및 상위 기준이 채택되고 인권 보호와 관련이 높다. 보편적 가치를 추구하나 모호한 기준이어서 현재까지 구체적인 규제가 논의되고 있지는 않다.
    4장은 AI 관련 국내 정책을 분석한 내용이다. 구체적으로 AI 분야 연구개발 촉진, 활용 확산, 인력양성, 안전과 신뢰 구축 등 다양한 정책과 전략이 부처별로 추진되고 있고, 우리나라 정부는 사회경제 전반에 걸쳐 AI 진흥과 대응에 주력해 온 것을 확인할 수 있다. 특정 산업이나 분야에 국한된 정책은 대부분이 AI 육성과 기술 개발을 목적으로 한다. 현재까지 일부 소수의 정책만이 AI의 사회적·윤리적 문제에 일반적으로 대응하기 위해 추진되었다. 또한, AI 윤리 기준, 신뢰성 확보, 안전성과 같이 AI 역기능을 방지하고 중요한 가치를 증진하기 위해 시행된 정책들이 현재까지는 주로 민간의 자율적인 선택을 바탕으로 시행되고 있음을 확인하였다. AI 규제 접근 방식을 일반적으로 이행 강제성에 따라 나눈다면 자율적 참여 방식과 강제적 규제 방식으로 구분할 수 있으며, 이에 비춰 보면 지금까지 우리나라의 범분야 혹은 수평적 AI 규제는 전자의 자율적 참여를 기반으로 하는 방식에 가깝다. 후자의 강제적 규제 방식은 EU 인공지능법이 대표적이다. EU와 달리, 미국, 영국, 싱가포르 등 주요국은 입법을 통한 수평적 AI 규제를 도입하지 않았고, 전자의 자율적 참여 기반 규제 방식을 유지하고 있다.
    5장은 글로벌 규제 동향을 중점적으로 분석한 내용이다. EU 인공지능법은 모든 분야의 AI 위험을 강제적이고 수평적으로 규제하고 처벌하는 방식의 제도며, 미국, 영국, 싱가포르 등 세계 주요국은 유사한 규제를 도입하는 것에 대해 미온적이고 신중한 입장임이 확인된다. EU 외의 다른 국가들이 채택한 AI 규제 체제를 비교 분석하면 몇 가지 공통점이 있다. 요약하면, AI 혁신과 활용 확산에 초점을 두고 적극적인 진흥 정책을 추진하는 동시에 AI 안전과 신뢰를 확보하기 위해 국가 차원의 모니터링 체제를 구축하고 있다는 점이다. 일례로, 영국은 AI 규제에 있어 ‘혁신 친화적 접근(pro-innovation approach)’을 유지하는 한편, AI 안전성 연구소를 설립하고 AI 규제와 거버넌스에 필요한 정보와 국가적 논의를 모니터링하는 체제를 운영하고 있다. 미국은 국립표준기술원(NIST)을 통해 「위험관리프레임워크 버전1」을 발표한 데 이어 인공지능안전성연구소(AISI)를 설립하고 인공지능 안전 분야의 관행과 과학 발전, 제도 발전을 위해 정보와 의견을 수렴하고 모니터링하는 체제를 강화하고 있다. 싱가포르는 발 빠르게 대응하는 국가로 평가된다. 생성형 AI 등장 이후 국가 AI 전략 2.0을 도입하고 글로벌 기업 유치, 인재 육성, 산업 전반의 AI 확산과 활용에 기치를 높이는 한편 안정성 검증과 규제에 필요한 실용적인 방안을 채택하고 있다. 주요국은 AI 기술과 혁신이 가져올 사회경제적 이익에 대해 긍정적으로 평가하고 기대하고 있어 이러한 규제 방식을 채택한 것으로 이해된다. AI 활용 기회를 최대한 열어두는 동시에 AI 안전과 신뢰를 확보할 수 있는 규제 방안을 모색하는 과정에 있다.
    6장은 AI 활용이 활발한 여러 산업 부문 중에서 제조, 금융, 보건의료 산업을 선정하고 각 분야의 국내외 정책을 분석한 내용이다. 국내외 주요 AI 활용과 정책 동향을 분석하고, 산업별 규제 및 규제
    쟁점의 특징을 비교 분석하였으며, 결론적으로 AI 산업 활용을 확대하고 AI 신뢰와 안전을 보장하기 위해 각 산업의 상황과 필요에 대응할 수 있는 산업별 규제 전략이 필요함을 확인하였다. 산업마다 부각되는 AI 위험과 쟁점이 다르고 급변하는 기술 발전에 따라 규제 목적과 대상이 달라질 수 있어, 산업별 특성을 반영하고 신속하게 대응할 수 있는 산업별 AI 정책과 규제가 효과적인 것으로 분석하였다.
    5장과 6장 분석을 종합하면, 금융 분야와 보건의료 산업의 AI 규제 및 규제 쟁점은 여타 분야 및 산업과 근본적으로 다르다. 요컨대, 금융 분야는 데이터 보호와 프라이버시, AI 보안 문제가 자칫 국가적 위기 혹은 교란으로 이어질 수 있고, 보건 분야는 데이터 보호와 보안 문제가 인간의 생명과 안전 문제와 직결되는 등 잠재적으로 국가적 중대 사안이 될 수 있어, 특별한 규제 접근이 필요함을 강조하였다. 또한, 제조업 분야와 비교하여도, 금융 및 보건 분야의 AI 규제 및 쟁점 동향은 매우 다르다. 제조업 AI의 경우, 산업 데이터가 개인 데이터와 구분되고 이를 통합, 활용하는 진흥책이 요구되며, AI 기술 및 시스템 그 자체의 문제보다는 산업 현장에서의 안전, 제조 로봇의 품질 및 안전에 관한 AI 기준이 강조되고 필요한 것으로 분석된다. 제조업 기반 경제는 AI로 대체되는 노동 감소 문제, 기업과 지역 차원의 디지털 격차 문제 등 보다 거시적 관점에서 AI 확산에 대응하고 제도적 안전망을 강화해야 한다.
    산업별 상황과 필요에 대응할 수 있는 산업별 규제 전략이 유용하지만, 더 나아가 AI 시대에 대비한 국가적 AI 규제 체제 개선과 보완도 시급하다. 산업별 규제의 제도적 한계, 가령 산업 간 규제 중복, 규제 공백, 규제 회피 등 효과성과 비효율성 문제를 보완하고 국가적 차원에서 최소한의 AI 안전과 신뢰를 확보하는 것이 산업 경쟁력에 중장기적으로 도움이 되기 때문이다. 결론에서는, 국내 AI 규제의 일관성을 제고하고 규제 이행의 통합적인 모니터링과 개선·보완 체제를 강화하는 차원에서 수평적 규제 도입의 필요성을 논의하였다. 다만, AI 위험에 대응할 수 있는 다양한 규제 방식들을 포괄적으로 활용하고, 규제 범위와 규범 수준, 이행 강제성을 결정하는 데 있어 기술과 산업 경쟁력에 대한 영향을 면밀하게 검토해야 한다.
    AI 기술 진보가 빠르게 진행되고 있으므로 유연한 규제 체제를 마련하고 AI 안전과 신뢰를 확보하기 위한 노력이 필요하다. 특히 규제실험을 통해 규제준수 및 이행에 대한 모니터링, 피드백 과정을 병행하고 점진적으로 규제 정비를 해나가는 과정이 필요하다. 종합적이고 거시적인 관점에서 규제 환경을 조성하기 위한 많은 토론과 후속 연구가 있기를 기대한다.

콘텐츠 큐레이션 : 동일주제 가장 많이 이용된 자료 추천

현재 페이지에서 제공되는 연구보고서에 대하여 평가해 주세요

의견(0)

연구성과에 따른 의견과 무관한 글, 선정적인 글 및 비방글 등의 게시물은 관리자에 의해 언제든 삭제 조치 될 수 있으며, 주민등록번호 형식 및 연속된 숫자 13자리는 입력할 수 없습니다.

입력 가능 Byte : 4000 Byte 현재 입력 Byte : 0 Byte
자동등록방지 숫자를 순서대로 입력하세요.