< 훈련결과보고서 요약 >

성 명	추 경 훈		직 급			서기관
훈 련 국	영국	훈련기간		2023.10.1.~2025.3.31.
훈련기관	Milner Therapeutics Institute (University of Cambridge)				보고서 매수		144 매
훈련과제	인공지능 스타트업 활성화를 위한 거버넌스 및 규제 체제 연구
보고서 제목	인공지능 스타트업 활성화를 위한 거버넌스 및 규제 체제 연구
내용요약	1. 서론 : 연구배경 및 필요성 중소기업은 제조･서비스 활동 전반에서 인공지능에 기반한 기술 활용은 코로나19를 계기로 디지털 전환과 함께 시대적 과제로 부상하고 있어, 인공지능 기반 4차 산업혁명이라는 큰 변화의 물 줄기에서 도태되지 않고, 혁신과 성장의 기회로 활용하기 위해서는 정부의 적극적인 관심과 지원이 필요하다. 현 정부는 출범 당시부터 ‘디지털 플랫폼 정부’를 표방하며 정부와 기업의 디지털 전환을 통해 국가 경쟁력 향상을 모색하고 있고, 미래 핵심 유망 산업인 10대 초격차 분야에 AI를 핵심 분야로 선정하여 관련 스타트업을 본격적으로 집중 육성하고 있다. 이를 위해서는 인공지능 관련 스타트업 활성화 거버넌스 구축과 선진 인공지능 강국의 규제체제 연구로 건전한 스타트업 생태계 조성이 뒷받침되어야 한다. 한편, 영국은 국토 면적이나 인구 수가 우리와 북한을 합친 것과 비슷한 수준이지만, 글로벌 혁신지수, 유니콘기업 수, 기술벤처 투자규모 등은 전세계 최상위권의 혁신적인 기업 생태계 환경과 디지털 경쟁력을 보유하고 있어 ’유럽의 실리콘밸리‘로도 불린다. 이러한 영국의 AI 스타트업 생태계 전반과 개별 주체들의 역할 및 관계, 규제환경, 정부 정책 등을 살펴보고 우리와 비교해 보며, 그들을 뛰어넘기 위해 우린 어떤 것들을 준비하고 개선해야할지 정책적 함의를 알아보고자 한다. 2. 본론 ① 영국 스타트업 및 AI 생태계 현황 영국의 스타트업 생태계 중심은 영국판 실리콘밸리인 테크시티가 있는 런던이다. 런던에만 1,500개 이상의 VC가 활동하며 전세계에서 몰려오는 스타트업들과 다양한 엑셀러레이팅 프로그램에 참여하며 투자를 이어가고 있고, 런던은 ‘2021년 세계에서 스타트업 생태계가 가장 잘 갖춰진 도시’ 2위로 선정되기도 하였다. 이렇게 영국의 창업 생태계가 계속 각광받는 이유는 세계 공통어인 영어 사용, 지리적으로나 시차상 황금시간대의 위치, 법인설립 절차의 용이성, 글로벌 인재 유치에 유리한 정부의 기술중심 산업지원 정책(GEP 프로그램)과 비자 제도(스타트업 비자, 글로벌 탤런트 비자), 캠브리지, 옥스퍼드 등 세계 명문 대학을 통해 오랜기간 축적된 연구 결과와 경험 등을 그 이유로 꼽을 수 있다. ② 각국의 AI 스타트업 정부 지원 정책 영국, 미국 등 AI 선도국가들은 공통적으로 AI 기술을 적극적으로 잘 활용하여 국가, 산업, 사회 전분야의 문제를 해결하고 효율적 시스템을 구축하여 궁극적으로는 경제적 효과 유발과 일자리 창출을 모색하는 등 인공지능을 미래의 국가 성장 동력원으로 인식하여 관련 정책을 펼치고 있다. 우선 영국은 2017년부터 ‘산업전략 백서’, ‘AI 섹터딜’ 등을 발표하며 AI 정책을 도입 발전시켜 나갔다. 주요 정책으로는 ‘국가 AI 전략’, ‘디지털전략 2022’가 있고, 인공지능 고급 인력 양성을 위한 대표 프로그램으로 ‘튜링 AI 펠로우십’을 운용하고 있다. 미국은 2016년부터 ‘국가 인공지능 연구 및 개발 전략 계획’을 통해 AI 정책 방향을 설정하였고, AI 인재양성을 위해 ‘연방 STEM 교육 5개년 전략 계획’ 등을 발표하였다. 미국은 현재 장기적으로 AI 기술 선두 자리를 굳건히 지키며 중국과의 기술 격차를 넓히기 위한 노력을 지속하고 있다. 중국은 2015년 중국인민정치협상회의에서 바이두 창립자 리옌홍이 ”중국대뇌 계획“을 제시한 이후 중국 정부의 본격적 AI 관련 정책 수립이 촉발되어 2017년‘차세대 AI 발전계획’을 시작으로 ‘신산업 인공지능 산업연관 기본규제’, ‘신경망 2025’, ‘2030년까지 인공지능 대국 비전’ 등을 발표하였다. EU는 2018년 “Artificial Intelligence for Europe” 대책을 커뮤니케이션 형태로 발표하며 EU 전체 차원의 AI 정책을 본격적으로 수립 시행하기 시작하였다. EU가 AI 정책 형성 시점에서는 미국, 중국에 비해 후발 주자로 출발했지만, 미국, 중국, 싱가포르와 같은 AI 선도국가들이 국방, 경제적 이익 관점에서 AI를 발전시키고 국가간 AI 동맹 결성에 주력한 반면, EU는 처음부터 사람을 중심으로 AI를 발전, 확산시키는 정책을 펼쳐나간 것이 특징이다. 최근에는 “AI Act”, 즉 AI규제법이 2021년 초안 마련 후 3년만에 2024년 3월 전세계 최초로 유럽의회를 통과하였다. 이 법의 주 목적은 강력한 AI 시스템이 초래할 수 있는 인권, 안전, 윤리 문제를 감소시키는 데 있으며, AI 시스템을 배포․사용함에 있어 AI 시스템의 잠재적 위험과 영향 수준에 따라 위험도를 4단계로 나누어 차등 규제한다는 것이 핵심이다. ③ 영국의 선진 AI 시스템 적용 및 운용 사례 첫 번째는 영국 국민건강서비스(NHS)가 “알고리즘 영향평가 모델”(약칭 AIA)을 2022년부터 세계 최초로 헬스케어 분야에 시범 적용한 사례이다. NHS AI Lab이 국가의료영상플랫폼 데이터에 액세스하여 AI 시스템을 개발하려는 기업들은 누구나 AIA를 수행해야 하는 것이다. 두 번째는 Tech-Bio 분야 AI 혁신에 기여하고 있는 영국바이오산업협회(약칭 BIA)의 사례이다. 영국은 오랫동안 AI, 유전체학, 합성생물학 전반에 걸쳐 학술 연구와 혁신의 선두 주자로 인정받아 왔고, 이제는 이러한 기술과 학문적 기반들이 스핀아웃 및 스타트업 활동의 원천으로 점점 더 많이 전환되고 있는 추세인데 그 중심에 민간 협단체인 BIA가 구심점 역할을 하고 있다. 세 번째는 영국정부가 치매 등 난치병 치료에서 AI 사용을 가속화하기 위해 2024년부터 1억파운드를 추가로 투입, 지원하고 있는 영국 정부의 의료 분야 AI 활용 프로그램 지원 및 활용 사례이다. 네 번째는 영국 정부가 영국내 가장 빠른 슈퍼컴퓨터보다 10배 더 강력하고 속도면에서 세계 상위 10위 안에 드는 인공지능 슈퍼컴퓨터 'Isambard-AI'를 구축하기 위해 2억 2,500만 파운드를 새롭게 투자하여 과학적 연구 촉진을 지원하고 있는 사례이다. ④ AI 스타트업 규제환경 및 국내와의 비교분석 우선 UN과 EU는 공통적으로 AI 발달이 인간에게 미칠수 있는 부정적 요소를 제거, 유익하게 활용될 수 있도록 하고, 국제 사회가 해당 이슈에 관심을 갖도록 인식 제고에 노력하고 있다. 그 일환으로 EU는 2024년 5월 세계 최초로 AI 규제법인 “EU AI Act”를 EU 이사회에서 최종 승인했다. 한편 영국은 리시 수낵 전 총리가 "영국을 AI 기술 규제 중심지로 삼을 것“이라고 밝혔듯, 그 연장선에서 2023년 11월 블레츨리 파크에서 인공지능에 관한 국제 정상회의인 ‘AI 안전 서밋 2023’을 세계 최초로 개최하였다. 여기에는 우리나라를 비롯한 28개국과 EU가 참여하여 AI 기술 안전에 관한 ‘블레츨리 선언’에 서명하였다. 동 선언 후 6개월만인 2024년 5월 우리나라는 ‘AI 안전성 정상회의를 바탕으로, 혁신적이고 포용적인 미래로‘라는 주제로 영국과 공동으로 ’AI Summit‘을 서울에서 개최하였다. 윤 대통령은 개회사에서 안전, 혁신, 포용을 3대 AI 규범가치로 제시하였고, 각국 정상들은 ‘서울 선언’과 그 부속서인 ‘AI 안전 과학에 대한 국제협력을 위한 서울 의향서’를 채택했으며, 참여한 기업들은 ‘프론티어 AI 안전 서약’에 동참했다. 우리나라는 2016년 12월 ‘지능정보사회 중장기 종합대책’ 마련을 시작으로 2018년 ‘I-Korea 4.0 실현을 위한 인공지능(AI) R&D 전략’, 2020년 ‘인공지능 윤리기준' 등 AI 규제 정책을 발표하였다. 특히 ‘인공지능 윤리기준'에서 모든 인공지능 개발과 활용은 ’인간성을 위한 인공지능‘ 구현을 위해 진행되어야 하고 최고의 가치로 인간성을 설정하고 있다. 또한, 인공지능을 개발하고 활용하는 모든 과정에서 반드시 지켜야 할 원칙으로 ‘인간의 존엄성 원칙’, ‘사회의 공공선 원칙’, ‘합목적성 원칙’ 이렇게 3가지를 설정하였고, 이 원칙을 이행하기 위해 충족해야 하는 요건으로 인권 보장, 프라이버시 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성 이렇게 10가지를 핵심 요건으로 제시하였다. 2023년 9월에는 디지털 심화 시대에 맞는 국가 차원의 기준과 원칙을 제시하며 세계를 선도할 보편적 디지털 질서 규범의 기본방향을 담은 ‘디지털 권리장전’을 발표하였고, 같은해 '인공지능 기본법' 제정 논의를 본격화하면서 실질적인 법제화 노력을 시작하였다. 실제로 2024년 미국 대선을 앞두고 바이든 대통령의 투표 불참을 권유하는 가짜 전화, 악담을 하는 일본 기시다 총리 가짜 영상, 중국에서는 딥페이크가 적용된 영상통화를 하여 금전을 요구하는 피싱사기 발생 등 세계 여러 국가에서 딥페이크를 악용한 사례가 늘고있고 안면인식을 통한 신원인증 사기 또한 빈번히 발생하고 있다. 이처럼 생성형 인공지능 기술이 고도화되고 해당 기술을 적용한 서비스 이용이 늘어남에 따라 딥페이크를 이용한 신종 범죄가 점차 늘어나고 있어 각국은 이에 대한 대응 방안 마련에 고심하고 있고, 속속 관련법을 개정하거나 별도 법안 제정을 서두르고 있다. AI 기술 오남용에 대한 글로벌 기업들의 자발적 자정 노력도 이어지고 있다. 예를들면, 2023년 개최된 ‘뮌헨 안보 컨퍼런스’에서 Amazon, Google 등 글로벌 기업들은 AI로 인한 민주적 선거가 훼손되는 것을 방지하기 위해 ‘Tech Accord to Combat Deceptive Use of AI in 2024 Elections’ 협약에 합의하였고, Google, Microsoft, OpenAI 등은 ‘안전’, ‘보안’, ‘신뢰’ 3가지 원칙을 이행하겠다는 자발적 약속(미국 백악관 주재로 성사)의 후속조치로 ‘프론티어 모델 포럼’을 2023년 7월 창립하였다. 3. 결론 : 정책제언 ① ”인간 중심 新 AI 거버넌스”정립 우리는 AI 기술을 고도화하여 기술이 가진 장점은 최대한 살리되, 오․남용은 철저히 관리하고 통제 가능할 수 있도록 규제 장치를 선제적으로 잘 확충하고 있어야 한다. 그러기위해서는 인공지능과 관련하여 정부, 기업, 학계, 연구기관, 국민 등 개별 주체들이 AI에 대한 기본적인 지식 습득은 물론, 우리가 추구하는 가치와 AI를 통해 우리가 달성하고자 하는 목적, 방향성을 정확히 잘 이해하고 함께 노력해야 한다. 이를 바탕으로 개별 주체들이 각자의 위치에서 맡은 바 역할을 충실히 수행하며 유기적으로 잘 협력해 나가는 ‘인간 중심 新 AI 거버넌스’ 정립이 필요하다. 정부의 역할은 AI 기술의 중요성과 파급 효과 등을 고려하여 정부 R&D, 기업지원, 인프라 구축, 인재 육성, 데이터 및 시스템 구축, 공공조달 등 국가 산업 및 기업 육성 패러다임 을 AI 중심으로 대폭 개편하고, 미래를 대비한 정부의 선제적이고 과감한 펀딩이 필요하다. 정부는 인공지능법의 시급한 제정을 촉구하되, 정부 차원에서라도 먼저 AI 기술개발 단계부터 필요한 기본적인 가이드라인을 만들어 제공하고, 개발된 AI 기술이 추후 활용시 악용될 소지가 없도록 제도적 장치도 마련해야한다. 또한 글로벌 표준에 우리 기준이 반영되거나 호환 가능하도록 적극적인 글로벌 협력과 공조 노력을 기울여야 하며, 체계적 AI 교육, 다양한 인재양성 트랙을 마련하여 일반인은 물론 AI 고급 전문인력을 적극 육성해야 한다. ’본격 AI 시대‘에 대비해 국민들의 오해나 편견은 바로잡고, 정부가 추진해야 하는 ’인간 중심 新 AI 거버넌스 구축‘ 노력에는 모두가 관심을 갖고 역량을 모을 수 있도록 국민 인식개선에 힘써야 한다. 기업의 역할과 관련하여 우선 개별 기업들은 AI 기술과 시스템을 기업 경영에 적극 도입하여 투명한 의사결정과 업무 효율화 및 생산성 향상을 도모해야 한다. 아울러, 자체 기술 개발 및 국내외 기업간 기술 제휴 등을 통해 글로벌 기술력과 지식재산권 확보에 힘써야 하며, AI 개발 및 활용 시에는 정부의 가이드라인을 준수하여 고객이나 국민들의 개인 정보 유출이나 AI 오․남용으로 인한 피해가 없도록 철저한 예방 조치를 취하여야 한다. 또한 영국의 BIA처럼 민간에서 협회가 중심이 되어 업계를 하나로 모으고, 정부 정책방향 설정을 지원하며 정부와 함께 정책 기획과 집행 동반자로서 구심점 역할을 수행할 수 있도록 기업들의 모임인 협․단체들은 노력해야 하고 정부는 적극 지원해야한다. 학계와 연구기관은 전문성을 활용하여 인공지능 기술인력을 양성하는데 필요한 우수 교재와 커리큘럼을 개발하고, 올바른 AI 사용 및 평가 방법에 대한 학술 연구를 통해 규제기관의 관련 매뉴얼 제작에 참여하거나 정부기관 직원 역량을 배양할 수 있도록 돕와야한다. 또한, 우리 사회가 인류의 윤리성을 잃지않고 AI를 유익하게 잘 활용할 수 있는 방법은 무엇인지 AI 기술과 응용 가능한 산업 연구, 잘못된 AI 사용을 방지할 수 있는 기술적 대안뿐 아니라 AI 시대의 인간 정체성 탐구나 새로운 일자리 모색 등 연구도 수행해야 한다. 국민들은 새로운 변화에 적응해야 하는 것은 불편하지만 불가피하다는 것을 인식하고, 인공지능 기술 자체에 대한 오해나 편견은 바로잡아야 하며, 변화하는 세상에 잘 적응하고 AI 피해를 예방하기 위해 정부의 다양한 인공지능 기본 소양 교육과 정부가 추진하는 ’인간 중심 新 AI 거버넌스 구축‘ 노력에 관심을 갖고 적극 동참해야 한다. ② 우리 환경에 맞는 AI 규제 시스템 구축 글로벌 AI 선진국들은 자국에 유리한 글로벌 AI 표준을 설정하려 열을 올리는 한편 자국의 AI 생태계와 스타트업을 집중 육성하는데도 힘을 쏟고 있다. 이러한 때 정부를 비롯한 국민 모두는 AI 기본법 제정이 늦어지면 글로벌 흐름에서 우리만 도태될 수 있다는 위기감을 인식하여 조속한 법 제정을 촉구하고, 미래의 먹거리를 확보하고 개인의 권리가 침해되지 않도록 법안 내용에 관심을 기울여야 한다. 법 제정과는 별도로 정부는 AI 기술 악용으로 국민들이 피해를 입지 않도록 개인정보보호를 강화하고 개발자나 기업, 개인에게 필요한 AI 개발 및 활용 가이드라인을 정부가 제공하고 주도해 나가야 한다. 영국 NHS가 ’알고리즘 영향 평가 모델‘을 도입한 사례를 참고하여 우리도 국민 생활에 크게 영향을 미치는 의료, 교통, 치안, 재난, 기후, 에너지 등 공공 부문에서 먼저 알고리즘 영향평가 모델과 유사한 AI 시스템을 국가 차원에서 도입, 운용할 것을 제안한다. 인공지능 컨트롤타워이자 AI 관련 정책 전반을 심의․조정하기 위해 최근 설립(‘24.7월)한 ‘국가인공지능위원회’를 중심으로 우리만의 명확한 AI 규제시스템을 정립하여 중소기업들이 기업활동에 지장을 받지 않으면서도 새롭게 시장에 진출하는 AI 기술 기반 스타트업들이 더 많이 생겨날 수 있도록 기업 환경을 조성해야 한다. 또한, 정부는 글로벌 표준에 우리 기준을 반영하거나 반대로 글로벌 표준의 장점을 우리 기준에 수정 반영, 기업의 글로벌 진출시 규제 허들을 낮춰 우리의 번영과 국익에 도움이 될 수 있도록 글로벌 공조에도 적극 힘써야 한다. 예를들면 글로벌 협의체에서 우리나라가 전 지구적 문제 해결을 위해 글로벌 공동 펀드 조성을 제안한다거나 국제회의에서 우리가 구축한 AI 규제시스템 모델과 실제 적용 사례를 소개하는 등 우리의 목소리를 높여 나가야한다. ‘AI 서울 정상회의’와 같은 국제 회의를 더 많이 개최하고 유치를 확대하는 노력도 필요하다. ③ AI 강국 도약 위한 AI 스타트업 육성 및 인력 양성 정부는 국내에서도 충분히 대박날 수 있는 AI 생태계 풍토를 조성해야 한다. 그러기 위해서는 기업 규모에 관계없이 누구에게나 똑같이 적용되는 공정하고 명확한 게임의 규칙, 즉 AI 규제시스템이 있어야 하고, 큰 기업이 부당하게 스타트업의 핵심 기술을 함부로 탈취하거나 기술인력을 빼가는 등 스타트업의 사업 의지를 꺾는 일이 없도록 정부는 시장 상황을 주의깊게 모니터링하고 안전장치도 마련해야 한다. 또한 모태펀드를 과감히 투입해 기술력있는 AI 스타트업들이 조기에 성과를 낼 수 있도록 지원하고 향후 성과가 좋은 기업들이 소위 대박의 꿈을 실현할 수 있도록 회수시장을 잘 정비하고 시장 규모도 키워 나가야 한다. 또한 정부는 한국형 규제샌드박스인 규제자유특구를 더욱 활성화하고, 이 공간을 적극 활용하여 많은 AI 스타트업을 조기에 육성할 것을 제안한다. AI 기업과 스타트업들은 자유롭게 기술을 개발하여 제품으로 시판하기 전에 안전성을 검증하고 레퍼런스를 축적하는 용도로 이 공간을 활용하고, 규제기관들은 기업이 축적한 데이터 중 일부를 향후 규제 개선 필요성을 입증할 수 있는 공신력 있는 Back Data로 활용하는 등 규제자유특구가 우리 정부가 보증하는 ‘공신력있는 테스트베드’로서의 기능을 충실히 이행할 수 있도록 정부가 정책적으로 뒷받침하여야 한다. 또한, 정부가 역량있는 민간 투자사를 선정, 이들을 통해 우수한 AI 스타트업을 선별, 정부 정책을 연계 지원하는 ‘제2의 TIPS 방식’으로 AI 스타트업을 집중 육성할 것을 제안한다. 아울러, 정부 차원에서 우리 사회의 고질적 난제(봄철 황사 저감 방안, 교통사고율 저하 방안, 집중 홍수나 가뭄 예방방안, 암세포 표적제거 방안, 전염병 치료제 플랫폼 개발 등)를 문제로 제시하고 이를 해결하기 위해 AI 스타트업들이 참여하는 해커톤 형식의 경진대회를 정기적으로 개최, 입상시 상금뿐 아니라 과감한 정부 사업 연계지원 등 제도적 혜택을 제공하는 것도 제안한다. 정부가 AI 기술 인재들이 국내에서도 충분히 대박나고 대접받는 풍토를 조성함으로써 그간 우리가 애써 키워낸 우수한 AI 기술자들이 해외로 이탈하는 것을 줄여나가는 한편, 동시에 해외에 나가있는 재외동포 중 AI 기술 인력들이나 스타트업들을 국내로 유입하기 위한 ‘재외동포 기술인력 유턴방안’도 조속히 마련해야 한다. 아울러 영국처럼 비자제도 등을 적극 활용하여 외국의 AI 고급 기술인력 유입 확대에도 정부가 적극 힘써야 한다. ④ AI 산업 및 스타트업 활성화 위한 국민 인식 개선 정부는 AI 기술 도입으로 달라지는 일상의 변화나 인류가 얻게 될 혜택 등 곧 도래할 본격적인 AI 시대에 대비해 전문가 의견이나 논문, 과학적 통계들을 중심으로 국민들에게 올바른 정보를 제공해야 하고, AI 기술 자체에 대한 오해나 편견은 바로잡을 수 있도록 지원하며, 시급히 추진해야 하는 AI 산업 육성, 규제시스템 마련 등 ’인간 중심 新 AI 거버넌스 구축‘ 노력에 국민 모두가 관심을 갖고 역량을 집중할 수 있도록 정부가 국민들 인식개선에 앞장서야 한다. 또한 국민 개개인들도 다가올 AI 시대에 대해 막연한 두려움 보다는 희망과 기대를 품고 새로운 시대가 국가와 나의 경쟁력을 높이고 퀀텀 점프할 수 있는 절호의 기회가 될 수 있도록 스스로가 철저히 대비하고 준비하는 노력이 필요하겠다.