지능정보화 사회에 적합한 규범체계 정립

- 인공지능 알고리즘의 투명성 확보방안을 중심으로 -

2021년 5월

방 송 통 신 위 원 회

이 광 용

국외훈련 개요

1. 훈련국: 미국

2. 훈련기관명: 플로리다 주립대학교 (Florida State University)

3. 훈련분야: 행정학 (Public Administration)

4. 훈련기간: 2019. 6. 10. ~ 2021. 4. 30.

5. 훈련과제명: 지능정보사회에 적합한 규범체계 정립

훈련기관 개요

1. 훈련기관 플로리다 주립대 소개

- 플로리다 주립대(FSU: Florida State University)는 1851 년에 설립된 대학으로 플로리다에서 가장 오래된 대학임

- 2018년 기준 132 개국 41,900 명의 학생들이 등록

- 탤러해시(Tallahassee, FL)에 본교 캠퍼스가 있으며, 파나마시티(Panama City, FL)에 분교 캠퍼스로 나누어져 있음

- 탤러해시(Tallahassee) 본교 캠퍼스 기준으로 면적은 486 에이커(약 60만평)이며, 교수진은 2,360 여명, 총 직원은 14,079명임

- 학교 운영 예산은 $1,712,841,231임

2. 훈련기관 주소: Askew School of Public Administration P.O. Box 3062250, 113 Collegiate Loop, Tallahassee, Florida 32306

3. 훈련기관 전화번호: (850) 644-3525

4. 훈련기관 팩스: (850) 645-4923

5. 훈련기관 졸업요건

- 총 42학점을 이수해야 하며, 과목별로 C+ 이하에 대해서는 재수강 필요

- 필수 이수 과목은 총 7과목*(21학점)이며, 마지막 학기에 Action Report (소논문)를 작성해야 함

* 1. The Profession of Public Administration, 2. Public Organizations, 3. Public Financial Management, 4. Human Resource Management, 5. Policy Development and Administration, 6. Research Design in Public Administration, 7. Quantitative Analysis in Public Administration

6. 행정학과 주요 교수진

- 학장: Dr. Gary VanLandingham Professor

- 학부 Director : Dr. Keon-Hyung Lee Professor

- 그 외 교수진: Dr. Frances Berry Professor 외 중국계, 필리핀계 교수 등 총 8명의 교수진으로 구성

국외훈련 결과 보고서

목  차

요약문 ․․․․․․․․․․․․․․․․․․․․․․․․  11

Ⅰ. 서론 ․․․․․․․․․․․․․․․․․․․․․․․․ 16

1. 인공지능의 중요성 ․․․․․․․․․․․․․․․․ 16

2. 인공지능 발전과 영향에 대한 상반된 전망 ․․․․․ 17

3. 투명성 논의가 중요한 이유 ․․․․․․․․․․․․ 19

Ⅱ. 검토배경 ․․․․․․․․․․․․․․․․․․․․․․ 20

1. 인공지능 알고리즘 시장 전망 ․․․․․․․․․․․ 20

2. 인공지능 투자현황 및 정부의 준비지수 ․․․․․․  22

1) 인공지능 투자현황 ․․․․․․․․․․․․․․  22

2) 정부의 준비지수 ․․․․․․․․․․․․․․․  25

3. 검토배경 ․․․․․․․․․․․․․․․․․․․․  27

1) 인공지능 발달로 예상되는 이슈 ․․․․․․․․  27

2) 투명성에 대한 논의 방향 ․․․․․․․․․․․  32

Ⅲ. 선행연구 검토 ․․․․․․․․․․․․․․․․․․․  34

1. 인공지능에 대한 정의와 영향 ․․․․․․․․․․․ 34

2. 인공지능 알고리즘에 대한 거버넌스 논의 ․․․․․  40

3. 인공지능 알고리즘에 대한 투명성 논의 ․․․․․․  50

4. 기존 연구의 한계와 이 연구의 의의 ․․․․․․․․ 53

Ⅳ. 연구방법론과 정책평가기준․․․․․․․․․․․․․․ 57

1. 연구방법론 ․․․․․․․․․․․․․․․․․․․  57

2. 정책평가기준 ․․․․․․․․․․․․․․․․․․  58

Ⅴ. 정책대안 ․․․․․․․․․․․․․․․․․․․․․․ 62

1. 총론 ․․․․․․․․․․․․․․․․․․․․․․  62

2. 인공지능 입력 데이터와 출력 결과물 공개, 설명의무화 ․․ 64

1) 고려사항 ․․․․․․․․․․․․․․․․․․  58

2) 세부내용 ․․․․․․․․․․․․․․․․․․  66

3) 정책평가 ․․․․․․․․․․․․․․․․․․  68

3-1) 정보접근성 ․․․․․․․․․․․․․․․ 68

3-2) 정보완전성 ․․․․․․․․․․․․․․․ 70

3-3) 정책수용성 ․․․․․․․․․․․․․․․ 71

3. 인공지능 영향평가 및 감사 ․․․․․․․․․․․  74

1) 고려사항 ․․․․․․․․․․․․․․․․․․  74

2) 세부내용 ․․․․․․․․․․․․․․․․․․  76

3) 정책평가 ․․․․․․․․․․․․․․․․․․  78

3-1) 정보접근성 ․․․․․․․․․․․․․․․ 78

3-2) 정보완전성 ․․․․․․․․․․․․․․․ 79

3-3) 정책수용성 ․․․․․․․․․․․․․․․ 81

4. 윤리적 가치를 AI 알고리즘에 코드화하도록 의무부과 ․․ 84

1) 고려사항 ․․․․․․․․․․․․․․․․․․  84

2) 세부내용 ․․․․․․․․․․․․․․․․․․  87

3) 정책평가 ․․․․․․․․․․․․․․․․․․  88

3-1) 정보접근성 ․․․․․․․․․․․․․․․ 88

3-2) 정보완전성 ․․․․․․․․․․․․․․․ 89

3-3) 정책수용성 ․․․․․․․․․․․․․․․ 91

Ⅵ. 결론 ․․․․․․․․․․․․․․․․․․․․․․․  93

참고문헌 ․․․․․․․․․․․․․․․․․․․․․․․ 98

표 목차

Table 1. Datamation 선정 세계 100대 AI 기업 순위 ․․․․ 23

Table 2. 2019 AI 준비지수 상위 30개국 순위 ․․․․․․․ 26

Table 3. 아실로마 원칙 ․․․․․․․․․․․․․․․․․ 36

Table 4. 인공지능에 대한 캠브리지의 보안위협 시나리오 ․․ 38

Table 5. 방송통신위원회가 발표한 7개 기본원칙 ․․․․․  40

Table 6. 마이크로소프트 인공지능 원칙 ․․․․․․․․․  43

Table 7. 구글의 인공지능 원칙 ․․․․․․․․․․․․․  44

Table 8. OECD AI Principles and The Role of Governments ․․ 47

Table 9. GDPR 하에서의 투명성 요소 ․․․․․․․․․․ 51

Table 10. 정책대안에 대한 평가기준 ․․․․․․․․․․․ 60

Table 11. 정책대안 1에 대한 주요 고려사항 ․․․․․․․  65

Table 12. 정책대안 1 평가결과 ․․․․․․․․․․․․․  72

Table 13. 정책대안 2에 대한 주요 고려사항 ․․․․․․․ 75

Table 14. 정책대안 2 평가결과 ․․․․․․․․․․․․․ 82

Table 15. 정책대안 3에 대한 주요 고려사항 ․․․․․․․ 85

Table 16. 정책대안 3 평가결과 ․․․․․․․․․․․․․ 92

Table 17. 정책대안에 대한 평가결과 ․․․․․․․․․․  94

그림 목차

Figure 1. 인공지능 알고리즘에 대한 시장전망 ․․․․․․․ 20

Figure 2. 2011년부터 2019년까지 미국 내 인공지능 투자 금액 ․․ 22

Figure 3. AI ChatBot Iruda ․․․․․․․․․․․․․․․  28

Figure 4. 마이크로소프트 AI Chatbot Tay에 대한 우려 ․․․ 29

Figure 5. 알파고 패배시 팝업 메시지 ․․․․․․․․․․․ 31

Figure 6. 오바마 전 미국 대통령의 딥페이크 이미지 ․․․․ 32

Figure 7. 트롤리 딜레마 ․․․․․․․․․․․․․․․․․ 56

Figure 8. 4차 산업혁명 소개 ․․․․․․․․․․․․․․․ 93

요약문

1. 연구배경 및 필요성

빅데이터, 클라우드 컴퓨팅 등의 데이터 중심 기술이 발달함에 따라 이를 통합하는 key platform으로서 인공지능은 급속히 발달하고 있다. 하지만 AI 발전과 그 영향에 대한 우리의 전망은 예측할 수 없을 정도로 불확실하다. 전문가들 조차도 인공지능 발달에 대해서 그 예상이 상반될 정도로 인공지능 발전속도와 그 영향에 대해서는 아직까지 불확실성이 큰 상황이다. 인공지능의 발전속도와 그 영향에 대한 많은 논쟁에도 불구하고 아마존의 알렉사, 애플의 시리, 구글의 딥러닝 등 인공지능 기술은 이미 우리 사회에 빠르게 침투하여 사용되고 있다. 이에 각국은 인공지능에 대한 사회적 우려를 해소하고 인공지능에 대한 사회적 안전판으로서 통제장치 마련을 위한 논의를 전개하고 있다. 하지만 인공지능이 어떻게 발전하고 우리사회에 어느 정도까지 영향을 미칠 것인지 불확실한 상황에서, 법, 제도, 규제 등 일정정도 강제력을 가진 규범을 통해 인공지능 기술을 제한하는 것은 불가능하며 바람직하지도 않다. 또한, 인공지능에 대한 우려로 인공지능 알고리즘을 전체적으로 공개하도록 강제하는 것 역시 기업의 지적재산권을 침해하고 기업의 창의성과 혁신을 저해할 우려가 있어 신중한 접근이 요구된다. 결국, 인공지능의 부정적 영향에 대한 우려를 최소화하고 인공지능의 발전을 도모하기 위해서는 인공지능 발전을 저해할 수 있는 법, 규제의 남용을 최소화하는 동시에 인공지능 알고리즘에 대한 투명성 확보방안을 논의할 필요가 있다.

2. 이 연구의 의의

인공지능 알고리즘의 논의는 여러 분야에서 진행되고 있으나, 아직까지는 추상적 수준에서 일반적이고 총론적인 규범 논의에 그치고 있다. 인공지능의 기술 발전 속도가 빠르고 그 발전 방향 또한 예상하기가 쉽지 않기 때문에 법이나 규제를 섣불리 설정할 경우 전문가들의 자율성을 침해할 우려가 높기 때문이다. 하지만 추상적, 총론적 논의만 제기됨에 따라 이를 보다 구체화하는 작업이 필요하다. 이 논문에서는 이러한 방향의 하나로 인공지능 알고리즘의 투명성 확보방안을 구체적으로 제시하고자 한다.

3. 주요 연구내용

이 논문의 목표는 AI 알고리즘의 투명성을 높이는 정책방안을 제시하는 것이다. 이를 통해 사용자들의 수용성을 높여 AI 알고리즘 발전을 꾀하는 것을 목적으로 한다. 따라서, 먼저 제시되는 정책대안들이 인공지능 알고리즘의 투명성을 얼마나 제고하는지 평가하고자 한다. 그리고 구체적인 정책대안들이 현실에서 적용가능한지 평가하기 위해 해당 정책들에 대해 이해관계자들이 수용가능성을 추가적으로 평가하고자 한다. 각 정책대안들이 투명성을 얼마나 높일 수 있는지 측정하기 위해 투명성 측정 지표로서 정보접근성과 완전성을 사용하고자 한다. 이해관계자들의 정책수용성을 측정하는 지표로는 소망성, 명확성, 실효성을 사용할 것이다.

정책대안들이 실효성을 가질 수 있도록 최소한의 강제력을 포함한 실질적인 실행이 가능한 정책옵션을 제시하고자 한다. 이에 따라, 현재 많은 국가나 기관, 기업들이 제시하는 인공지능 윤리 가이드라인을 마련하는 방안은 여기서는 논의하지 않기로 한다. 왜냐하면 해당 가이드라인은 인간의 존엄과 가치, 공정성, 투명성, 책무성, 프라이버시 보호 등 AI 알고리즘 개발, 사용에 대한 전체적인 내용을 다루고 있고 그 실행은 개발자의 선한 의지에 전적으로 의존하고 있기 때문이다. 이는 정책의 실현이 개발자의 선의에 기대고 있어 투명성 확보 또한 개발자의 선의나 의지에 좌우되기 때문이다. 이에 따라 이 논문에서 검토하고자 하는 대안은 다음과 같다.

정책대안 1: 인공지능 입력 데이터와 출력 결과물 공개, 설명 의무화

정책대안 2: 인공지능 영향평가 및 감사

정책대안 3: 윤리적 가치를 AI 알고리즘에 코드화하도록 의무 부과

각각의 방안은 행위자를 기준으로 AI 알고리즘의 투명성 확보 방안을 제시하고 있다. 먼저 정보를 제공하는 이용자가 직접 AI 알고리즘의 투명성을 확인할 수 있는 방법을 첫 번째 정책대안으로 제시하고자 한다. 개발자가 공개한 정보를 이용자가 확인하고 추가적으로 필요한 정보는 개발자에게 설명을 요구할 수 있는 권리를 이용자에게 부여하여 이용자 스스로 투명성을 확보하는 것이다. 두 번째 정책대안은 국가기관이나 신뢰할 수 있는 제3자가 이용자를 대신하여 간접적으로 데이터나 인공지능 알고리즘의 투명성을 확인하는 방법이다. 인공지능 알고리즘을 구성하는 레이어는 수백, 수천 레이어로 구성되어 있으며, 그 내용 또한 전문적이어서 해당 기술 분야에 대한 전문성이 부족한 이용자가 이를 확인하기란 쉽지 않을 것이다. 따라서, 공신력과 전문성을 가진 국가기관이 이용자를 대신해 투명성을 확인하는 것을 두 번째 정책대안으로 제시하고자 한다. 세 번째 정책대안은 인공지능 알고리즘에 대한 외부 개입 없이 개발자와 인공지능 알고리즘 스스로 직접 투명성을 증명하는 방법이다. 투명성이나 윤리적 가치를 코드화하고 이를 인공지능 알고리즘이 학습하도록 하여 인공지능 알고리즘에 대한 개입을 최소화하여 산업 발전을 도모하고자 한다. 각각의 정책대안은 정보접근성, 정보완전성, 정책수용성 관점에서 3점 척도로 평가할 것이다.

4. 결론

세 가지 대안 모두 AI 알고리즘의 투명성을 증대시키는데 기여한다. 그러나, 정책에 대한 효과는 정책에 대한 이해관계자들의 반응에 따라 상이하게 나타난다. 따라서, 실현가능성과 AI 알고리즘 투명성을 제고시키는 정도를 고려하여 정책옵션을 선택하는 것이 타당하다. 이에 따라, 각각의 정책대안을 평가한 결과는 아래와 같다.

	정보접근성	정보완전성	정책수용성	합계
정책대안 1: 인공지능 입력 데이터와 출력 결과물 공개, 설명의무화	2.75	1.33	1.67	5.75
정책대안 2: 인공지능 영향평가 및 감사	2.25	2.5	2	6.75
정책대안 3: 윤리적 가치를 AI 알고리즘에 코드화	1	2.83	1 or 3	4.83 or 6.83

AI 알고리즘의 지속가능한 발전과 투명성 확보라는 2개의 가치가 조화롭게 발전하기 위해서는 정책대안 2가 현재로서는 가장 효과적인 정책으로 판단된다. 전문화된 국가기관에 의해 AI 알고리즘에 검증이 가능하며 제시된 기준에 따라 개발자 스스로 평가하고, 사후 문제가 발생할 경우 개입하는 형식을 취해 AI 알고리즘에 대한 투명성 확보와 개발자의 정책수용성 양자를 조화롭게 도모할 수 있기 때문이다. 다만, AI 알고리즘이 지속적으로 발전하고 진화하는 상황에서 사후 감사를 통해 최소 1년 전 알고리즘에 대한 데이터와 논리구조를 판단하는 것은 즉시성에서 한계를 가질 수 있다. 또한, 인공지능의 발전이 인간의 인지능력을 초과할 경우 이를 감사하고 평가하는 것 또한 정보접근성과 정보완전성을 낮추게 될 것이다. 결국 인공지능 알고리즘 발전 초기에는 알고리즘에 대한 투명성과 신뢰성을 확보할 수 있도록 정책대안 2를 중심으로 AI 알고리즘 투명성 정책을 수립하고, 추후 사회적 논의과정을 거쳐 윤리적 가치에 대한 사회적 합의가 도출될 경우에는 인공지능 알고리즘 투명성에 대한 지속적이고 즉시적인 검증이 가능한 정책대안 3으로 정책적인 전환하는 것이 바람직 할 것이다.

Ⅰ. 서론

1. 인공지능의 중요성

빅데이터, 클라우드 컴퓨팅 등의 데이터 중심 기술이 발달함에 따라 이를 통합하는 key platform으로서 인공지능은 급속히 발달하고 있다. World Economic Forum (WEF)에 따르면 인공지능은 4차 산업혁명의 엔진이다 (WEF, 2020). 구글 CEO인 Sundar Pichai는 회사 주주들에게 보낸 첫번째 서한에서 "We will move from mobile first to an AI first world."라 말할 정도로 AI에 대한 중요성은 커지고 있다 (AI Business, 2016). 또한, 딥러닝(deep learning) 기술의 발달에 따라 인공지능이 스스로 학습하고 진화하는 것이 가능해짐에 따라 인공지능은 인간의 학습수준을 넘어서고 있다. 2016년 알파고와 세계 최고의 바둑기사인 이세돌 9단과의 대결에서 알파고가 압승을 거둔 것은 인공지능의 급속한 발전을 잘 반영하는 사례라 할 수 있다. 머신 러닝에 기반한 인공지능 학습의 눈부신 발전과 더불어 과거 데이터를 기반으로 한 미래 예측도 빠르게 발전하고 있다. 코로나 19 팬데믹을 가장 먼저 예측한 것은 세계 보건기구가 아닌 인공지능 업체인 BlueDot 이었다 (Niiler, 2020). BlueDot의 인공지능 플랫폼은 2020년 전 세계 65개국의 병원 시설과 가축․동물 데이터, 국제 항공 데이터, 실시간 기후 변화 데이터 등을 분석해 지구촌에 다가올 코로나19 팬데믹을 정확하게 예측한 것이다. 인공지능이 방대한 데이터를 수집, 분석하여 학습하고 이를 바탕으로 추론하고 문제를 해결하는 능력을 갖추어 나가고 있는 것이다.

2. 인공지능 발전과 영향에 대한 상반된 전망

하지만 AI 발전과 그 영향에 대한 우리의 전망은 예측할 수 없을 정도로 불확실하다.

먼저 인공지능 발달에 대한 전망을 보면 우리의 예상보다 인공지능 발달은 빠르게 이루어질 것이라는 전망과 인간과 유사한 수준의 지능을 보유한 인공지능의 출현은 먼 미래의 일이라는 상반된 예측이 모두 존재한다. 2017년 세계지식포럼(World Knowledge Forum, WKF)에서 예일대 의학부 교수인 이대열은 인공지능이 인간의 지적능력을 추월하는 것은 아주 먼 미래의 일을 것이라고 하여 인공지능에 대한 낙관적, 비관적 시각을 경계하였다. 반면, 같은 회의 (2017 World Knowledge Forum)에서 옥스포드 미래 인간 연구소 소장 (Oxford Future of Humanity Institute Director)인 Nick Bostrom은 인공지능 발달은 인간의 예측을 벗어나 급속하고 빠르게 이루어질 것으로 전망하였다. 이러한 시각이 급진적으로 나타나면 인공지능이 인간을 지배하고 대체할 것이라는 AI-phobia적인 시각으로 발전할 우려가 있다. 스티븐 호킹 박사는 로봇이 인간보다 빠르게 진화할 가능성이 높다고 주장하며, 극단적으로는 로봇의 반란에 대비해야 한다고도 주장한다. 그는 군비경쟁을 벌이듯이 모든 마라가 인공지능 개발경쟁에 뛰어들게 됨에 따라 인간이 만든 로봇이 인류보다 빠르게 진화할 수 있는 잠재력을 갖춰가고 있다고 주장한다. 이러한 상황에서 인공지능이 스스로 진화할 수 있는 단계에 들어서면 로봇이 인류를 지배하기 위해 반란을 일으킬 수 있다고 경고했다. 이처럼 전문가들 조차도 인공지능 발달에 대해서 그 예상이 상반될 정도로 인공지능 발전속도에 대해서는 아직까지 불확실성이 큰 상황이다.

그 다음으로 인공지능이 우리 사회에 미치는 영향에 대해서도 상반되는 두 가지 시각이 혼재하고 있다. 사회 전반의 혁신을 가속화할 것이라는 긍정적인 시각이 있는 반면 개인정보침해, 사회적 차별의 고착화 등의 부정적 시각이 동시에 나타나고 있다. Frey & Osbone (2013)은 컴퓨터화에 따라 미국 직업의 47%가 사라질 것으로 분석하고 있으며, 2016년 다보스 포럼에서는 2020년까지 인공지능 기술 발달에 따라 전 세계적으로 500만개의 일자리가 소멸될 것으로 전망한다. 그에 반해 인공지능, 빅데이터 등 신규 기술분야에서 200만개의 새로운 일자리가 창출될 것이라는 긍정적인 전망과 더불어 (GE, 2016), 인공지능을 탑재한 로봇은 단순 반복적인 노동을 대체함에 따라 생산성과 효율성을 향상시켜 인간의 삶이 보다 풍요로워질 것이라 전망하기도 한다 (Ford, 2015). 이처럼 인공지능 기술이 우리 사회에 보다 많이 사용되고 큰 영향을 미칠 것이라는 전망은 이견이 없으나, 그 영향이 긍정적일지 아니면 부정적일지에 대해서는 아직까지 많은 논쟁이 있을 정도로 불확실성이 높다.

3. 투명성 논의가 중요한 이유

인공지능의 발전속도와 그 영향에 대한 많은 논쟁에도 불구하고 아마존의 알렉사, 애플의 시리, 구글의 딥러닝 등 인공지능 기술은 이미 우리 사회에 빠르게 침투하여 사용되고 있다. 이에 각국은 인공지능에 대한 사회적 우려를 해소하고 인공지능에 대한 사회적 안전판으로서 통제장치 마련을 위한 논의를 전개하고 있다. 미국은 민주당 하원의원인 Yvette Clarke이 2019년 4월 10일 알고리즘 책무성 법안 (Algorithmic Accountability Act)을 발의하였으며, 영국에서도 전 보수당 수상이었던 David Davis가 정부는 알고리즘에 대한 책무성 법안 (an accountability for algorithms act)을 통과시켜야 한다고 촉구한 바 있다 (Clarke, 2019., Davis, 2020). 한국에서도 방송통신위원회가 2019년 '지능정보시대 이용자 보호를 위한 가이드라인'을 발표하는 등 AI 알고리즘에 대한 규제를 마련하는 움직임을 보이고 있다. 하지만 인공지능이 어떻게 발전하고 우리사회에 어느 정도까지 영향을 미칠 것인지 불확실한 상황에서, 법, 제도, 규제 등 일정정도 강제력을 가진 규범을 통해 인공지능 기술을 제한하는 것은 불가능하며 바람직하지도 않다. 또한, 인공지능에 대한 우려로 인공지능 알고리즘을 전체적으로 공개하도록 강제하는 것 역시 기업의 지적재산권을 침해하고 기업의 창의성과 혁신을 저해할 우려가 있어 신중한 접근이 요구된다. 결국, 인공지능의 부정적 영향에 대한 우려를 최소화하고 인공지능의 발전을 도모하기 위해서는 인공지능 발전을 저해할 수 있는 법, 규제의 남용을 최소화하는 동시에 인공지능 알고리즘에 대한 투명성 확보방안을 논의할 필요가 있다.

Ⅱ. 검토배경

1. 인공지능 알고리즘 시장 전망

Allied Market Research (AMR)에 따르면 인공지능 시장은 2016년 4,065백만 달러에서 2025년에 1,694억 달러로 연평균 55.6%씩 성장할 것으로 전망된다 (AMR, 2018). 지역별로는 2016년 북미 시장이 전체 글로벌 시장에서 49%를 차지하고 있으며, 2025년까지 아시아-태평양 지역이 연평균 59.4%씩 성장하여 가장 높은 성장세를 보일 것으로 전망한다. 인공지능 중 머신 러닝 부문은 2016년 기준으로 인공지능 시장의 52%를 차지하여 가장 높은 점유율을 보이며, 2025년까지 연평균 56.4%씩 성장할 것으로 예측된다. 주변 산업과의 연계성을 고려했을 때, IT 및 통신부문이 인공지능 알고리즘과 결합하여 2025년까지 56.7%씩 성장할 것으로 전망한다.

Figure 1. 인공지능 알고리즘에 대한 시장전망

출처: AMR Homepage (https://www.alliedmarketresearch.com/)

또한, 코로나 바이러스와 같이 예측할 수 없는 팬데믹 현상에서도 인공지능 알고리즘의 활용과 성장은 지속될 것으로 전망된다 (AMR, 2018). 의료분야와 농업분야 등 많은 분야에서 인공지능 기술을 구현하여 코로나 바이러스 전염병에 대응하고 있다. 코로나 바이러스에 대한 연구나 치료 프로세스에 인공지능 알고리즘이 활용될 뿐만 아니라, 코로나 바이러스 증상을 선별하기 위한 공개 챗봇에서도 인공지능 알고리즘이 활용되었다. 그 외에도 인공지능 기술은 다양한 부문에서 생산성 향상에 도움을 줄 것으로 전망된다. 예를들어, Netflex는 사용자의 이전 시청 경험을 바탕으로 새로운 영화를 추천하고, 경영 및 마케팅 부문에서는 작업관리, 브랜드 광고,추세 예측 등의 다양한 경영관리 방식의 혁신에 기여할 것으로 전망된다.

2. 인공지능 투자현황 및 정부의 준비지수

1) 인공지능 투자현황

Statista 통계에 따르면 미국이 인공지능에 투자한 금액은 2011년 2억 8,200만 달러에서 2019년 165억달러로 크게 증가하였다. 인공지능 스타트업에 대한 자금투자도 2019년 전 세계적으로 266억달러에 달할 정도로 그 투자 금액은 계속적으로 증가하고 있다.

Figure 2. 2011년부터 2019년까지 미국 내 인공지능 투자 금액

출처: Statista 홈페이지 (https://www.statista.com/)

인공지능 분야 중 머신 러닝 (Machine Learning) 분야에 대한 투자는 가장 크게 늘어났다. 머신 러닝 분야는 2019년 6월 기준으로 누적자금 투자액이 317억 달러에 달하며, 그 중 Intel Capital은 2020년 5월 기준으로 55개 스타트업에 투자하는 등 주요 기업들의 인공지능 스타트업에 대한 투자는 계속적으로 증가하고 있다. 2020년 전 세계기업들의 인공지능 투자액수는 약 500억 달러로 전망될 정도로 인공지능에 대한 투자는 기하급수적으로 증가하고 있다 (Jeans, 2020). 컨설팅 기업인 Accenture에 따르면 AI에 대한 투자를 통해 평균 38%p의 수익율을 높일 수 있을 것으로 기대되며, 2035년까지 14조 달러 이상의 경제적 가치를 가져올 것으로 전망하고 있다. 한편, Datamation이 선정한 세계 100대 AI 기업은 다음과 같다.

Table 1. Datamation 선정 세계 100대 AI 기업 순위

순위	기업	순위	기업	순위	기업	순위	기업
1	Amazon Web Services	26	Casetext	51	SenseTime	76	SoundHound
2	Google Cloud Platform	27	Blue River Tech	52	Flatiron Health	77	Zoox
3	IBM Cloud	28	Nvidia	53	Deep 6	78	Zymergen
4	Microsoft Azure	29	Bright Machines	54	Directly	79	Tamr
5	Alibaba Cloud	30	Orbital Insight	55	Element AI	80	DJI
6	Anduril Industries	31	Brighterion	56	Pony.Ai	81	HiSilicon
7	Sift	32	H2O	57	C3.Ai	82	Insitro
8	Nauto	33	Intel	58	Big Panda	83	Blue Prism
9	Tempus	34	Clarifai	59	Banjo	84	Rulai
10	Salesforce	35	X.Ai	60	Stem	85	OpenAI
11	Automation Anywhere	36	Zebra Medical Vision	61	Bossa Nova Robotics	86	Vicarious
12	SenSat	37	Iris AI	62	Tamr	87	Ubiquity6
13	Phrasee	38	Freenome	63	Xant	88	AIBrain
14	Defined Crowd	39	Neurala	64	Dataminr	89	CloudMinds
15	Pymetrics	40	Graphcore	65	K Health	90	DataRobot
16	Siemens	41	CognitiveScale	66	Qualcomm	91	Affectiva
17	Socure	42	ICarbonX	67	HyperScience	92	UiPath
18	AEye	43	OneModel	68	Vivint	93	Algorithmia
19	Rev.Com	44	Lobster	69	Anki	94	Deepmind
20	Suki.Ai	45	Next IT	70	Ayasdi	95	Domino Data Lab
21	Verkada	46	Pointr	71	ICarbonX	96	Narrative Science
22	DataVisor	47	Tencent	72	CrowdStrike	97	Sherpa.Ai
23	People.Ai	48	Xnor.Ai	73	Cylance	98	Swim.Ai
24	AlphaSense	49	Twilio	74	Tetra	99	Xanadu
25	Icertis	50	ViSenze	75	Nuro	100	Butterfly Network

출처: Datamation 홈페이지 (https://www.datamation.com/)

국가별로 인공지능 분야에 투자한 금액을 보면 중국이 가장 많은 자금을 투자하고 있는 것으로 나타난다 (Statista, 2020). 2013년부터 2018년 1분기까지 중국은 전 세계 AI 투자금액의 60%를 차지하고 있으며, 2017년에는 전 세계 투자금액의 70%를 차지할 정도로 AI 투자에 박차를 가하고 있다.

2) 정부의 준비지수

Oxford Insights and the International Development Research Centre에 따르면 2019년 기준으로 정부의 인공지능 준수지수를 보면 싱가포르가 1위를 차지했다. AI 준비지수는 2017년에 만들어진 지수로서 정부가 공공서비스 운영 및 제공에 있어서 AI의 이점을 얼마나잘 활용할 수 있는가에 초점을 두고 만들어졌다. AI 준비지수는 거버넌스, 인프라 및 데이터, 기술과 교육, 정부와 공공서비스라는 4개의 지표로 구분하여 측정된다. 이 지수에 따를 때 한국은 26위를 차지하고 있다.

Table 2. 2019 AI 준비지수 상위 30개국 순위

순위	국가	순위	국가	순위	국가
1	Singapore	11	Australia	21	Israel
2	United Kingdom	12	Norway	22	Malaysia
3	Germany	13	New Zealand	23	Estonia
4	The U.S.	14	Netherlands	24	Belgium
5	Finland	15	Italy	25	Luxembourg
6	Sweden	16	Austria	26	South Korea
7	Canada	17	India	27	Poland
8	France	18	Switzerland	28	Iceland
9	Denmark	19	United Arab Emirates	29	Russia
10	Japan	20	China	30	Portugal

출처: Oxford Insights (https://www.oxfordinsights.com/)

3. 검토배경

1) 인공지능 발달로 예상되는 이슈

인공지능 발달은 우리 사회에 다양한 문제를 야기할 수 있다. 최근 한국에서는 AI 알고리즘을 기반으로 한 채팅 로봇 '이루다'가 성희롱 및 차별적 발언에 따른 논란으로 서비스 제공을 중지한 사례가 있다 (Choon, 2021). '이루다'는 연인들이 주고받은 문자 메시지 (text message)를 빅데이터로 하여 딥러닝 기술을 이용하여 인간의 언어를 학습하였다. 하지만 사람들이 실제 생활에서 무의식적으로 사용하는 혐오발언도 무비판적으로 학습함에 따라 채팅 과정에서 차별과 편견을 담은 언어를 사용하였다. '이루다'는 연인들간의 대화에서 지하철 임산부석을 혐오하고 장애인과 성소수자에 대해 차별적 발언들도 무비판적으로 학습하여 이용자들과의 대화에서 이를 사용하였다. 이루다가 한국사회에서 이루어지고 있는 성차별적 발언과 편견들을 학습하고 이용자들과의 채팅을 통해 이를 확대, 재생산한 것이다. 또한, '이루다'에 대한 이용자들의 성적 학대도 나타났다. 20대 여자 대학생으로 설정된 '이루다'에 대해서 남성들이 성적인 발언들을 한 것이다. 한국의 '이루다' 사건은 사회적 편견과 차별을 그대로 학습한 AI 알고리즘 문제와 동시에 AI에 대해 성희롱을 하는 이용자의 잘못된 행태가 동시에 나타난 것이다.

Figure 3. AI ChatBot Iruda

출처: scatterlab Homepage (https://www.scatterlab.co.kr)

이러한 인공지능 알고리즘의 편향, 차별 문제는 마이크로소프트 인공지능 채팅 로봇인 Tay에서도 나타났다. Tay는 여성, 흑인 등 사회적 약자에 대해 혐오 발언을 하며 인종차별을 정당화하는 모습을 보이고, "대량학살을 지지한다"는 등의 극단적인 발언을 하였다. Tay가 이런 발언을 하게된 것은 트위터 사용자들이 Tay를 특정 방향으로 학습시킨 결과이다. 즉 이용자들이 차별적 발언을 의도적으로 Tay에게 반복하고 Tay가 이를 학습하여 이루어진 것이다 (Lee, 2016). Tay의 사례는 나쁜 의도를 가진 이용자들이 인공지능을 잘못된 방법으로 사용할 수 있는 가능성을 보여주는 것이다. 즉 특정 집단이 나쁜 의도를 가지고 인공지능을 조직적으로 악용할 수 있으며, 사회적 편견이나 고정관념이 인공지능에 의해 확대, 고착화 될 위험이 나타난 것이다. 예를 들어, 특정 집단이 인공지능을 해킹하여 악용할 경우 인공지능에 따른 안전성에 대한 문제가 발생할 수 있다. 자율주행자동차의 기능이 일순간 정지한다면 인간의 생명까지 위협할 수 있으며, 인간의 안전을 지키는 군사용 드론이나 로봇 등이 인간을 살상하는 무기로 전환될 가능성이 발생할 수 있는 것이다. 또한, 인공지능을 통한 학습이 사회적 편견이나 차별을 완화시키기 보다는 이를 재생산하고 확대하는 수단으로 이용될 가능성이 발생할 수 있음을 보여준다. Tay가 학습한 언어들은 인류가 그 동안 가지고 있었던 편견이나 갈등들을 무비판적으로 학습함에 따라 이루어진 것이기 때문이다.

Figure 4. 마이크로소프트 AI Chatbot Tay에 대한 우려

출처 : 구글 이미지 검색

그 외에도 만약 개발자가 나쁜 의도를 가지고 차별적 요소를 인공지능 알고리즘에 의도적으로 삽입한다면 인공지능 알고리즘에 의한 차별적 요소는 더욱 크게 나타날 수 있다. 또한, 개발자의 의도와 별개로 사회적으로 나타되고 있는 편견과 차별적 요소들이 무의식중에 인공지능 알고리즘 형성 과정에 삽입된다면 인공지능 알고리즘은 우리 사회의 편견과 차별을 강화하는 부정적 영향을 미치게 된다. 아마존에서 인공지능을 탑재한 채용시스템을 활용한 경우 기술직 개발자에 대해서는 남성만을 추천한 것은 사회적 편견이 인공지능 알고리즘에 무의식적으로 영향을 미친 사례라 할 수 있다.

사회적 편견과 차별에 이어 불투명성에 대한 문제도 나타날 것으로 전망된다. 인공지능은 머신 러닝 (Machine Learning)에 의해 스스로 학습하고 진화, 발전한다. 이에 따라, 개발자가 예측할 수 없을 정도로 수 많은 레이어가 생성하고 데이터를 기반으로 한 판단 과정에서 어떻게 가중치가 부여될지 예상할 수 없다. 인공지능에 의한 의사결정 결과는 우리 사회에 큰 영향을 미치는데 반해 그것에 대한 정확한 이해나 설명이 불가능해 지는 것이다. 2016년 인공지능 알파고와 이세돌 9단과의 대결에서 알파고의 결정적인 실수에 대해 구글의 딥마인드 (Deepmind) 측은 어떠한 이유로 실수가 발생했는지 본인들도 알 수 없다고 설명한 바 있다. 인공지능의 이러한 불투명성은 자율주행자동차나 원격의료 등과 같이 인간의 생명과 안전을 다루는 분야에서 발생한다면 무척이나 심각한 문제를 야기할 수 있다. 인공지능의 불투명성에 대한 원인은 인공지능 알고리즘 자체의 문제뿐 아니라 영업비밀이나 지적재산권 등에 의해서도 나타날 수 있다. 인공지능 알고리즘에 대한 소스코드는 특정 기업이나 개인의 지적재산권에 해당되는 것으로 이를 외부에 공개하도록 강제하는 것은 지적재산권을 침해할 우려가 크며, 우리 사회의 혁신을 저해할 우려도 존재한다. 그 외에도 인공지능 알고리즘을 검증하는데 있어 막대한 시간과 비용이 소요될 수 있다는 현실적 어려움 또한 인공지능에 의해 야기되는 불투명성의 한 요인이 될 수 있다.

Figure 5. 알파고 패배시 팝업 메시지

출처 : 구글 이미지 검색

프라이버시와 보안침해 위험 또한 인공지능 발전에 따라 야기될 수 있는 주요 문제이다. 딥페이크 (deepfake) 기술은 프라이버시 침해와 보안 문제를 극명하게 보여주는 사례라 할 것이다. 딥페이크 기술을 활용할 경우 가짜 뉴스 생성, 유명 인사들의 가짜 동영상 제작, 리벤지 포르노 제작, 금융사기 등 각종 범죄에 악용하기가 쉽다. 2018년 미국 전 대통령인 버락 오바마의 가짜 동영상이 생성되어 전 세계에 큰 파장을 불러 일으킨 바 있다. 딥페이크 외에도 해킹이나 피싱으로 인한 위험 또한 증가할 수 있다. 기계학습 기반의 인공지능 알고리즘은 학습을 위해 광대한 양의 데이터가 필요하기 때문에 이용자들이 암호화하지 않은 민감한 사적 정보를 수집하고 분석하는 과정에서 개인정보 침해현상이 발생할 수 있다.

Figure 6. 오바마 전 미국 대통령의 딥페이크 이미지

(좌) 원본 이미지                (우) 딥페이크 이미지

출처 : 구글 이미지 검색

2) 투명성에 대한 논의 방향

이처럼 인공지능 자체의 문제와 이를 악용할 가능성이 제기됨에 따라 올바른 방향으로 인공지능을 개발하고 활용하고자 하는 논의가 학계, 산업계, 정부, 국제기구 등 다양한 부문에서 전개되고 있다. 일부 사례에서는 법을 통해 강제성을 띈 규범체계를 마련하고자 하는 움직임이 있으나, 아직까지 전체적인 방향은 강제성이 없는 윤리기준을 만드는 방향으로 나타나고 있다. 인공지능 기술이 개발, 발전하는 초기 단계에서 아직 구체적인 위험이 발생하지 않았음에도 불구하고 법으로 강하게 규제하는 것은 기술 및 산업 발전에 부정적 영향을 미칠 것을 우려하기 때문이다. 또한, 전세계 주요 나라들은 인공지능 알고리즘에 대한 산업적 활용 가능성에 집중하여 인공지능 알고리즘을 규제하는 것에 조심스러운 움직임을 보이고 있다. 하지만 현실적으로 강제성이 없는 윤리기준에 대해 모든 행위자가 이를 준수할 것이라 기대하는 것은 어렵다. 행위자들이 윤리기준을 자율적으로 준수하는 것이 이상적이지만 이는 현실적으로 실현 불가능한 것이다. 따라서, 법과 윤리 사이의 중간지점에서 행위자들이 윤리기준을 따르도록 유도하는 방향으로서 인공지능 알고리즘에 대한 투명성을 논의할 필요가 있다 (Bostrom & Yudkowsky, 2011).

또한, 투명성이 중요한 이유는 정보의 비대칭으로 인하여 정보를 수집, 분석하는 사람이 정보를 제공하는 사람보다 더 많은 정보를 가질 수 밖에 없고 이로 인해 부패와 남용의 위험이 존재할 수 있는데 투명성을 제고하는 장치를 둠으로써 이런 위험을 낮출 수 있다는 것이다 (Ferejohn, 1999). 이처럼 투명성은 정보를 가진 사람을 통제하는 주요 수단이 되며, 행정에 있어서는 정부와의 소통을 증가시킬 수 있는 기반으로서 정부신뢰를 높여주는 수단이 되는 것이다 (Lee, 2016).

Ⅲ. 선행연구 검토

1. 인공지능에 대한 정의와 영향

인공지능 (Artificial Intelligence) 이란 인간의 추가적인 작업없이 알고리즘에 따라 스스로 진화, 학습하고 반응하는 시스템을 말한다 (Seon, 2019). 또한, 인공지능 알고리즘은 네트워크 외부성으로 인하여 이를 선점하는 경우 막대한 경제적 이익을 얻을 것으로 예상된다. 인공지능 알고리즘을 개발함에 따라 얻는 효과는 클 것으로 예상되나 앞에서 살펴본 것처럼 인공지능 알고리즘의 진화속도나 방향을 예상하기란 어렵다. 이에 따라, 인공지능을 차세대 산업이나 기술로 육성하고자 하는 국가기관들이나 기업들은 개별적으로 인공지능에 대한 기술, 윤리기준 등을 연구하고 있으며, 발전방향 등을 연구하는 학계 등은 상호간에 협력하는 가운데 인공지능 알고리즘을 연구하는 경향을 보인다.

네트워크 외부성란 어떤 재화에 대한 수요가 증가할수록 그 재화의 가치도 같이 증가하는 현상을 말한다. 다수의 소비자가 구입한 재화는 가치가 상승하여 다른 사람들에게도 효용이 높은 재화로 인식될 가능성이 높기 때문에 구매를 유인하는 효과가 발생하며, 이에 따라 소비자의 수는 증가하게 된다. 네트워크 외부성의 또 다른 특징은 기술발전이 네트워크 외부성을 발생시킨다는 점이다. 기술 발전이 이루어지면 생산비용이 절감되어 재화의 시장가격을 인하하는 효과를 가져올 수 있다. 전보다 싸지만 기술 발전으로 성능은 향상된 재화는 소비자들을 시장으로 끌어들이고, 재화의 유용성도 높여 네트워크 외부성을 발생시킨다. (출처: 한경 경제용어사전)

인공지능 윤리에 대한 최초의 논의는 Asimov의 로봇에 대한 세 가지 원칙(three laws of robotics)에서 나타난다 (Asimov, 2004). 그는 로봇 제작 시 다음과 같은 3가지 법칙을 준수할 때 로봇이 인간에게 긍정적인 영향을 미칠 수 있다고 주장한다:

1). 로봇은 인간을 다치게 해서는 안되고 인간에게 해를 미쳐서는 안된다. (A robot may not injure a human being, or, through inaction, allow a human being to come to harm, unless this would violate a higher order law).

2). 첫 번째 법칙과 상충되는 명령을 제외하고 로봇은 인간의 명령에 복종해야 한다. (A robot must obey orders given it by human beings, except where such orders would conflict with a higher order law).

3). 첫번째 법칙과 두번째 법칙에 상충되지 않는 범위에서 로봇은 그 그 자신의 존재를 보호할 수 있다. (A robot must protect its own existence as long as such protection does not conflict with a higher order law).

로봇에 집중한 Asimov의 윤리원칙 이후 현재는 인공지능 알고리즘을 중심으로 논의가 전개되고 있다 (Choi, 2016). 자율주행 자동차, 로봇공학, 증강현실 등 4차 산업혁명의 결과물들은 인공지능 알고리즘을 하드웨어적, 기계적으로 구현한 것으로서 인공지능 알고리즘은 4차 산업혁명의 핵심 기술로서 평가되기 때문이다.

옥스퍼드대학교 미래의 삶 연구소 (Future of Life Institute)는 인공지능을 2가지 형태로 분류한다 (Future of Life Institute, 2021). 먼저, 특정한 전문적인 역할을 수행하는 인공지능을 narrow AI로 정의하고 있으며, 인간과 같이 사회 모든 부문을 수행할 수 있는 인공지능을 general AI로 정의한다. 그 중 미래의 삶 연구소는 general AI를 대상으로 인공지능이 위협요소로 작용할 수 있는 있는 구체적인 시나리오를 제시하면서 인공지능 윤리기준 마련이 왜 중요한지 설명한다. 그 시나리오 중 하나로 무기를 이용하여 인명을 살상하도록 프로그램화 되어 있는 인공지능 알고리즘을 제시하고 있다. Future of Life Institute에 따르면 인공지능 알고리즘이 학살이라는 목표달성만을 고려하고 목표와 관계없는 윤리적 요소들을 무시한다면 대량의 사상자를 유발할 수 있음을 보여준다. 2017년도에는 미국 캘리포니아주 아실로마에서 아실로마 원칙 (Asilomar AI Principles)을 마련하여 공개하였다. 아실로마 원칙은 국제기구나 정부기관 등이 인공지능에 대한 윤리원칙을 검토하고 발표하는 기폭제로서 작용하였다. 그 주요내용은 다음과 같다.

Table 3. 아실로마 원칙

출처 : Asilomar AI Principles

캠브리지 대학은 2018년 해악적 인공지능 보고서 (Malicious AI Report)를 발행하여 인공지능을 악용함에 따라 발생 가능한 보안 위협에 집중하여 악성코드를 이용한 사이버 공격, 해킹을 통해 로봇의 원격 조정, 인공지능을 활용한 deepfakes, fake news 등의 사례를 보여주었다 (Brundage et al, 2018). 캠브리지 대학에서 논의된 인공지능에 의한 보안위협 시나리오는 다음과 같다.

Table 4. 인공지능에 대한 캠브리지의 보안위협 시나리오

출처 : The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation

2. 인공지능 알고리즘에 대한 거버넌스 논의

AI 알고리즘에 대한 거버넌스 논의는 주로 윤리기준을 통해 개발자들이 자율적으로 이를 준수하는 방향으로 이루어진다. 하버드대 버크만 센터(Berkman Klein Center)와 MIT 미디어렙(Media Lab)은 인공지능 윤리 및 거버넌스에 대한 연구 프로젝트를 공동으로 수행하여 AI 알고리즘에 대한 윤리원칙을 제시하고 있다 (Fjeld et al, 2020). 미국의 국가과학기술위원회(NSTC)는 국가 인공지능 연구개발 전략계획 (National Ariticifial Intelligence Research and Development Strategic Plan)을 발표하고 빅데이터에 의한 차별, 편견의 위험성을 경고하고 이에 대한 윤리적 대응성을 강조하였다 (NSTC, 2016). 영국 the house of lords는 "AI in the UK: ready, willing and able?"을 발간하여 인공지능 윤리와 관련하여 데이터를 관리하고 보호하는 방안을 논의하고 있으며, 인공지능 개발을 위해 준수해야 할 5가지 원칙을 발표하였다 (The House of Lords, 2018). 한국은 방송통신위원회가 2019년 이용자 중심의 지능정보사회 원칙을 발표하여 사람중심의 서비스 제공, 투명성과 설명가능성, 책임성, 안전성, 차별금지, 참여, 프라이버시와 데이터거버넌스 등 7개의 기본원칙을 발표하였다 (KCC, 2019).

Table 5. 방송통신위원회가 발표한 7개 기본원칙

기본원칙	주요내용

출처: 방송통신위원회 보도자료 (https://www.kcc.go.kr)

기업들도 실체적인 법 제정을 막기 위해 AI 알고리즘에 대한 자율적인 윤리 체계를 마련하고 있다. 마이크로소프트는 인공지능 연구를 위해 2017년 Microsoft Research AI를 신설하고 2018년 인공지능 윤리를 전담하는 AI and Ethics in Engineering and Research (AETHER)를 신설하였다. 이를 통해 공평 (Fairness), 신뢰성과 안전성 (Reliability & Safety), 프라이버시와 보안 (Privacy & Security), 포용성 (Inclusiveness), 투명성 (Transparency), 책무성 (Accountability) 이라는 6가지 원칙을 밝혔다 (Microsoft, 2021).

Table 6. 마이크로소프트 인공지능 원칙

출처 : Microsoft AI principles

구글은 2017년 인공지능 발달에 따라 제기될 수 있는 윤리적 문제를 논의하기 위해 DeepMind Ethics & Society (DMES)를 설립하였다 (DeepMind, 2021 & Google, 2021). DMES는 개인정보 보호와 투명성, 공정성(Fairness) 문제, 공평성(Equity)과 책무성 (Accountability), 인공지능의 도덕적 가치(AI Morality and Values) 등을 연구하고 있다. 이를 통해 인공지능을 활용할 때 사회적 가치와 윤리를 고려하여 신중히 판단하겠다는 7가지 원칙을 공식적으로 공표하였다.

Table 7. 구글의 인공지능 원칙

출처 : Artificial Intelligence at Google: Our Principles

또한, 2017년 google, Microsoft, Amazon, IMB, Facebook, Apple 등이 주축이 되어 인공지능 파트너십(Partnership on AI)을 운영하고 있다. 이를 통해 인공지능에 대한 대중들의 이해를 증진시키고 인공지능의 미래에 대한 토론이 가능하도록 하는 논의의 장을 제공하고 있다.  이처럼 기업이 스스로의 행동방향을 제한할 수도 있는 인공지능 윤리원칙을 자발적으로 제안하는 이유는 인공지능 활용과정에서 발생할 수 있는 각종 우려와 이에 따른 규제를 사전적으로 예방하고자 하는 측면이 크다 (4차 산업혁명위원회, 2018). 행정부나 입법부로부터 규제를 최소화하기 위해 인공지능 이슈에 선제적으로 대응하여 자율적으로 통제, 조정하는 것이 바람직하다는 사회적 공감대를 형성하기 위한 노력으로서 자율적으로 인공지능을 활용한 사회적 역할을 강조하며 이에 대한 원칙을 제시하고 있다. 다만, 기업들이 자신들이 발표한 원칙들에 대한 준수여부를 강제하기 어려우며 이를 지키지 않았을 경우 제재하기 어렵다는 한계가 있다.

이러한 자율적 윤리기준 외에도 AI 알고리즘에 대한 법적 통제를 가하거나, 국가주도로 강력한 추진전략을 마련하여 AI 알고리즘 발전을 도모하기도 한다. 미국 뉴욕주 의회에서는 인공지능 알고리즘에 대한 법적 규제에 대한 수단으로 알고리즘에 대한 소스 공개를 의무화하는 내용의 법안을 입법화 하였다 (Vacca, 2018). 이 법안은 뉴욕시가 특별위원회를 구성해 AI 알고리즘이 시민을 차별하는지 의무적으로 조사하도록 하고 이를 보고서로 발간하도록 의무화하고 있다. 2018년 1월부터 이 법안이 시행됨에 따라 뉴욕시는 공무원, 학계, 법조계, 과학기술계 등 관계 전문가로 구성된 태스크 포스팀을 발족하여 뉴욕시가 사용하는 인공지능 알고리즘에 대해 차별적 요소가 있는지 점검하고 있다. 중국은 2017년 차세대 인공지능 발전계획을 수립하여 국가 주도로 인공지능 개발을 위해 노력하고 있다 (Westerheide, 2020). 2025년까지 세계에서 가장 발달된 인공지능 기술을 확보한다는 목표로 자율주행자동차, 로봇, 드론 등 인공지능이 적용되는 산업을 세분화하여 이에 대한 법규 및 윤리 규범 제정을 추진하고 있다. 또한, 인공지능 산업발전을 위해 연구개발비를 기업들에게 지원할 계획을 수립하고 있으며, 인공지능 발달을 위한 자원으로서 거대한 데이터베이스 구축을 추진하고 있다. 이러한 노력에 따라 중국의 인공지능 시장 규모는 2020년까지 연평균 50%씩 성장하여 91억 위안 규모에 달할 것으로 전망되며, 2016년 기준으로 특허건수도 미국에 이어 전 세계 2위를 차지하는 등 급격히 성장하고 있다. 하지만 국가가 주도적인 역할을 하여 인공지능 발달을 추진하고 있으나, 인공지능에 대한 산업적 측면에 집중하고 윤리적 측면은 다소 소홀한 모습을 띄고 있다 (Mozur & Markoff, 2017).

Organisation for Economic Cooperation and Development (OECD)는 AI에 관한 국제 컨퍼런스 (International Conference)를 지속적으로 개최하고 있으며 이를 통해 인공지능 알고리즘이 사회 전반으로 확산되었을 때 어떤 종류의 제도와 정책이 필요한가를 논의하고 있다 (OECD, 2021). 특히 인공지능에 대한 신뢰를 높이기 위해 인공지능에 대한 전문가 그룹을 중심으로 인공지능에 대한 OECD 원칙과 정부의 역할 등의 제시하고 있다.

Table 8. OECD AI Principles and The Role of Governments

출처 : OECD 홈페이지(https://www.oecd.org/going-digital/ai/principles/)

3. 인공지능 알고리즘에 대한 투명성 논의

투명성에 대한 사전적 정의는 유리와 같이 누군가가 진실을 쉽게 볼 수 있게 해주는 것으로 정의된다 (Oxford Learner's Dictionaries, 2021). 하지만 직관적으로 인식되는 것과 달리 투명성의 개념과 이를 측정하기 위한 조건들을 살펴보면 매우 모호해서 정의하기가 까다롭다 (Michener & Bersch, 2013). Park(2001)은 투명성을 다차원적 개념으로 파악하여 정보를 투명하게 생성하는 구조, 정보에 대한 접근과 이해를 가능하게 하는 과정, 정보의 자유로운 흐름으로서의 유통이라는 세 가지 차원에서 분석하고 있다. Yoo et al.에 따르면 투명성이란 사용자들이 자신에 대해 수집된 데이터에 접근하고 이 데이터가 어떻게 활용되고 있는지 알려주는 기능을 말한다 (Yoo et al., 2020). 투명성은 인공지능 알고리즘에 대한 신뢰성을 높여주며 이는 다시 사용자가 인공지능 알고리즘 시스템을 수용하는데 영향을 미친다. 신뢰가 부족한 경우 인공지능 알고리즘을 믿지 못하고 알고리즘의 핵심 자원인 데이터 제공을 꺼리게 되며 극단적인 경우 인공지능 시스템 자체를 거부할 수도 있다. 따라서, 투명성을 확보하는 것은 인공지능 알고리즘의 신뢰성을 확보하는데 있어 필수적인 조건이 된다. EU에서는 GDPR 규정을 마련함에 있어 투명성이란 시민들이 자신에게 영향을 미치는 절차를 이해하고 필요한 경우 이의를 제기할 수 있도록 하여 절차에 대한 신뢰를 높이는 과정으로 정의하고 있다 (Paek et al., 2019). EU는 투명성을 달성하기 위한 요소로서 다음 6가지를 제시하고 있다.

Table 9. GDPR 하에서의 투명성 요소

출처 : EU Article 29 Working Party Guidelines on transparency under Regulation

또한, Lee et al. (2019)은 정보 주체가 자신의 개인정보를 제공할지 여부를 선택할 수 있어야 하며, 암호화된 개인정보 수집을 통해 투명성을 높일 수 있다고 하였다. Lee (2016)은 공개성 (openness), 참여 (participation), 책임성 (accountability), 효과성 (effectiveness), 적절성 (coherence) 등의 조건을 충족해야 투명성이 이루어질 수 있다고 하였다. Michener & Bersch (2013)은 투명성을 정보의 공개로 보면서 공개되는 정보가 쉽게 찾아볼 수 있게 되어 있는 정도 (visibility)와 정보가 모호하지 않아 체계적으로 구분되고 입증된 것으로 논리적으로 완전한 것(inferability)을 그 조건으로 보았다.

Harvard University (2020)는 AI 알고리즘에 투명성(transparency)과 설명가능성(explainability) 원칙이 필요함을 제시하고 있으며 이는 AI 시스템에 대한 관리, 감독이 가능하도록 설계되어야 하며, AI 시스템이 행한 일들을 명확하며 이해되기 쉬운 형태로 설명되어야 한다고 제안한다. 그 외에도 인공지능 알고리즘에 대한 투명성을 제고하기 위해서는 데이터 독점을 방지하며 공평하게 AI 혜택을 나눌 수 있도록 다양한 관계자가 공동으로 알고리즘을 개발하고 연구협력을 할 수 있어야 하며, AI 시스템과 이로 인해 영향받는 사람들이 관련 정보를 알 수 있도록 인공지능 알고리즘을 보유, 활용하는 조직은 이에 대한 정보를 제공할 의무가 있다고 명시하고 있다.

Leslie (2019)는 AI 시스템의 설계와 활용 과정에서 실행 가능한 원칙으로서 FAST (Fairness, Accountability, Sustainability, Transparency) 원칙을 제시한다. 이중 투명성에 대해서는 AI 시스템의 설계와 구현에 있어서 투명한 과정과 설명력을 확보하고 AI 시스템 결과의 윤리적 정당성을 확보할 때 이루어 질 수 있다고 하였다.

4. 기존 연구의 한계와 이 연구의 의의

이상의 논의를 종합해보면 인공지능 알고리즘의 논의는 여러 분야에서 진행되고 있으나, 아직까지는 추상적 수준에서 일반적이고 총론적인 규범 논의에 그치고 있음을 알 수 있다 (Fourth Industrial Revolution Committee, 2018). 인공지능의 기술 발전 속도가 빠르고 그 발전 방향 또한 예상하기가 쉽지 않기 때문에 법이나 규제를 섣불리 설정할 경우 전문가들의 자율성을 침해할 우려가 높기 때문이다. 하지만 추상적, 총론적 논의만 제기됨에 따라 이를 보다 구체화하는 작업이 필요하다.

이 논문에서는 이러한 방향의 하나로 인공지능 알고리즘의 투명성 확보방안을 구체적으로 제시하고자 한다. 투명성을 주요 가치로 설정한 이유는 다음과 같다.

첫째, 양적 측면에서 데이터 규모가 기존보다 기하급수적으로 증가하기 때문이다. 2012년도에 이미 전세계 모든 기업들의 데이터양은 1.2년마다 2배씩 증가하고 있을 정도로 데이터 양은 폭발적으로 증가하고 있다 (Corry, 2012). 이처럼 데이터가 기하급수적으로 증가하고 있기 때문에 이를 일일이 확인하고 체크하는 것은 물리적으로 불가능하다 (Moor, 1985). David Shenk (1997)는 오늘날 너무 많은 정보로 인해 정확한 판단을 하는데 있어 오히려 어려움을 겪으며 분명하게 옳은 지식을 판정할 수 없는 데이터 스모그 (Data Smog) 현상이 나타나고 있다고 진단하였다. 불명확하거나 불건전한 정보, 기존 사회규범에 어긋나고 사회적 편견을 그대로 답습하는 정보들이 많이 양산되고 빠른 속도로 확산되고 있음을 지적한 것이다. 따라서, 데이터의 방대함으로 인하여 데이터의 옳고 그름을 판단하기란 쉽지 않기 때문에 사전적으로 신뢰성을 확보한다는 차원에서 데이터를 수집, 분석하는 방법에 대한 인공지능 알고리즘의 투명성을 확보하는 것은 더더욱 중요해지고 있다.

둘째, AI 알고리즘이 기반이 되는 인터넷 네트워크는 시간적, 공간적 제약에서 자유로운 특성에 기인한다. 각 나라마다 허용되는 콘텐츠의 수준은 각 국가가 처한 기술발전 정도와 사회, 문화적 포용성에 따라 다르다. 미국에서는 아동포르노를 제외한 대부분의 콘텐츠가 허용되는 반면, 한국에서는 모든 포르노 콘텐츠는 불법으로 간주되어 이를 유통하는 것이 금지된다. 저작권에 대해서도 일부 국가에서는 저작권법을 엄격히 적용하고 이를 보호하지만, 일부 나라들은 보다 완화된 기준을 적용하며 설혹 저작권에 대한 입법적 규정이 있다 할지라도 형해화하는 경우가 있다. 하지만 네트워크에서는 콘텐츠가 시간과 공간을 초월하여 유통된다. 이는 인공지능에서도 동일하게 적용된다. 특히, 인공지능 알고리즘을 탑재한 제품이 각 나라에 제한없이 판매, 유통될 수 있을뿐 아니라 스마트폰에 탑재된 안드로이드와 같이 인공지능 알고리즘 자체도 모든 기기에 표준화되어 탑재되는 플랫폼으로서 기능할 가능성이 높아짐에 따라 각 나라의 규제원칙이 유명무실화 될 우려가 보다 높아지게 된다. 따라서, 각국의 상황을 고려하여 인공지능을 통제, 조정하거나 인공지능 알고리즘에 대한 신뢰성을 확보하기 위해서라도 인공지능 알고리즘에 대한 투명성은 보다 중요하다.

셋째, 개인정보에 대한 침해 위험이 증가하기 때문이다. 모든 정보나 자료들이 데이터화됨에 따라 데이터를 활용하여 개인에 대한 감시와 통제 가능성은 증가하고 있으며, 데이터 유출, 해킹 등에 따른 개인정보 피해도 더욱더 커지고 있다. Wikileaks의 사례를 통해 정부가 시민사회를 보호할 수 있다는 신화는 깨어졌으며, 오히려 정부가 빅브라더로서 개인을 감시할 수 있는 가능성이 존재할 수 있음을 알게 되었다. 또한, 개인정보의 불법수집과 대량유출도 빈번하게 나타나고 있다. 하지만 인공지능 알고리즘을 활용하는 사용자 수와 데이터 생산 규모의 확대는 거부할 수 없는 시대적 추세로서 디지털 흔적에 따른 감시와 피해 역시 더욱더 커질 것으로 전망된다. 결국 시민사회의 적절한 감시와 견제가 이루어지기 위해서 AI 알고리즘에 대한 투명성이 더욱 중요해진 것이다.

넷째, 인공지능 알고리즘 활용이 증가할 가능성과 피해시 예상되는 피해 규모가 기존과 비교할 수 없을만큼 커지기 때문이다. 인간의 행위에서도 트롤리 딜레마 상황과 같이 어떤 판단을 할지라도 옳고 그름을 판별하기란 어려운 상황은 빈번하게 나타난다 (Thomson & University of Toronto, 1985). 하지만 인간의 잘못된 판단은 1명의 개인으로서 나타나고 이에 따른 피해도 제한적으로 발생한다. 반면, 알고리즘은 표준화되어 운영, 활용됨에 따라 알고리즘의 잘못된 판단은 기존 사회에서 감내할 수 없는 범위에서 발생할 수 있다. 예를들어 교통사고 발생시 인간에 의한 교통사고는 아무리 큰 사고가 발생한다 할지라도 100대 이상의 추돌사고가 발생할 가능성은 그리 높지 않다. 졸음운전이나 음주운전, 신호위반 등으로 교통사고가 발생하지만 주변 차량에 미치는 영향이 제한적이며 일정 시간이 지나면 운전자들이 해당 사고에 대응하여 더 이상의 교통피해가 커지는 것을 예방할 수 있다. 하지만 인공지능 알고리즘에 따라 운영되는 자율주행 자동차에서 해당 알고리즘이 해킹 등으로 오류가 발생할 경우 그 피해는 예상할 수 없을만큼 크게 나타날 것이다.

사례 1

트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 서 있고 다섯 사람을 구하기 위해서는 선로전환기를 당기면 되지만 그렇게 되면 다른 선로에 있는 다른 한 사람이 죽게 된다. 선로전환기를 당기는 행위는 도덕적으로 허용 가능한가?

사례 2

트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 서 있고, 바로 옆에는 상당히 무거운 사람이 한명 서 있다. 다섯 사람을 구하는 유일한 방법은 옆에 서 있는 사람을 선로 위로 밀쳐서 그 무게로 트롤리를 멈추게 하는 것인데, 이 경우 트롤리는 멈추게 되지만 그 사람은 죽게 된다. 이는 도덕적으로 허용 가능한가?

Figure 7. 트롤리 딜레마

트롤리 딜레마 사례 1	트롤리 딜레마 사례 2

인공지능 알고리즘에 대한 투명성 확보는 인공지능의 신뢰와 발전을 위해 필수적으로 요구된다. 하지만 지금까지 진행된 연구들은 추상적, 거대 담론적 의미의 기본원칙만 논의되고 있으며, 개별 산업 차원의 규제는 너무 미시적으로 이루어지고 있어 인공지능 알고리즘의 투명성에 대한 통섭적이고 구체적인 고찰은 부재한 상황이다. 따라서 본 연구는 인공지능 알고리즘의 투명성에 초점을 두고 이를 구현하기 위한 구체적 방안을 제시하고자 한다.

Ⅳ. 연구방법론과 정책평가기준

1. 연구방법론

이 논문에서 정책옵션을 도출하기 위해 참고한 자료들은 신문기사, 해외주요대학 홈페이지, 해외 주요국가 정부기관 홈페이지, 국제기구 홈페이지, IT 산업을 주도하는 주요 기업들의 홈페이지, 학술문헌 등이다. 먼저, AI 알고리즘 연구에 대한 최신 논의동향을 파악하기 위해 언론 뉴스 기사 등을 검색하였다. 이를 통해 AI 알고리즘에 대한 대중의 관심과 우려를 파악하고 현재 논의가 진행되고 있는 상황 등을 파악하였다. 두 번째로 언론기사로 파악한 주요 대학, 정부, 국제기구, IT 기업 등의 홈페이지를 분석하여 AI 알고리즘에 대한 세부사항과 논의의 진행경과를 파악하였다. 기존까지 발표된 방안을 분석하고 이에 따른 현실적 한계와 문제점 등을 정리하였다. 그리고 정책대안에 대한 이론적 근거로서 학술 문헌을 참조하여 AI 알고리즘과 투명성에 대한 이론적 판단기준을 마련하였다.

하지만, AI 알고리즘에 대한 논의는 아직 연구가 진행중인 것으로 아직 논의결과를 발표하지 못한 곳이 많고, 발표된 논의자료도 일반적이고 거시적인 틀만 제시하고 있어 AI 알고리즘의 투명성 확보방안에 대한 구체적인 정책방안이 미흡한 상황이다. 이는 AI 알고리즘의 발전방향에 대한 미래 예측이 불투명하고 AI 알고리즘 논의가 주로 산업적 성장에 초점을 두고 있는 것 때문으로 분석된다.

2. 정책평가기준

이 논문의 목표는 AI 알고리즘의 투명성을 높이는 정책방안을 제시하는 것이다. 이를 통해 사용자들의 수용성을 높여 AI 알고리즘 발전을 꾀하는 것을 목적으로 한다. 따라서, 먼저 제시되는 정책대안들이 인공지능 알고리즘의 투명성을 얼마나 제고하는지 평가하고자 한다. 그리고 구체적인 정책대안들이 현실에서 적용가능한지 평가하기 위해  해당 정책들에 대해 이해관계자들이 수용가능성을 추가적으로 평가하고자 한다.

먼저, 각 정책대안들이 투명성을 얼마나 높일 수 있는지 측정하기 위해 투명성 측정 지표로서 정보접근성과 완전성을 사용하고자 한다 (Hernon, 1993).

정보접근성이란 정보제공자가 정보를 수집, 활용하는 과정이나 절차를 들여다 볼 수 있도록 하는 제도나 절차라 할 수 있다. 정보접근성은 정보열람, 정보이용 등이 보장되고 정보공유의 채널이나 기회 등의 개방성이 클 때 보다 강하게 보장된다고 할 수 있다. 이 때 정보 접근성을 보장하는 제도나 절차는 접근성, 이용성, 비용부담, 절차를 기준으로 측정될 수 있다. 접근성이란 해당 정책을 통해 광범위하고 공개적이며, 공평한 접근을 제고할 수 있는지를 기준으로 판단한다. 이용성이란 해당 정책을 통해 접근 채널의 다양성이 확대되고 또 언제, 어디서든 이용이 자유로워지는지를 기준으로 평가할 수 있다. 비용부담이란 해당 정책을 통해 정보접근을 위한 비용부담이 감소하는지 측정할 수 있다. 마지막으로 절차란 해당정책을 통해 이용자가 정보에 접근할 수 있는 절차가 보다 간단하고 단순해지는지를 기준으로 평가된다.

정보완전성이란 정보의 양과 질에 대한 개념이다. 즉 보다 많은 정보와 보다 양질의 정보가 제공될 때 정보완전성은 보다 강하게 보장된다고 할 수 있다. 이를 위해서는 정보 요구자가 의문을 해소할 만큼의 충분하고 정확한 정보가 제공되어야 한다. 즉, 정보 요구자가 사실확인이나 내용파악을 위해 만족할 만큼 충분한 분량의 정보가 제공되어야 하며, 정보 요구자가 정보를 사용할 때 이를 방해받지 않을만큼 다른 의도가 없이 제공되어야 함을 전제로 한다. 정보완전성이 보장되는지 여부는 진실성, 설명성, 적시성, 신뢰성, 정확성, 평이성을 기준으로 평가할 수 있다. 진실성이란 해당 정책이 마련된다면 공개되는 정보의 진실성이 높아질 수 있는지를 기준으로 측정한다. 설명성이란 해당 정책을 통해 공개되는 정보가 정보 요구자가 요구하는 사건의 이해에 도움을 줄 수 있는지를 기준으로 평가된다. 적시성이란 정보요구자가 필요한 시기에 정보가 제공될 수 있는지를 기준으로 평가된다. 신뢰성이란 정보작성, 수집, 제공방법 등이 신뢰할 수 있도록 검증 가능한지 여부를 기준으로 판단할 수 있다. 정확성이란 제공되는 정보가 분명하고 명확하게 제공되는지 기준으로 평가할 수 있으며, 평이성이란 정보요구자가 그 의미를 효과적이고 분명하게 파악할 수 있도록 평이하게 제공되는데 기여할 수 있는지를 기준으로 측정할 수 있다.

또한, 정책옵션에 대해 정책 대상인 AI 알고리즘 개발자의 수용 가능성도 중요한 평가요소이다. 공공정책으로 유발되는 갈등은 다양한 정책 수용자들의 정책 수용 정도에 따라 달라지게 된다. 정책갈등은 사회문제를 보여준다는 측면에서 긍정적이나, 정책에 대한 저항과 대립을 통해 정부신뢰를 저하시키는 주요 요인이 되기도 한다. 따라서 정책의 시작 단계에서부터 정책 수용성을 제고할 수 있는 정책설계를 고민해야 한다 (Chae, 2015). 또한, 정책대상의 외적행동에 변화가 없다면 정책은 성공할 수 없다. AI 알고리즘은 고도의 전문성과 복잡성으로 인하여 정책이 성공하기 위해서는 AI 알고리즘 개발자의 정책순응이 보다 강하게 요구된다. 정책순응 정도를 평가하는 기준은 소망성, 명확성, 실효성이 있다 (Chae, 2015). 소망성이란 정책에 대한 수용자들의 인식으로 정책을 긍정적으로 인식하면 정책순응이 높게 나타나고 정책을 부정적으로 인식하면 정책순응이 낮게 나타난다. 명확성이란 정책이 수용자들에게 전달되는 정도로서 정책의 의도가 수용자들에게 명확히 전달되면 정책순응이 높게 나타난다. 실효성이란 정책의 효과성을 의미하는 것으로 정책수용자들이 정책이 효과적이라고 판단할 경우 정책순응이 높게 나타난다.

Table 10. 정책대안에 대한 평가기준

정보접근성	접근성	광범위하고 공개적이며 공평한 접근을 보장한다.
	이용성	접근 채널은 다양하고 또 어느 때든지 열려 있어 그 이용이 자유로워야 한다.
	비용부담	편리하고 비용에 부담이 없어야 한다.
	절차	절차는 간단하고 단순해야 한다.
정보완전성	진실성	공개되는 정보는 진실된 정보여야 한다.
	설명성	공개되는 정보는 정보요구자가 요구하는 사건의 이해에 도움을 줄 수 있어야 한다.
	적시성	정보는 정보요구자가 필요한 시기에 제공되어야 한다.
	신뢰성	정보작성, 수집, 제공방법 등이 신뢰할 수 있어야 한다.
	정확성	제공되는 정보는 분명하고 명확해야 한다.
	평이성	정보는 정보요구자가 그 의미를 효과적이고 분명하게 파악할 수 있도록 평이하게 제공되어야 한다.
정책수용성	소망성	정책은 수용자들이 긍정적으로 인식할 수 있도록 제공되어야 한다.
	명확성	정책은 수용자들에게 명확하게 전달되어야 한다.
	실효성	정책은 수용자들이 효과적이라 느낄 수 있도록 설계되어야 한다.

Ⅴ. 정책대안

1. 총론

이 보고서에서는 AI 알고리즘 투명성 확보를 위한 구체적인 세 가지 정책대안들을 제시하고 이를 평가하고자 한다. 이 때 정책대안들이 실효성을 가질 수 있도록 최소한의 강제력을 포함한 실질적인 실행이 가능한 정책옵션을 제시하고자 한다. 이에 따라, 현재 많은 국가나 기관, 기업들이 제시하는 인공지능 윤리 가이드라인을 마련하는 방안은 여기서는 논의하지 않기로 한다. 왜냐하면 해당 가이드라인은 인간의 존엄과 가치, 공정성, 투명성, 책무성, 프라이버시 보호 등 AI 알고리즘 개발, 사용에 대한 전체적인 내용을 다루고 있고 그 실행은 개발자의 선한 의지에 전적으로 의존하고 있기 때문이다. 이는 정책의 실현이 개발자의 선의에 기대고 있어 투명성 확보 또한 개발자의 선의나 의지에 좌우되기 때문이다.

이에 따라 이 논문에서 검토하고자 하는 대안은 다음과 같다.

첫째, 인공지능 입력 데이터와 출력 결과물 공개, 설명 의무화

둘째, 인공지능 영향평가 및 감사

셋째, 윤리적 가치를 AI 알고리즘에 코드화하도록 의무 부과

각각의 방안은 행위자를 기준으로 AI 알고리즘의 투명성 확보 방안을 제시하고 있다. 먼저 정보를 제공하는 이용자가 직접 AI 알고리즘의 투명성을 확인할 수 있는 방법을 첫 번째 정책대안으로 제시하고자 한다. 개발자가 공개한 정보를 이용자가 확인하고 추가적으로 필요한 정보는 개발자에게 설명을 요구할 수 있는 권리를 이용자에게 부여하여 이용자 스스로 투명성을 확보하는 것이다. 두 번째 정책대안은 국가기관이나 신뢰할 수 있는 제3자가 이용자를 대신하여 간접적으로 데이터나 인공지능 알고리즘의 투명성을 확인하는 방법이다. 인공지능 알고리즘을 구성하는 레이어는 수백, 수천 레이어로 구성되어 있으며, 그 내용 또한 전문적이어서 해당 기술 분야에 대한 전문성이 부족한 이용자가 이를 확인하기란 쉽지 않을 것이다. 따라서, 공신력과 전문성을 가진 국가기관이 이용자를 대신해 투명성을 확인하는 것을 두 번째 정책대안으로 제시하고자 한다. 세 번째 정책대안은 인공지능 알고리즘에 대한 외부 개입 없이 개발자와 인공지능 알고리즘 스스로 직접 투명성을 증명하는 방법이다. 투명성이나 윤리적 가치를 코드화하고 이를 인공지능 알고리즘이 학습하도록 하여 인공지능 알고리즘에 대한 개입을 최소화하여 산업 발전을 도모하고자 한다. 이하에서는 각각의 정책대안의 구체적 내용을 살펴보고 정보접근성, 정보완전성, 정책수용성 관점에서 각각의 정책대안들을 3점 척도로 평가할 것이다.

2. 인공지능 입력 데이터와 출력 결과물 공개, 설명 의무화

1) 고려사항

제안된 정책의 주요 내용은 AI 알고리즘 개발자에게 의무를 부과하는 내용으로서 이를 통해 정보제공자가 알고리즘에 대한 투명성을 직접적으로 검증, 확인하는 방법이다. 개발자는 소비자, 이용자에게 자신의 정보가 어떻게 활용되고 있는지 알려줄 의무가 있으며, 소비자, 이용자는 자신의 정보를 제공받을 권리를 가지게 되는 것이다. EU GDPR 규정에서도 개인정보를 처리함에 있어서 공정하고 투명한 처리원칙을 제시한 바 있다. EU GDPR에 따르면 개인정보를 처리하는 주체는 개인정보가 처리되는 특정 상황 및 맥락을 참고하여 공정하고 투명한 처리를 보장하는데 필요한 모든 정보를 정보 주체에게 제공해야 한다. 또한, 단순히 정보를 얻을 권리를 넘어 소비자, 이용자에게 설명을 요구할 권리까지 보장한다면 AI 알고리즘에 대한 투명성은 보다 강화될 수 있다 (O'Neil, 2016). 그 외에도 어떤 기준과 절차에 따라 결정을 내렸는지 제3자가 알 수 있도록 외부에 알리는 일은 결정을 내리는 주체에게 부담이 된다. 따라서, 정보를 공개하고 설명해줘야 하는 개발자 입장에서는 정보공개에 대한 기준, 절차, 결과 등을 준수할 수 밖에 없을 것이다. 정책옵션 1을 검토함에 있어서는 다음과 같은 사항들이 보다 구체적으로 고려되어야 할 것이다.

Table 11. 정책대안 1에 대한 주요 고려사항

고려사항	주요내용
정보의 공개방법	AI 알고리즘에 대한 입력 데이터와 출력 결과물에 대한 공개방식에 대한 문제이다. 투명성 보고서 등을 통해 개발자가 관련 사항을 자율적으로 공개하는 방법을 취할 것인지, 아니면 이용자 또는 사용자의 요구가 있으면 이에 대응해서 관련 정보를 제공하는 방법을 취할 것인지 결정해야 한다.
정보제공 대상자의 범위	입력 데이터에 대한 공개를 청구할 수 있는 사람의 범위에 대한 문제이다. 정보를 제공하는 이용자에게만 관련 권리를 부여할 것인지, 아니면 제3자를 포함한 모든 사람들에게 관련 권한을 부여할지 결정해야 한다.
공개대상 정보의 범위	AI 알고리즘에 대한 데이터를 어느 정도까지 공개할 것인지에 대한 문제이다. AI 알고리즘을 통해 특정 결정이 이루어진 논리만 공개할 것인지, 아니면 알고리즘에 대한 구체적인 내용까지 공개할 것인지 문제된다.
정보제공 시기와 절차	정보제공 방법과 시기를 어떻게 설정할 것인지에 대한 문제이다. 매 분기 혹은 1년마다 개발자가 자율적으로 관련 정보를 제공, 공지할 것인지, 아니면 이용자 또는 사용자의 요청이 있으면 특정 시일 이내 관련 정보를 제공하도록 의무를 부과할지 결정해야 한다.
공개된 정보에 대한 이의제기 방법	개발자가 공개한 정보가 불충분하다고 판단될 경우 이용자 또는 사용자가 어떻게 재검토를 요청할 것인지에 대한 문제이다. 이에 대해서는 이용자와 개발자간의 사인간의 문제로 해결할 것인지, 아니면 행정기관이나 사법기관 등 중립적인 제3자의 개입을 허용할 것인지 결정해야 한다.

2) 세부내용

이에 대한 구체적인 정책방안은 한국의 약관규제법과 IT 기업들이 매년 자율적으로 발표하고 있는 투명성 보고서의 내용을 참조할 수 있다. 먼저, 약관규제법은 사업자들에게 약관의 작성의무를 부여하고 있다. 이 때 약관을 작성할 때에는 사용자가 약관의 내용을 쉽게 알 수 있도록 표준화되고 체계화된 용어를 사용하여 작성하고 중요한 내용에 대해서는 부호, 문자, 색채 등으로 명확하게 표시하도록 하고 있다. 이는 소비자가 약관의 내용을 명확히 알 수 있도록 하기 위한 조치로 투명성의 원칙을 반영한 것으로 평가할 수 있다 (Lee, 2017). 또한, 사업자가 자율적으로 표준약관을 마련하여 공개하도록 하되, 만약 사업자가 표준약관을 마련하지 않으면 행정기관이 직접 표준약관을 마련하여 강제하는 형태를 취하고 있다. 이는 사업자의 자율을 존중하되, 이를 지키지 않을 경우 국가의 강제력이 발동될 수 있는 근거규정을 두고 있는 특징을 보인다 (Lee, 2017). 투명성 보고서는 IT 기업이 정기적으로 발간하는 보고서로서 해당 기업이 보유하고 있는 데이터에 대해 정부기관이 개인정보 침해를 이유로 삭제를 요청하거나 혹은 테러 등에 대한 방지 목적으로 관련 데이터 제공을 요청한 경우를 수치화하여 공개하는 보고서를 말한다 (Cho & Shin, 2015). 이는 초기에 기업의 경영 및 납세 현황을 공개하여 기업이 투명하게 경영되고 있음을 증명하는 것에서 데이터가 중요 자원으로 부각됨에 따라 기업이 이용자들로부터 제공받는 정보를 투명하게 공정하게 다루고 처리하고 있다는 것을 알리기 위해 사용되고 있다.

이를 참고하면 AI 알고리즘에 대한 구체적인 규제사항은 다음과 같이 구성할 수 있다. 먼저 약관의 작성과 공개의무에 대한 부분을 차용할 수 있다. AI 알고리즘에 대한 정보는 매년 사업자가 자율적으로 보고서를 발간하도록 하여 관련 정보를 공개하도록 의무화하는 방식이 가능하다. 이는 사업자에게 정보공개에 대한 의무를 부과하되, 그에 대한 구체적 사항은 자율로 맡기는 방식으로 최소한의 규제를 통해 AI 알고리즘에 대한 투명성을 확보하기 위함이다. 이를 통해 다양한 형태의 인공지능 알고리즘에 대해 사업자의 자율을 보장하고 정부 규제의 역기능을 최소화할 수 있을 것이다. 그리고 자신의 정보를 AI 알고리즘의 학습에 제공하는 사용자에 대해서는 설명요구권을 부여하여 자신들의 정보가 어떻게 활용되고 있는지 알 수 있도록 보장할 필요가 있다. 약관과 같이 사업자가 자율적으로 제공하는 정보는 모든 사람들이 접근, 열람할 수 있도록 하여 최소한의 투명성을 확보하는 것이 가능하다. 이 외에도 인공지능 알고리즘에게 개인 데이터를 제공하는 이용자들에게는 추가적인 권리를 보장하여 이용자가 언제든 자신의 정보가 어떻게 활용되고 있는지 확인할 수 있게 하는 것이다. 이는 이용자들의 확인 가능성을 보장함에 따라 인공지능 알고리즘에 대한 보다 높은 수준의 투명성을 확보해 나갈 수 있을 것이며, 정보제공에 대한 신뢰성을 보다 높여줄 수 있을 것이다. 그리고 정보를 제공하는 사용자와 이를 활용하는 AI 개발자간 분쟁이 발생할 경우에는 시장에서의 행위자간 자율적으로 해결하도록 도모하여 AI 알고리즘 발전에 대한 국가의 개입을 최소화할 필요가 있다. 이는 인공지능 알고리즘이 아직까지 개발 초기로서 규제 위험이 구체화되지 않은 상황에서 국가의 개입을 최소화하고 시장에서의 자율적 해결을 도모하기 위함이다.

3) 정책평가

3-1) 정보접근성

정보접근성은 절차적 측면에서 정보제공자의 알권리가 충분히 보장될 수 있는지 검토되어야 한다. 먼저, 접근성 측면에서 정책대안 1이 광범위하고 공개적이며 공평한 접근을 보장하는지 살펴보아야 한다. 정책대안 1에 따르면 사업자가 매년 AI 알고리즘에 대한 정보를 공개함에 따라 누구든지 AI 알고리즘이 어떻게 운영되고 있는지 확인하는 것이 가능하다. 이에 따라 누구든지 광범위하고 공개적이며 공평하게 AI 알고리즘에 대한 정보에 접근할 수 있다는 측면에서 정보접근성은 높다고 평가될 수 있다. 두 번째로 이용성 측면에서 접근 채널이 다양하고 또 어느 때든지 열려 있어서 그 이용이 자유로운지 살펴보아야 한다. 먼저 이용자들은 개발자가 공개하는 정보를 통해 인공지능 알고리즘에 대한 정보를 파악할 수 있다. 그 외에도 인공지능 알고리즘에게 정보를 제공하는 이용자들은 자신의 정보에 대해서는 필요하다면 AI 개발자에게 요청하여 그 정보가 어떻게 활용되고 있는지 확인할 수 있다. 일반적 의미의 정보확인과 개별적, 구체적 의미의 정보확인이 모두 가능하다는 점에서 접근 채널이 다양하다고 평가될 수 있어 정보이용성도 높다고 할 수 있다. 세 번째로 정책대안 1에 따라 정보제공 요청을 함에 있어 비용부담 측면에서 편리하고 비용에 부담이 없는지를 기준으로 살펴보아야 한다. 이에 대해서는 한편, AI 개발자가 제공하는 정보에 대해서는 손쉽고 별다른 비용부담 없이 접근할 수 있으나, 이용자와 개발자간 분쟁 발생시 소송 등을 통해 해결해야 한다는 측면에서 일정 정도 비용부담이 발생하게 된다. 따라서 일반적 의미의 정보획득에 대해서는 별다른 비용부담 없이 가능하나, 개별적이고 구체적인 정보획득에 대해서는 다소간의 비용부담이 발생한다고 할 수 있다. 네 번째로는 정보를 획득하는 방법과 절차에 있어서 절차가 간단하고 단순한지 살펴보아야 한다. 투명성 보고서나 약관 등의 경우 각 기업이 기업의 홈페이지 공지하고 있어 그 획득은 쉽고 간편하다. 인공지능 개발자들이 공개하는 정보 역시 이러한 방법을 채택한다면 정보 획득을 위한 별다른 절차는 필요치 않을 것이다. 또한, 이용자가 개발자에게 설명을 요구하는 것에 대해서는 공공기관의 정보공개에 관한 법률의 절차적 규정을 차용한다면 그 절차적 방법 또한 별다른 사회적 비용 없이 이루어질 수 있을 것이다. 따라서, 절차적 측면에서도 정책대안 1은 높게 평가될 수 있다.

3-2) 정보완전성

정보완전성은 AI 알고리즘에 대한 정보의 질에 대한 측면에서 검토되어야 한다. 먼저 진실성 측면에서 공개되는 정보가 진실된 정보로서 확인가능한지 검토되어야 한다. 개발자가 공개하는 정보는 정부나 전문기관에서 약관을 통해 일정부분 범위를 정하나 그 세부적인 사항은 개발자의 자율적 판단에 따라 이루어진다. 따라서, 개발자들이 판단하는 범위와 기준, 그리고 보고서의 질에 따라 다양한 수준으로 나타날 것이다. 이에 정책대안 1은 진실서 측면에서 개발자의 선한 의도에 따라 다양하게 나타날 것으로 평가된다. 두 번째로 설명성 측면에서 공개되는 정보가 정보 요구자가 요구하는 사건의 이해에 도움이 될 수 있는지 검토되어야 한다. 이는 공개되는 정보의 품질과 이를 해석할 수 있는 이용자의 자질에 따라 결정될 것이다. 그러나, 인공지능 알고리즘은 그 기술 특성상 고도로 전문화되고 많은 양의 데이터가 결합, 가공된다. 이러한 상황에서 정보요구자가 제한된 수준의 정보를 바탕으로 자신이 요구하는 사건의 이해에 충분할 것으로 기대하기는 어려울 것으로 판단된다. 세 번째로 적시성 측면에서 정보요구자가 필요한 시기에 정보가 제공될 수 있는지 검토되어야 한다. 일반적으로 개발자가 공개하는 정보에 대해서는 정보요구자가 언제든지 접근 가능함에 따라 적시성이 높다고 할 수 있다. 하지만, 설명을 요구하는 정보에 대해서는 개발자의 가공, 처리되는 시간과 더불어 다툼이 발생하여 소송 등이 진행된다면 그 시기는 더더욱 늦춰질 것으로 전망된다. 네 번째로 신뢰성 측면에서 정보작성, 수집, 제공방법 등이 신뢰할 수 있는지 살펴보아야 한다. 개발자가 자율적으로 제공하는 정보에 대해서는 개발자가 진실되고 신뢰할 수 있는 정보를 제공할 것이라는 개발자의 윤리, 도덕에 의존할 수 밖에 없다. 그러나, 개발자가 허위, 부정한 방법으로 정보를 제공했을 때, 이를 처벌할 수 있는 기준이 없다면 신뢰성은 낮을 것으로 평가된다. 또한, 인공지능 알고리즘의 복잡성으로 인하여 이용자들이 제공되는 정보를 검증하기 어렵기 때문에 신뢰성은 더더욱 낮아질 가능성이 크다. 다섯 번째로 정확성 측면에서 제공되는 정보가 분명하고 명확한지 살펴보아야 한다. 이 역시 개발자의 의도와 능력에 따라 다양하게 나타날 것이다. 특히, 이용자에게 제공되는 정보제공에 대해 개발자가 투자가 아닌 비용으로 인식한다면 정확성은 더더욱 낮게 나타날 것이다. 마지막으로 평이성 측면에서 정보요구자가 제공되는 정보의 의미를 효과적이고 분명하게 파악할 수 있도록 평이하게 제공될 수 있는지 검토되어야 한다. 개발자는 자신들이 개발한 인공지능 알고리즘에 대해 이용자들이 이를 파악하기 최대한 어려운 방향으로 공개하고자 하는 유인을 가질 것이다. 또한, 인공지능 알고리즘 기술의 높은 전문성으로 말미암아 이용자들의 제공되는 정보를 해석하고 이해하는데 있어서도 일정부분 한계를 가질 수 밖에 없다. 따라서 평이성 또한 다소 낮게 평가될 것이다.

3-3) 정책수용성

AI 알고리즘에 대한 투명성은 AI 알고리즘 개발자와 이들에게 정보를 제공하는 이용자 모두가 정책 수용자로서 기능한다. 먼저 소망성 측면에서 정책 수용자들이 긍정적으로 인식될 수 있는지 검토되어야 한다. 정책대안 1은 인공지능 알고리즘을 개발하고 사용하는데 있어 개발자의 자율성을 높게 보장할 수 있기 때문에 개발자들의 소망성은 높게 나타날 것으로 평가된다. 두 번째로 명확성 측면에서 정책이 수용자들에게 명확하게 전달되는지 검토되어야 한다. 정책대안 1을 통해 이용자들이 인공지능 알고리즘의 투명성이 보장된다면 판단된다면 명확성은 높게 나타날 것이다. 하지만 공개되어야 하는 정보에 대한 양과 질이 분명하게 규정되기란 어렵다. 또한, 인터넷 가입시 제공되는 약관의 경우와 같이 대부분의 이용자들은 그 내용을 면밀히 살펴보지 않을 가능성이 높다. 이러한 측면을 고려할 때 명확성은 다소 낮을 것으로 판단된다. 세 번째로 실효성 측면에서 정책이 수용자들이 효과적이라 느낄 수 있도록 설계되어 있는지 검토되어야 한다. 개발자 입장에서 정책대안 1은 정보가 공개되도록 강제되는 측면이 있음에도 불구하고 개발 과정에 있어서 개발자의 자율성을 최대한 보장하므로 실효성이 높다고 평가할 것이다. 하지만 이용자 입장에서는 제공되는 정보의 양과 질을 전적으로 개발자에게 의존해야 하며, 직접적인 정보 제공자의 경우 소송 등을 통할 수 있다는 절차적 한계로 인하여 그 실효성에 대해 의문을 제기할 것으로 평가된다.

Table 12. 정책대안 1 평가결과

구분		평가점수 (3점 척도)
정보접근성	접근성	3
	이용성	3
	비용부담	2
	절차	3
	가중평균	2.75
정보완전성	진실성	2
	설명성	1
	적시성	2
	신뢰성	1
	정확성	1
	평이성	1
	가중평균	1.33
정책수용성	소망성	3
	명확성	1
	실효성	1
	가중평균	1.67
합 계		5.75

3. 인공지능 영향평가 및 감사

1) 고려사항

제안된 정책의 주요 내용은 AI 알고리즘에 대한 사전규제로서 영향평가(assessment)와 사후규제로서 감사(auditing)이다. 이는 국가기관이나 전문성을 가진 제3의 기관에 의해 이용자를 대신하여 알고리즘의 투명성을 확인하고 검증하는 방식이다. 정책에 대한 사전평가는 정책의 문제점을 예측하고 사회적 비용을 사전에 산출하여 정책에 따른 시행착오를 줄일 수 있게 해준다. AI 알고리즘 또한 우리 사회에 큰 영향을 미칠 수 있는 대규모 기술로서 AI 알고리즘 개발 과정에서 사전평가를 검토해 볼 수 있다. Selbst는 경찰이 범죄 예측 알고리즘을 활용하고자 한다면 알고리즘 영향평가서 (Algorithm Impact Statement)를 작성하여 제출할 필요가 있다고 주장한다 (Selbst, 2018). 사전평가와 더불어 사후 규제로서 AI 알고리즘에 대한 감사도 고려할 수 있다. 국가기관이나 법률로부터 권한을 위탁받은 전문적인 기관이 AI 알고리즘을 들여다보고 해당 알고리즘이 올바르게 작동하고 있는지 확인하는 방법이다. AI 알고리즘에 대한 감사 방법으로는 알고리즘에 대한 논리구조를 살펴보는 것과 더불어 특정 내용의 데이터를 AI 알고리즘에 입력하고 그 결과물이 올바르게 산출되는지 검토하는 방법이 있을 수 있다. 영향평가와 사후규제는 세 가지 정책대안 중 AI 알고리즘에 대해 가장 직접적으로 개입하는 방식이다. 다만, AI 알고리즘에 대한 개발 과정에서는 국가의 개입없이 개발자 스스로 자율적으로 선택하여 개발 행위를 진행하고, 사후에 문제가 발생하면 이를 검증하는 방식을 취함으로써 알고리즘 개발자의 자율성을 일정부분 존중할 수 있다. 정책대안 2를 검토함에 있어서는 다음과 같은 사항들이 보다 구체적으로 고려되어야 할 것이다.

Table 13. 정책대안 2에 대한 주요 고려사항

고려사항	주요내용
사전평가에 대한 방법	누가 AI 알고리즘에 대한 사전평가를 실시하고 검증할 것인가에 대한 문제이다. 개발자가 사전평가를 수행하고 제3의 기관이 이를 검증하는 방식과 제3의 기관이 처음부터 AI 알고리즘에 대한 사전평가를 수행하는 방식이 있다.
감사수행 주체와 인력	누가 AI 알고리즘에 대한 감사를 시행할 것인가에 대한 문제이다. 입법적 권한을 가진 국회에서 수행하는 방법, 행정적 권한을 가진 행정부에서 수행하는 방법, 아니면 전문성을 갖춘 민간기구에서 수행하는 방법 등이 있다.
감사의 방법과 절차	AI 알고리즘에 대해 어떤 방법과 절차에 따라 감사를 수행할 것인지에 대한 문제이다. 알고리즘을 감사하는 방법으로는 데이터를 포함하여 알고리즘 자체를 살펴보는 것과 통제된 데이터를 알고리즘에 입력한 뒤 그 결과를 살펴보는 방법이 있다.
감사비용에 대한 부담 주체	AI 알고리즘에 대한 감사비용을 누구 부담할 것인지에 대한 문제이다. 감사를 청구한 사람이 부담하는 방법, 감사를 수행하는 사람이 부담하는 방법, 개발자가 부담하는 방법 등이 있을 수 있다.
감사에 대한 개발자의 협조범위	인공지능 알고리즘에 대한 감사를 수행할 때 기업이 어느 정도까지 협조해야 할 것인지에 대한 문제이다. 알고리즘에 대한 논리구조만을 감사 수행 주체에게 공개하는 방법과 논리구조 뿐만 아니라 이를 해석하는데 필요한 데이터와 데이터의 활용방안 등 모든 내용을 공개해야 할 것인지 검토해야 한다.

2) 세부내용

이에 대한 구체적인 정책방안은 현재 정책에서 적용되고 있는 사전영향평가와 감사제도를 AI 알고리즘에 적용하는 방법이 있다. 사전영향평가 제도는 대규모 정책이나 국민들에게 큰 영향을 미치는 정책에 대하여 정책이 실행될 때 초래되는 영향을 예측하여 더 나은 대안이 있는지 검토하고, 영향을 받는 시민이나 단체들에게 관련 정보를 제공하여 그들의 견해를 사전에 반영할 수 있는 기회를 가질 수 있다. 특히, 사전영향평가를 실시할 때 시민단체, 철학자, AI 기술자 등 다양한 행위자들이 참여할 수 있는 기회를 부여한다면 AI 알고리즘에 대한 투명성과 신뢰성은 보다 높아질 수 있다. 한국에서는 기존에 환경이나 대규모 예산이 투입되는 정부주도의 사업에 사전영향평가를 적용하였으나, 최근에는 은행 점포 폐쇄 등 국민들의 생활에 많은 영향을 미치는 부문까지 그 범위를 확대하고 있다. 감사제도는 기업들이 회계에 대해 옳고 그름을 판단하기 위해 제3자가 재무적 내용을 평가하는 회계감사제도를 참조할 수 있다. 주식회사가 부정한 방법으로 자금을 모으고 파산할 경우 이에 대한 주주들의 피해가 크게 나타날 수 있게 됨에 따라 기업과 무관한 회계사가 회계감사를 실시하고 이를 감독관청에게 보고하도록 하고 있다. 이와 같이 AI 알고리즘에 대해서도 AI 알고리즘 개발사와 무관한 제3자가 AI 알고리즘을 검증하고 이를 국가기관에 보고하도록 하는 감사제도를 활용할 수 있다.

이러한 방법들을 활용할 때 AI 알고리즘에 대한 사전영향평가와 감사제도는 다음과 같이 구체화할 수 있다. 정부나 제3의 전문기관이 AI 알고리즘에 대한 사전영향평가 검증요소를 작성하여 배포하면 개발자가 이에 따라 AI 알고리즘에 대한 사전영향평가를 실시하는 방법이 있다. 이는 최소한의 기준을 마련하여 개발자에게 배포함에 따라 개발자의 자율성을 높임과 동시에 AI 알고리즘에 대한 부정적 영향을 사전에 확인할 수 있어 긍정적이다. 그리고 개발자가 제출한 사전영향평가서에 대해서는 다양한 분야의 전문가의 검토를 거쳐 AI 개발시 반영토록 할 수 있다. 감사제도에 대해서는 AI 알고리즘의 운영 상황에 대해 매년 해당 기업과 무관한 중립적인 전문가를 통해 회계감사와 유사하게 AI 알고리즘 감사를 받고 이를 검증하는 전문기관에게 제출하도록 의무화할 수 있다. 또한, 국가기관은 금융감독원의 전자공시시스템과 같이 각 기업이 제출한 AI 알고리즘 감사결과를 공중에게 공개하여 AI 알고리즘에 대한 투명성을 높여나갈 수 있을 것이다. 이를 통해 AI 알고리즘에 대한 국가나 외부의 개입을 일정부분 허용함으로써 인공지능 알고리즘에 대한 투명성을 높여 나갈 수 있을 것이다.

3) 정책평가

3-1) 정보접근성

먼저, 접근성 측면에서 정책대안 2가 광범위하고 공개적이며 공평한 접근을 보장하는지 살펴보아야 한다. 정책대안 2에 따르면 인공지능 알고리즘을 개발하는데 있어 사전영향평가보고서가 작성되어야 하며, 매년 인공지능 알고리즘에 대한 운영상황에 대한 감사보고서가 작성되어야 한다. 또한, 이렇게 작성된 보고서는 공중에게 공개하는 방식을 취함에 따라 정책대안 2는 접근성 측면에서 높이 평가될 수 있다. 두 번째로 이용성 측면에서 접근 채널이 다양하고 또 어느 때든지 열려 있어서 그 이용이 자유로운지 살펴보아야 한다. 정책대안 2는 신뢰성을 가진 정부나 외부 전문가 혹은 전문기관에 의해 인공지능 알고리즘이 올바르게 개발, 운용, 활용되고 있는지 검증하는 방식을 취한다. 이에 따라 일반 대중들의 접근은 제공되는 보고서에 한정되는 단점을 가진다. 이러한 측면을 고려할 때 이용성은 다소 낮게 평가될 것이다. 인공지능 알고리즘의 정보접근성을 평가함에 있어 세 번째로 정책대안 2에 따라 정보제공 요청을 함에 있어 비용부담 측면에서 편리하고 비용에 부담이 없는지를 기준으로 살펴보아야 한다. 정보 요구자는 별다른 비용부담 없이 인공지능 알고리즘에 대한 사전영향평가보고서와 감사보고서에 접근할 수 있다. 그러나, 사회 전체적으로는 사전영향평가보고서나 감사보고서를 작성하는 과정에서 세 가지 대안 중 가장 많은 비용이 소요될 것으로 전망된다. 사전영향평가를 함에 있어 이를 검증하는 전문가 기구를 구성, 운영해야 하며, 매년 운영되고 있는 인공지능 알고리즘에 대한 감사를 수행하는 인력과 조직, 그리고 이를 검증하는 조직 등을 고려할 때 이에 대한 비용이 매우 높은 수준으로 나타날 우려가 있다. 이러한 측면을 고려할 때 정보요구자가 직접적으로 부담하는 비용은 없을지라도 간접적, 사회적으로 부담하는 비용이 크므로 비용부담이 가장 높게 나타날 것이다. 네 번째로는 정보를 획득하는 방법과 절차에 있어서 절차가 간단하고 단순한지 살펴보아야 한다. 인공지능 알고리즘에 대한 사전영향평가보고서와 감사보고서가 공중에게 공개된다면 정보 요구자는 별다른 절차와 노력을 기울이지 않아도 이에 대한 정보를 손쉽게 획득할 수 있을 것이다. 따라서 절차적 측면에서의 정보접근성은 높게 평가될 수 있을 것이다.

3-2) 정보완전성

정보완전성은 AI 알고리즘에 대한 정보의 질에 대한 측면에서 검토되어야 한다. 먼저 진실성 측면에서 공개되는 정보가 진실된 정보로서 확인가능한지 검토되어야 한다. 정책대안 2는 중립적인 기관이나 전문가에 의해 사전, 사후 단계에서 검증을 거쳐 작성된 정보가 제공됨에 따라 정보의 진실성은 매우 높게 나타날 것이다. 두 번째로 설명성 측면에서 공개되는 정보가 정보 요구자가 요구하는 사건의 이해에 도움이 될 수 있는지 검토되어야 한다. 이는 사전영향평가보고서의 내용과 감사보고서의 내용의 품질에 좌우될 것이다. 다만, 국가기관이나 전문기관의 검토, 확인을 거쳐 작성된 정보이므로 일반적인 관점에서 제공되는 정보의 품질은 높은 것으로 판단된다. 하지만 정보 요구자의 구체적 요구를 충족하는데 있어서는 일정부분 한계를 가질 것으로 보인다. 세 번째로 적시성 측면에서 정보요구자가 필요한 시기에 정보가 제공될 수 있는지 검토되어야 한다. 사전영향평가보고서와 감사보고서는 공중에 공개될 경우 언제든지 접근 가능한 정보이다. 이는 정보 요구자의 적시성을 높여주는 요소로 작용한다. 다만, 감사보고서의 경우 감사에 대한 내재적 한계로 인하여 과거의 기록을 바탕으로 사후적으로 평가하게 됨에 따라 이는 적시성을 다소간 낮추는 요소가 될 것이다. 네 번째로 신뢰성 측면에서 정보작성, 수집, 제공방법 등이 신뢰할 수 있는지 살펴보아야 한다. 이는 국가나 전문기관에 대한 정보 요구자의 신뢰성에 의존하는 측면이 크다. 국가 기관이나 전문기관에 대한 공중의 신뢰가 높다면 이들을 통해 검증된 사전영향평가보고서나 감사보고서에 대한 신뢰 또한 높게 나타날 것이기 때문이다. 다섯 번째로 정확성 측면에서 제공되는 정보가 분명하고 명확한지 살펴보아야 한다. 사전영향평가보고서와 감사보고서는 전문기관에 의해 검증, 확인되는 절차를 거쳐 작성된다. 이는 정보 요구자에게 제공되는 정보의 정확성을 높여주는 요소로 작용할 것이다. 마지막으로 평이성 측면에서 정보요구자가 제공되는 정보의 의미를 효과적이고 분명하게 파악할 수 있도록 평이하게 제공될 수 있는지 검토되어야 한다. AI 알고리즘은 알고리즘 자체의 복잡성으로 인하여 이를 이해하고 해석하는데 있어서는 높은 수준의 전문성이 요구된다. 따라서 공개되는 정보의 양과 질을 일반 대중이 판단하기란 쉽지 않다. 하지만 사전영향평가와 감사를 통해 전문기관이나 국가기관이 이를 검증하고 보다 읽기 쉽게 가공된 정보를 제공한다면 이용자들의 AI 알고리즘에 대한 해독력은 보다 높아질 수 있다.

3-3) 정책수용성

먼저 소망성 측면에서 해당 정책이 정책 수용자들에게 긍정적으로 인식될 수 있는지 검토되어야 한다. AI 알고리즘이 우리 사회에 큰 영향을 미칠 것이라는 전망과 예측은 다양하고 일관되게 나타나고 있다. 하지만 그러한 상황에 대한 예측만이 이루어지고 있을 뿐 실제 삶에서 AI 알고리즘을 활용한 사례는 구체적으로 나타나지 않고 있다. 따라서, 위험이나 영향이 예측될 뿐, 실현된 것은 아닌 상황에서 이에 대해 강하게 규제하는 것에 대해 AI 알고리즘 개발자들의 소망성을 확보하기 어려울 수 있다. 또한, 정보 요구자의 입장에서는 전문기관의 검증을 거친 정보가 제공되는 측면은 긍정적이나, 자신이 확인하고자 하는 정보의 내용이 미흡하다면 이는 정보 요구자의 소망성을 감소시키는 요소로 작용할 것이다. 두 번째로 명확성 측면에서 정책이 수용자들에게 명확하게 전달되는지 검토되어야 한다. 사전영향평가제도와 감사제도는 인공지능 알고리즘에 대한 투명성을 확보하기 위해 상당히 높은 수준의 규제를 인공지능 개발자에게 부여하는 제도이다. 또한, 현재 사회 많은 부분에서 사전영향평가제도와 감사제도가 실시되고 있으며, 이에 대한 시민들의 이해 또한 높게 나타나고 있다. 따라서, 정책대안 2는 명확성 측면에서 정책수용성은 높게 나타난다고 평가될 수 있다. 세 번째로 실효성 측면에서 정책이 수용자들이 효과적이라 느낄 수 있도록 설계되어 있는지 검토되어야 한다. 이는 정책을 수행하는 전문기관에 대한 신뢰도가 큰 영향을 미칠 것으로 보인다. 전문기관에 대한 시민의 신뢰가 높게 형성되어 있다면 인공지능 알고리즘의 투명성 제고에 대한 대안 3에 대해서도 효과적이라 판단할 것이기 때문이다. 다만, 개발자 입장에서는 사전, 사후 단계에서 일정부분 국가의 개입이 강제되기 때문에 인공지능 산업 발전을 다소 저해할 수 있다고 판단할 수 있다.

Table 14. 정책대안 2 평가결과

구분		평가점수 (3점 척도)
정보접근성	접근성	3
	이용성	2
	비용부담	1
	절차	3
	가중평균	2.25
정보완전성	진실성	3
	설명성	2
	적시성	2
	신뢰성	2
	정확성	3
	평이성	3
	가중평균	2.5
정책수용성	소망성	1
	명확성	3
	실효성	2
	가중평균	2
합 계		6.75

4. 윤리적 가치를 AI 알고리즘에 코드화하도록 의무부과

1) 고려사항

제안된 정책의 주요 내용은 윤리적 규범이나 가치를 담은 데이터를 처음부터 알고리즘에 코드화 하거나 알고리즘이 윤리나 규범을 의무적으로 학습하도록 설계하는 방식이다. 강제력을 담보하는 법으로서 개발자들에게 윤리적 가치를 인공지능 알고리즘에 코드화하도록 의무화하고, 이를 구체화하는 방식은 개발자의 자율에 맡기는 것이다. 법은 피규제자에게 적용될 규범의 외적 테두리만을 규정하고 그 규범의 구체적인 내용은 피규제자가 자율적으로 형성하도록 하는 것이다. 이는 인공지능 알고리즘에 의해 스스로 투명성이 보장되도록 하는 방식으로 개발자의 자율성을 높일 수 있다는 장점이 있다. O'Neil은 AI 알고리즘을 설계하는 초기 단계부터 알고리즘 자체를 선하게 설계해야 한다고 제안한다 (O'Neil, 2016). O'Neil은 Slavery Model을 이것의 한 예로 제시한다. Slavery Model은 AI 알고리즘을 활용해 강제노동이나 노예노동으로 만들어진 것으로 의심되는 제품이나 그러한 노동이 발생한 것으로 의심되는 지역을 추정해내는 모델이다. O'Neil에 따르면 알고리즘 자체는 중립적이지만 이를 설계하고 활용하는 인간의 편향과 나쁜 의도가 개입될 때 알고리즘의 투명성이 저해되므로 알고리즘 스스로 윤리적 가치를 학습하도록 설계되어야 한다. 정책대안 3을 검토함에 있어서는 다음과 같은 사항들이 보다 구체적으로 고려되어야 할 것이다.

Table 15. 정책대안 3에 대한 주요 고려사항

고려사항	주요내용
코드화할 윤리적 가치의 내용과 범위	코드화할 윤리적 가치를 어떻게 정의할 것인가에 대한 문제이다. 윤리적 가치는 문화와 사회적 요구에 따라 다양하고 한 사회 내에서도 모든 사람이 동의하는 윤리적 가치를 도출해 내는 것은 불가능하다. 따라서, 어느 정도의 범위와 내용으로 윤리적 가치를 도출할 것인지 검토되어야 한다.
윤리적 가치를 코드화하는 것에 대한 기술적 가능성	윤리적 가치란 정성적 특성을 가진 것으로 이를 계량화하고 기계화하는 것에 대한 의문이 제기될 수 있다. 또한, 정성적 가치를 정량적 가치로 변환했을 때 의도한 가치가 올바르게 변환될 수 있는지 검토되어야 한다.
윤리적 가치를 코드화하는 주체와 비용부담 문제	누가 윤리적 가치를 코드화하고 이에 대한 비용부담은 누가 부담할 것인지에 대한 문제이다. 이를 개발자에게 맡겨놓을 것인지, 아니면 국가기관이나 국제기구가 주체가 되어 윤리적 가치에 대한 핵심 내용을 코드화하고 이를 AI 알고리즘이 학습하도록 할 것인지 결정해야 할 것이다. 또한, 이에 대한 비용부담은 AI 개발에 부수되는 내용으로 인식하여 개발자가 부담하도록 할 것인지, 아니면 사회적 가치를 위한 추가적 부담으로 인식하여 국가기관이 부담할 것인지 검토해야 한다.
코드화한 가치에 대한 AI 알고리즘의 학습범위와 기간	AI 알고리즘이 해당 내용을 언제까지 학습해야 할 것인지에 대한 문제이다. AI 알고리즘 개발 초기 해당 내용을 학습하고 이후 상황은 AI 개발자의 선한 의지에 맡겨 놓는 방법과 정기적, 계속적으로 해당 가치를 학습하도록 의무화하고 이를 점검하는 방식이 있을 수 있다.
윤리적 가치가 AI 알고리즘에 코드화되었는지 검증하는 문제	AI 알고리즘이 윤리적 가치를 올바르게 학습했는지 확인하고 검증하는 것에 대한 문제이다. 국가기관이 알고리즘에 대한 논리구조를 분석하여 확인할 것인지, 혹은 이를 검증하는 AI를 개발하여 확인할 것인지 등 구체적인 방법에 대해서는 추가적인 논의가 필요하다.

2) 세부내용

정책대안 3은 인공지능 스스로의 학습능력을 이용하여 내적 해결을 도모하는 방식으로서 인공지능 개발자의 자율성을 최대로 존중할 수 있는 장점이 있다. 또한, 인공지능 알고리즘이 계속적으로 학습하고 진화, 발전한다 할지라도 윤리적 가치를 내재화한 상태에서 학습이 이루어지기 때문에 초기에 윤리적 가치가 인공지능 알고리즘에게 학습된다면 이를 검증, 관리하는 별도의 노력이 상대적으로 적게 소모된다는 장점이 있다. 이러한 이유로 O'Neil 뿐만 아니라 많은 생명윤리학자들도 윤리적 가치를 스스로 학습하는 알고리즘을 설계해야 한다고 주장한다 (Wallach & Allen, 2014).

하지만, 정책대안 3은 다음과 같은 문제점을 가진다. 첫째로, 이는 참조할 수 있는 현실사례가 존재하지 않는다는 점이다. 따라서, AI 알고리즘이 윤리적 가치를 스스로 학습하도록 어떤 방식으로 내재화할 것인지 구체적인 방법론을 마련하는데 있어 어려움이 있다. 또한, 최초의 모델을 적용하는 것으로서 다른 정책대안들보다 사회적 합의과정에 보다 많은 노력이 필요할 것으로 예상된다. 둘째로, 윤리적 가치에 대한 모호성과 윤리적 가치를 마련하는 것에 대한 실현가능성이 제기될 수 있다. 코드화할 윤리적 가치는 사회적, 문화적, 개인적 가치관에 따라 다양하게 존재한다. 따라서 국가나 문화마다 다르며, 심지어 같은 문화권이라 할지라도 개개인마다 다르게 정의될 것이다. 이러한 관점에서 AI 알고리즘에 코드화할 윤리적 가치를 마련하는 것은 현실적으로 불가능하다는 의문이 제기될 수 있다. 셋째로, 윤리적 가치를 어떤 방식으로 코드화할 것인지에 대한 문제가 발생한다. 코드화하기 위해서는 윤리적 가치를 기계적이고 계량적인 언어로 변환해야 하는데 이에 대한 방법이 현실적으로 쉽지 않으며, 이를 구현하기 위한 데이터를 수집하는 것 또한 현실적으로 불가능할 것이기 때문이다. 결국, 윤리적 가치를 AI 알고리즘에 코드화하기 위해서는 현재 많은 나라들과 국제기구들에서 공통적으로 논의되고 있는 AI 알고리즘에 대한 윤리적 가이드라인과 같이 일반적이고 포괄적인 수준에서 합의가 이루어질 수 밖에 없을 것이다. 이를 통해 국제기구를 중심으로 포괄적인 윤리 코드를 개발하여 표준화하고, 각국의 문화적, 사회적 특수성을 반영하여 이를 일정부분 수정하는 것이 현실적일 것이다. 만약 AI 개발자에게 윤리적 가치를 코드화하도록 맡겨 놓는다면 개발자의 가치관이 강하게 개입됨에 따라 인공지능 알고리즘의 투명성은 더더욱 저하될 것이다. 한편, 중립적 국제기구와 국가기관에 의해 코드화된 윤리적 가치를 인공지능 알고리즘이 올바르게 학습하였는지 확인하는 것 또한 필요하다. 이를 위해서는 인공지능 알고리즘 전체를 점검하기 보다는 중립적 데이터를 생성하여 이를 인공지능 알고리즘에 입력하고 산출되는 결과물을 확인하는 것이 보다 현실적일 것이다.

3) 정책대안 평가

3-1) 정보접근성

먼저, 접근성 측면에서 정책대안 3이 광범위하고 공개적이며 공평한 접근을 보장하는지 살펴보아야 한다. 정책대안 3은 윤리적 가치를 내재화한 인공지능 알고리즘이 정보나 데이터를 적절하게 활용할 것이라는 믿음에 근거한다. 이에 따라, 정보 요구자가 인공지능 알고리즘이 어떻게 정보를 활용하고 진화하는지 검증하는 것은 불가능하다. 따라서, 접근성은 낮게 평가될 것이다. 두 번째로 이용성 측면에서 접근 채널이 다양하고 또 어느 때든지 열려 있어서 그 이용이 자유로운지 살펴보아야 한다. 세 번째로 정책대안 3에 따라 정보제공 요청을 함에 있어 비용부담 측면에서 편리하고 비용에 부담이 없는지를 기준으로 살펴보아야 한다. 네 번째로는 정보를 획득하는 방법과 절차에 있어서 절차가 간단하고 단순한지 살펴보아야 한다. 이용성, 비용부담, 절차적 측면 역시 앞서 설명한 것과 동일한 이유로 낮게 평가될 것이다. 정책대안 3은 인공지능 알고리즘이 처리하는 정보에 대한 요구를 보장, 검증하는 것이 아니라 인공지능 알고리즘이 선하게 설계된다면 그에 따른 결과 역시 선하게 이루어질 것이라는 믿음에 근거하기 때문이다. 따라서, 정책대안 3에 따를 때 정보접근성은 낮게 평가될 것이다.

3-2) 정보완전성

정보완전성은 AI 알고리즘에 대한 정보의 질에 대한 측면에서 검토되어야 한다. 먼저 진실성 측면에서 공개되는 정보가 진실된 정보로서 확인가능한지 검토되어야 한다. 이는 중립적 데이터를 입력하고 그 결과물을 확인함으로써 검증할 수 있다. 다만, 편향된 데이터를 입력해도 알고리즘 자체가 이를 검증하고 오류를 수정해서 중립적인 결과물을 산출할 것인지는 단정하기 어렵다. 이러한 측면까지 보장된다면 인공지능 알고리즘에 따라 생산되는 결과물은 모든 대안 중 가장 진실성이 높게 나타날 것이지만, 그렇지 않을 경우에는 데이터에 대한 검증 문제 역시 화두로 남기 때문이다. 두 번째로 설명성 측면에서 공개되는 정보가 정보 요구자가 요구하는 사건의 이해에 도움이 될 수 있는지 검토되어야 한다. 정책대안 3은 인공지능 알고리즘이 학습을 통해 계속적으로 진화된다는 점을 고려할 때 어떤 대안보다 설명성 측면에서 우수하게 나타날 것이다. 인공지능 알고리즘 자체의 신뢰성이 보장될 때 해당 알고리즘이 산출하는 결과물에 대해서도 정보 요구자의 이해를 충족시킬 수 있기 때문이다. 세 번째로 적시성 측면에서 정보요구자가 필요한 시기에 정보가 제공될 수 있는지 검토되어야 한다. 선하게 설계된 인공지능 알고리즘은 즉시적으로 관련 데이터 제공과 산출물 도출이 가능하다. 약관 등의 형태로 공개되는 알고리즘 정보나 최소 1년 전의 데이터를 검증하는 감사에 비해 즉시적으로 산출되는 데이터는 그 자체로 정보 요구자의 적시성에 부합할 수 있기 때문이다. 네 번째로 신뢰성 측면에서 정보작성, 수집, 제공방법 등이 신뢰할 수 있는지 살펴보아야 한다. 이는 인공지능 알고리즘에 최초로 학습되는 윤리적 가치를 작성하는 국제기구와 정부기관에 대한 신뢰성에 따라 달라질 것이다. 하지만 다양한 나라들이 참여하는 국제기구를 통해 1차적으로 윤리적 기준을 만들고, 각 나라의 문화적 특수성을 반영하여 2차 기준을 만드는 2단계의 과정을 고려할 때 신뢰성 또한 높게 나타날 것으로 예측할 수 있다. 다섯 번째로 정확성 측면에서 제공되는 정보가 분명하고 명확한지 살펴보아야 한다. 선한 알고리즘은 이용자들의 요구에 대해 즉시적으로 산출물을 보여줄 수 있으며 알고리즘 스스로가 데이터를 입력하고 가공하는 과정에서 정보의 왜곡이나 편견 등이 최소화될 것으로 예상된다. 따라서, 정보의 양과 질 측면에서 정책대안 3의 정확성은 높게 나타날 것으로 평가된다. 마지막으로 평이성 측면에서 정보요구자가 제공되는 정보의 의미를 효과적이고 분명하게 파악할 수 있도록 평이하게 제공될 수 있는지 검토되어야 한다. 선하게 설계된 인공지능 알고리즘은 직관적이고 즉시적으로 정보 요구자에게 결과물을 산출하고 제시할 수 있다. 따라서, 평이성 또한 높게 평가될 것이다.

3-3) 정책수용성

먼저 소망성 측면에서 정책 수용자들이 긍정적으로 인식될 수 있는지 검토되어야 한다. 이는 해당 정책에 대한 실현가능성을 어떻게 판단하느냐에 따라 달라질 것이다. 합의된 윤리적 가치가 도출될 수 있고 이를 기계적, 계량적 언어로 코드화할 수 있다면 개발자와 이용자의 소망성은 매우 높게 나타날 수 있다. 하지만 해당 정책에 대한 실현가능성이 낮다면 개발자와 이용자의 소망성 모두 낮게 나타날 것이다. 두 번째로 명확성 측면에서 정책이 수용자들에게 명확하게 전달되는지 검토되어야 한다. 이 또한, 선한 알고리즘에 대한 개념에 대해 정책 수용자들이 느끼는 기준에 따라 달라질 것이다. 결국 정책대안 3이 명확성을 가지기 위해서는 국제기구나 국가기관에 의해 윤리적 가치가 코드화되고 개발자에게 제공할 수 있어야 할 것이다. 세 번째로 실효성 측면에서 정책이 수용자들이 효과적이라 느낄 수 있도록 설계되어 있는지 검토되어야 한다. 현재 많은 생명윤리학자들은 인공지능 알고리즘을 선하게 설계하는 것이 인공지능 알고리즘의 투명성을 높이는 가장 좋은 방법이라고 주장한다. 이는 알고리즘의 진화방향과 속도를 예측할 수 없는 상황에서 외부적 요인에 의해 알고리즘의 투명성을 높이는 것은 한계가 있기 때문에 인공지능 알고리즘 스스로 투명성을 확보해 나가는 것이 최선의 방책이라는 것이다. 이러한 측면을 고려할 때 정책대안 3의 실효성 역시 그 실현가능성에 따라 다양하게 평가될 수 있다. 결과적으로 정책수용성은 정책대안 3의 실현 가능성을 어떻게 판단하느냐에 따라 그 평가는 크게 달라질 것이다.

Table 16. 정책대안 3 평가결과

구분		평가점수 (3점 척도)
정보접근성	접근성	1
	이용성	1
	비용부담	1
	절차	1
	가중평균	1
정보완전성	진실성	2
	설명성	3
	적시성	3
	신뢰성	3
	정확성	3
	평이성	3
	가중평균	2.83
정책수용성	소망성	1 or 3
	명확성	1 or 3
	실효성	1 or 3
	가중평균	1 or 3
합 계		4.83 or 6.83

Ⅵ. 결론

경제성장을 이룬 근본적 변화로서 증기기관의 발명에서 비롯한 제1차 산업혁명과 전기를 이용한 대량생산체제로서의 2차 산업혁명, 그리고 반도체와 인터넷으로 특징지어지는 3차 산업혁명이 발생했다. 현재 우리 시대 가장 중요한 범용기술은 인공지능과 인공지능 알고리즘으로 대변되는 기계학습이다. 이렇듯 사회 각 방면에서 인공지능의 기술이 도입되고 활용되는 것은 피할 수 없는 시대적 흐름이다. 하지만 인공지능에 따른 여러 가지 오류와 편향성 문제, 그리고 불공정성의 문제가 발생할 수 있으며, 서로 연결되어 학습하고 진화하는 인공지능의 특징을 고려할 때 이러한 오류는 시스템 전체의 오류로 확대될 가능성이 크다. 하지만 인공지능 알고리즘은 마치 블랙박스와도 같아서 정보의 산출과 유통이 불투명하고 불공정하기 쉬운 사회가 되기 쉽다 (Pasquale, 2016). 결국, AI 알고리즘에 따른 의사결정은 사회에 큰 영향을 미치지만 그에 대한 설명이나 해석은 쉽지 않다. 따라서, AI 알고리즘에 대한 투명성을 확보하는 것이 무엇보다도 중요하다.

Figure 8. 4차 산업혁명 소개

출처 : 4차산업혁명위원회 홈페이지 https://www.4th-ir.go.kr/)

현재 정부기관, 국제기구, 기업, 전문가 집단 등 여러 주체들이 이미 인공지능의 개발과 활용에 관한 윤리 가이드라인을 제시하고 있다. 이러한 규범들은 대체로 인공지능 사회를 규율하는 공통적인 윤리 원칙을 담고 있다. 인간의 존엄과 자유를 존중하는 가운데 AI 알고리즘을 개발하고 활용함에 있어서 공정성, 차별금지, 책무성, 투명성 등을 보장해야 한다는 원칙이다. 하지만 이는 개발자의 선한의지에만 의지하고 있어 AI 알고리즘의 투명성을 확보하는데 있어 근본적인 해결책이 되지는 못한다. 이에 따라, 본 논문에서는 AI 알고리즘의 투명성을 확보할 수 있는 구체적이고 실천적인 세 가지 정책대안을 제시하고 이를 평가하였다. 그 결과는 아래 표와 같다.

Table 17. 정책대안에 대한 평가결과

	정보접근성	정보완전성	정책수용성	합계
정책대안 1: 인공지능 입력 데이터와 출력 결과물 공개, 설명의무화	2.75	1.33	1.67	5.75
정책대안 2: 인공지능 영향평가 및 감사	2.25	2.5	2	6.75
정책대안 3: 윤리적 가치를 AI 알고리즘에 코드화	1	2.83	1 or 3	4.83 or 6.83

세 가지 대안 모두 AI 알고리즘의 투명성을 증대시키는데 기여한다. 그러나, 정책에 대한 효과는 정책에 대한 이해관계자들의 반응에 따라 상이하게 나타난다. 따라서, 실현가능성과 AI 알고리즘 투명성을 제고시키는 정도를 고려하여 정책옵션을 선택하는 것이 타당하다.

정책 대안 1은 정보접근성 측면에서 가장 높이 평가될 수 있다. 이용자들이 AI 알고리즘을 구성하는 데이터에 접근할 수 있는 충분한 절차와 방법을 제시할 수 있는 정책이다. 하지만 AI 알고리즘의 복잡성과 전문성으로 인하여 일반 이용자들이 정보를 해석하는데 있어 한계를 가질 것으로 판단된다. AI 알고리즘에 대한 이용자의 독해력의 한계로 인하여 정보완전성은 다소 낮게 나타날 것으로 전망한다. 또한, AI 알고리즘 발전방향에 대한 예측이 불확실한 상황에서 개발자들에게 강한 규제를 부과하는 것은 개발자들의 정책의 수용성이 낮게 나타날 것으로 예측되는 문제가 있다.

정책 대안 2는 정책수용성 측면에서 가장 높이 평가될 수 있다. 정부나 전문기관이 제시한 기준을 바탕으로 AI 알고리즘 개발 과정에서 사전평가를 진행하고, AI 알고리즘을 운영하는 과정에서 문제가 발생한다면 사후 감사를 통해 이를 보완하는 과정을 거치게 된다. 특히, 사전영향평가와 감사에 대해서는 그 시기와 절차를 조절함에 따라 개발자와 이용자의 수용성을 일정부분 조화시킬 수 있는 장점이 다. 그 외에도 전문성을 갖춘 조직에서 인공지능 알고리즘을 읽기 쉽게 해석하여 공중에게 제공한다면 정보접근성과 정보완전성도 상당부분 높게 평가될 수 있을 것이다.

정책 대안 3은 개발자의 자율성을 가장 높게 보장하는 방안이다. 또한, AI 알고리즘 자체적으로 윤리기준을 내재화함에 따라 AI 알고리즘의 투명성을 계속적으로 보장할 수 있다는 장점이 있다. 하지만 정책대안 3이 실행가능하기 위해서는 윤리적 기준과 가치를 마련하는 것에 대한 사회적 합의를 도출하는 것이 가장 중요한 문제로 평가된다. 윤리적 기준에 대한 사회적 합의가 도출될 수 있다면 정책수용성과 정보완전성이 매우 높게 평가됨에 따라 정책대안 3은 가장 높게 평가될 정책이 될 것이다. 하지만 윤리적 기준에 대한 사회적 합의가 이루어지지 못한다면 세 가지 정책대안 중 가장 낮게 평가될 것이다. 따라서, 정책대안 3이 채택되기 위해서는 윤리적 가치에 대한 각 사회의 논의과정과 이에 대한 실현가능성을 추가적으로 판단할 필요가 있다.

AI 알고리즘의 지속가능한 발전과 투명성 확보라는 2개의 가치가 조화롭게 발전하기 위해서는 정책대안 2가 현재로서는 가장 효과적인 정책으로 판단된다. 전문화된 국가기관에 의해 AI 알고리즘에 검증이 가능하며 제시된 기준에 따라 개발자 스스로 평가하고, 사후 문제가 발생할 경우 개입하는 형식을 취해 AI 알고리즘에 대한 투명성 확보와 개발자의 정책수용성 양자를 조화롭게 도모할 수 있기 때문이다. 다만, AI 알고리즘이 지속적으로 발전하고 진화하는 상황에서 사후 감사를 통해 최소 1년 전 알고리즘에 대한 데이터와 논리구조를 판단하는 것은 즉시성에서 한계를 가질 수 있다. 또한, 인공지능의 발전이 인간의 인지능력을 초과할 경우 이를 감사하고 평가하는 것 또한 정보접근성과 정보완전성을 낮추게 될 것이다. 결국 인공지능 알고리즘 발전 초기에는 알고리즘에 대한 투명성과 신뢰성을 확보할 수 있도록 정책대안 2를 중심으로 AI 알고리즘 투명성 정책을 수립하고, 추후 사회적 논의과정을 거쳐 윤리적 가치에 대한 사회적 합의가 도출될 경우에는 인공지능 알고리즘 투명성에 대한 지속적이고 즉시적인 검증이 가능한 정책대안 3으로 정책적인 전환하는 것이 바람직 할 것이다.

참고문헌

AI Business. (May 3rd, 2016). Google CEO Sundar Pichai: "We will move from mobile first to an AI first world". AI Business, Retrieved from https://aibusiness.com/document.asp?doc_id=760029#:~:text=to%20More%20More-,Google%20CEO%20Sundar%20Pichai%3A%20%22We%20will%20move%20from%20mobile%20first,to%20an%20AI%20first%20world%22&text=In%20his%20first%20letter%20to,an%20artificial%20intelligence%20first%20world.

Asimov, Isaac. (2004). I, Robot. Spectra; Media Tie In edition

Bakewell, Baroness et al. (2018). AI in the UK: ready, willing and able?, the House of Lords, Retrieved from https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf

Brundage, M., Avin, S., Clark, J., Toner, H., Eckersley, P., Garfinkel, B., Dafoe, A., et al. (2018). The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. The University of Cambridge, Retrieved from https://doi.org/10.17863/CAM.22520

Chae, J. H. (2015). A Study on Policy Design for Policy Acceptance Improvement and Conflict Prevention. The Korea Institute of Public Administration.

Choi, Y. C. (2016). Legal and Ethical Issues in the Age of Artificial Intelligence. Science and Technology Policy Institute.

Choon, Chang May. (January 23th, 2021). Controversy over AI chatbot in South Korea raises questions about ethics, data collection. The Straits Times, Retrieved from https://www.straitstimes.com/asia/east-asia/controversy-over-ai-chatbot-in-south-korea-raises-questions-about-ethics-data.

Clarke, Yvette. (Introduced 04/10/2019). H.R.2231 - Algorithmic Accountability Act of 2019. Congress.gov, Retrieved from https://www.congress.gov/bill/116th-congress/house-bill/2231

Corry, Will (2012). Big Data / The volume of business data worldwide, across all companies, doubles every 1.2 years, according to estimates. Marketingblog, Retrieved from https://www.themarketingblog.co.uk/2012/10/big-data-the-volume-of-business-data-worldwide-across-all-companies-doubles-every-1-2-years-according-to-estimates/

Cosgrove, Barbara. (January 16th, 2020). 8 ways to ensure your company's AI is ethical. World Economic Forum, Retrieved from https://www.weforum.org/agenda/2020/01/8-ways-to-ensure-your-companys-ai-is-ethical/

Davis, David. (October 29th, 2020). Senior Conservative calls for algorithm accountability law. UKAuthority, Retrieved from https://www.ukauthority.com/articles/senior-conservative-calls-for-algorithm-accountability-law/

DeepMind. (2021). DeepMind: Safety & Ethics, Retrieved from https://deepmind.com/safety-and-ethics

Defense Advanced Research Projects Agency (DARPA). (2021). AI Next Campaign, Retrieved from https://www.darpa.mil/work-with-us/ai-next-campaign

European Commission. (2021). The European AI Alliance, Retrieved from https://ec.europa.eu/digital-single-market/en/european-ai-alliance

EU. (2018). Guidelines on Transparency under Regulation 2016/679 (wp260rev.01). Retrieved from https://ec.europa.eu/newsroom/article29/item-detail.cfm?item_id=622227

Ferejohn, J. (1999). Accountability and Authority: Toward a Theory of Political Accountability, Democracy, Accountability, and Representation. Cambridge: CAmbridge University Press.

Fjeld, Jessica et al. (2020). Principled Artificial Intelligence: Mapping Consensus in Ethical and Right-based Approaches to Principles for AI. Berkman Klein Center Research Publication.

Florini, Ann. (2000). Does the invisible hand need a transparent glove?. Research Collection School of Social Sciences.

Ford, Martin. (2015). Rise of the Robots: Technology and the Threat of a Jobless Future. Oneworld Publications.

Fourth Industrial Revolution Committee, (2018). A Study on the Issues and Policy Response of Artificial Intelligence Ethics in the 4th Industrial Revolution Era, Retrieved from https://www.4th-ir.go.kr/

Frey, Carl B. & Osborne, Michael A. (2013). The Future of Employment: How Susceptible Are Jobs to Computerisation?. Oxford University.

Future of Life Institute. (2021). Asilomar AI Principles, Retrieved from https://futureoflife.org/ai-principles/

Future of Life Institute. (2021). Benefits & Risks of Artificial Intelligence, Retrieved from https://futureoflife.org/background/benefits-risks-of-artificial-intelligence/

Garbriel, Mariya. (2018). Artificial Intelligence. European Commission, Retrieved from https://ec.europa.eu/digital-single-market/en/artificial-intelligence#:~:text=the%20Declaration%20of%20cooperation%20on,the%20Coordinated%20Plan%20on%20

Google. (2021). Artificial Intelligence at Google: Our Principles, Retrieved from https://ai.google/principles/

Harvard University. (October 11th, 2019). Ethics and Governance of AI at Berkman Klein: Report on Impact, 2017-2019., Retrieved from https://cyber.harvard.edu/story/2019-10/ethics-and-governance-ai-berkman-klein-report-impact-2017-2019

Hwang, S. Y. (2020). AI Ethics Principles Analysis Report. Korea Information Society Development Institute Issue Report 32(6), p20-33.

Hernon, P. (1993). Equity in Public Access to Government Information. Government Information Quarterly, 10(3), p301-304.

Internet Society. (2021). Artificial Intelligence, Retrieved from https://www.internetsociety.org/issues/past-categories/ai/

Jeans, David. (October 20th, 2020). Companies Will Spend $50 Billion On Artificial Intelligence This Year With Little To Show For It. Forbes, Retrieved from https://www.forbes.com/sites/davidjeans/2020/10/20/bcg-mit-report-shows-companies-will-spend-50-billion-on-artificial-intelligence-with-few-results/?sh=27f7da667c87

Jung, S. J., Byun, J. Y., Kim, C. Y. (2019). Introduction of Explainable Artificial Intelligence Technology. Journal of Electronics and Engineering, 46(2), p135-143.

Jung, W. S. (2020). Discrimination and Bias of Artificial Intelligence. Human Beings, Envrionment, and their future (25), p55-73

Korea Communications Commission (KCC). (2019). Principles for user-centered intelligence information society, Retrieved from https://www.kcc.go.kr

Lee, B. J. (2017). Legislative Evaluation of the Terms and Conditions Regulation Act. Journal of Legislative Evaluation (11), p209-238.

Lee, Dave. (March 25th, 2016). Tay: Microsoft issues apology over racist chatbot fiasco. BBC News, Retrieved from https://www.bbc.com/news/technology-35902104.

Lee, G. Y., Bang, J. I., Cha, K. J., Kim, H. J. (2019). GDPR Compliant Consent Procedure for Personal Information Collection in the IoT Environment. Journal of the Korea Institute of Information Security & Cryptology, 17(5), p129-136.

Lee, H. W. (2016). Reconsidering the Concept of Transparency in Policy. Journal of Social Science, 27(3), p117-142.

Leslie, David. (2019). Understanding artificial intelligence ethics and safety. Alan Turing Institute Retrieved from https://www.turing.ac.uk/sites/default/files/2019-06/understanding_artisficial_intelligence_ethics_and_safety.pdf

Michener, G. & Bersch, K. (2013). Identifying Transparency. Information Polity, 18(3), p233-242.

Microsoft. (2021). Responsible AI, Retrieved from https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6

Moor, James. (1985). What is Computer Ethics?. Metaphilosophy, 16(4)

Mozur, Paul & Markoff, John. (May 27th, 2018). Is China Outsmarting America in AI?. NewYork Times, Retrieved from https://nytimes.com/2017/05/27/technology/china-us-ai-artificial-intelligence.html

National Science and Technology Council (NSTC). (2016). National Artificial Intelligence Research and Development Strategic Plan., Retrieved from https://www.nitrd.gov/pubs/national_ai_rd_strategic_plan.pdf

Niiler, Eric. (January 25th, 2020). An AI Epidemiologist Sent the First Warnings of the Wuhan Virus. Wired, Retrieved from https://www.wired.com/story/ai-epidemiologist-wuhan-public-health-warnings/

O'Neil, Cathy. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown 1st edition.

Organisation for Economic Cooperation and Development (OECD). (2021). Going Digital: Making the transformation work for growth and well-being, Retrieved from https://www.oecd.org/going-digital/ai/

Oxford Learner's Dictionaries. (2021). algorithm, Retrieved from https://www.oxfordlearnersdictionaries.com/us/definition/english/algorithm

Oxford Learner's Dictionaries. (2021). transparency, Retrieved from https://www.oxfordlearnersdictionaries.com/us/definition/english/transparency

Paek, I. J., Oh, J. H., Lee, K. H. (2019). A Study on the Transparency of Privacy Policy in Android Environment: Based on GDPR. Journal of the Korea Institute of Information Security & Cryptology, 29(6), P1477-1489.

Park, H. S. (2001). Transparency as an Emerging Administrative Value: A Conceptual Investigation. Korean Society and Public Administration, 12(3), p103-118.

Pasquale, Frank. (2016). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press.

Princeton University. (2021). Princeton Dialogues on AI and Ethics, Retrieved from https://aiethics.princeton.edu/

Selbst, Andrew. (2018). Disparate Impact in Big Data Policing. Georgia Law Review (52), p10-95.

Seon, J. W. (2019). A Study on AI Algorithm Discipline. Journal of Law & Economic Regulation Vol. 12(1).

Sharma, Komal. (2018). Technology and Industry Verticals: Global Opportunity Analysis and Industry Forecast, 2018-2025. Allied Market Research, Retrieved from https://www.alliedmarketresearch.com/press-release/artificial-intelligence-market.html

Shenk, David. (1997). Data Smog: Surviving the Information Glut. HarperOne, 1st edition

Thomson, J. J., & University of Toronto. (1985). The trolley problem. Toronto, Ont.: Faculty of Law, University of Toronto.

Vacca, James et al. (Enactment date 01/11/2018). Law number 2018/049 - Automated decision systems used by agencies, Retrieved from https://legistar.council.nyc.gov/LegislationDetail.aspx?ID=3137815&GUID=437A6A6D-62E1-47E2-9C42-461253F9C6D0.

Westerheide, Fabian. (January 14th, 2020). China-The First Artificial Intelligence Superpower. Forbes, Retrieved from https://www.forbes.com/sites/cognitiveworld/2020/01/14/china-artificial-intelligence-superpower/?sh=3efe51562f05

World Economic Forum (WEF). (2020). Global Future Council on Artificial Intelligence for Humanity. Retrieved from https://www.weforum.org/communities/gfc-on-artificial-intelligence-for-humanity#:~:text=Artificial%20Intelligence%20(AI)%20is%20the,of%20the%20Fourth%20Industrial%20Revolution.&text=This%20will%20help%20us%20build,core%20tenet%20of%20responsible%20AI

Yoo, Y. H., Choi, Y. S., Park, H. J., Lee, J. H. (2020). A Study on the Influence of Personalization, Privacy, and Transparency on User Trust in the Use of Recommended System: Focusing on Social Media Video Recommendation. Journal of Digital Contents Society, 21(1), p173-184