인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -
Eine Studie zur Regulierung der Algorithmen der künstlichen Intelligenz -fokussiert auf deutschen Erfahrungen-
0
조회
0
다운로드
49
인용
0
참고문헌
키워드
초록
인공지능 기술의 활용은 사회 공동체에 여러 가지 편익을 가져오기도 하지만, 여러 가지 리스크 역시 수반한다. 따라서 인공지능 알고리즘의 리스크를 방지하기 위한 일정한 규제가 필요함은 당연한 일이다. 그러나 알고리즘에 대한 과도한 규제 내지 부적절한 규제는 알고리즘의 개발 자체를 위축시켜, 인공지능 사용으로 사회가 얻을 수 있는 편익마저 차단할 위험을 발생시킨다. 따라서 알고리즘 단계에서 어떤 형태의 규제가 어느 정도의 범위에서 이루어져야 하는지 논하는 일이 중요하다. 독일은 과학기술적 측면에서 인공지능 기술의 개발을 일찍부터 주도하고 있었다. 뿐만 아니라 독일에서는 인공지능의 사회적 수용을 위한 논의 역시 오랜 기간 이루어지기도 했다. 따라서 독일의 경험과 논의들을 참고하는 것은 의미 있는 일이 될 수 있다. 인공지능 알고리즘의 규제 쟁점은 크게 네 가지로 나누어 볼 수 있다. 첫째로, 데이터 거버넌스 및 정보보호법제 차원에서 독일은 GDPR의 규정을 수용하여 독자적인 정보법제에 반영하고 있다. 알고리즘 규제와 관련하여 의미를 가지는 정보법상의 내용은 정보주체의 정보 요구권, 데이터 이전 요구권, 자동화된 의사 결정 거부권 등이 있다. 이러한 규정들은 개인정보의 보호와 데이터 거래의 활성화 사이의 균형을 도모하고 있다. 둘째로, 알고리즘의 형성 과정을 투명화하는 한편, 심사가 가능하도록 만드는 알고리즘 투명성 문제가 중요하다. 알고리즘 투명성에 대한 독일의 논의는 법적 규제보다는 윤리적 문제에 중심을 두고 있다. 셋째로, 알고리즘이 초래한 위해에 대한 책임 문제가 제기된다. 이에 대해서는 전통적인 민법상의 책임 논의를 수정하고 보완하려는 노력이 이루어지고 있다. 또한 윤리적 차원에서의 책임에 대한 접근이 이루어지고 있다. 마지막으로 공행정 영역에서의 인공지능 적용에 대한 법적 문제를 논의할 필요가 있다. 공행정 영역에서의 인공지능 활용은 알고리즘에 의한 결정으로부터 시민을 보호하는 측면과 디지털 전환 전략의 일부로서의 측면, 양쪽에서 쟁점이 된다. 알고리즘의 편향성 내지 차별을 줄이는 것도 공행정 영역에서의 인공지능 활용을 위한 과제이다. 독일에서의 알고리즘 규율 논의를 우리나라의 환경에 그대로 적용하는 것은 어려운 일이다. 특히 독일에서의 알고리즘 규제 논의 역시 아직 완성된 상태가 아니라는 점을 유의하여야 할 것이다. 독일을 비롯하여 외국에서의 논의 결과로부터 산업과 법제도상의 환경의 차이, 인공지능 기술 발전 정도의 차이 및 기존의 협의 민주주의 발전 정도 차이를 고려하여 적합한 알고리즘 규제 방법론을 도출해야 할 것이다.
Abstract
Die Einführung der künstlichen Intelligenz (KI) kann einerseits bei der Gesellschaft verschiedene Erleichterungen gewähren, andererseits begleitet Risiken. Daher ist es selbstverständlich, dass eine Regelung zur Vermeidung der Risiken von Algorithmus erforderlich ist. Durch eine exzessive oder nicht-geeignete Kontrolle ist die Entwicklung der KI zu beeinträchtigen, damit ihre Vorteile durch die Tür hinaus verschwinden können. Darum ist notwendig, die Art und das Ausmass der rechtlichen Kontrolle bei Algorithmen zu diskutieren. In Deutschland ist die Anwendung der KI eher nicht nur im Rahmen der Entwicklung der Technologie initiiert worden, sondern auch besteht die Diskussion zur Annehmbarkeit der KI schon lange. So ist sinnvoll, Debatten und Erfahrungen in Deutschland zu berücksichtigen. Das Kontrolle-Problem der KI-Algorithmen besteht aus vier Streitfragen. Zunächst hat der deutsche Gesetzgeber bei Data-Governance bzw. Datenschutzrecht Regelungen der DS-GVO (GDPR) in das eigene Datenschutzrecht aufgenommen. Unter der datenschutzrechtlichen Vorschriften sind das Auskunftsrecht der betroffenen Person i. S. des Art. 15 DS-GVO, das Recht auf Datenübertragbarkeit i. S. des Art. 20 DS-GVO und das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, im Rahmen der Algorithmen-Kontrolle von Bedeutung. Diese Regelungen bezwecken die Balance zwischen den Schutz der personenbezogen Daten und der Beschleunigung des Daten-Verkehrs. Daneben geht es um die Transparenz der Algorithmen, bei der ihr Gestaltungsverfahren der transparent und prüfbar ist. Die Frage zur Algorithmen-Transparenz fokussiert in Deutschland eher eine ethische Kontrolle als rechtliche Regelung. Darüber hinaus wird ein Problem zur Haftung für Schäden aus der KI angeschnitten. Es geht mit einem Versuch zur Veränderung der konventionellen Dogmatik über den Schädenersatz des bürgerlichen Rechts einher. Im Hinblick auf das ethische Problem kommt die Haftungsfrage auch in Betracht. Schließlich sind rechtliche Fragen bei der Anwendung der KI in der öffentlichen Verwaltung zu behandeln. Die Nutzung der KI ist einerseits in Hinsicht auf den Bürgerschutz gegen die Entscheidung mit KI, andererseits im Rahmen der Digitalisierungsstrategie zu bearbeiten. Die Entspannung der Diskriminierung bzw. Bias durch die KI stellt auch eine Aufgabe zur Einführung der KI in die öffentliche Verwaltung dar. Es ist schwierig, Diskussionen der Algorithmen-Reglulierung in Deutschland in der koreanischen Umgebung durchzusetzen. Nicht zuletzt ist ein Ansatz zu betrachten, dass das Thema auch in Deutschland nich vollständig befasst wird. Um die Methoden für die angemessene Algorithmen-Kontrolle zu finden, ist der Unterschied von der Industriesituation, der rechtlichen Grundlage, dem Niveau der KI-Technologie und der Entwicklung der deliberativen Demokratie zu berücksichtigen.
참고문헌 (33)
- 김진우, "지능형 로봇과 민사책임", 저스티스, 164, pp.46~80 (2018), 한국법학원[DOI]
- 김진우, "지능형 로봇에 대한 사법적 규율— 유럽연합의 입법 권고를 계기로 하여 —", 법조, 66(3), pp.5~59 (2017), 법조협회[DOI]
- 박훤일, "정보이동권의 국내 도입 방안 - EU GDPR의 관련 규정을 중심으로 -", 경희법학, 52(3), pp.211~232 (2017), 법학연구소[DOI]
- 양천수, "현대 지능정보사회와 인격성의 확장", 동북아법연구, 12(1), pp.1~26 (2018), 동북아법연구소[DOI]
- 이근영, "인공지능 알고리즘 투명성에 관한 법⋅정책적 쟁점의 고찰", 한국IT서비스학회 학술대회 논문집 2018 (2018), 한국IT서비스학회
- 4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석 및 정책적대응방안 연구, "이원태", 정보통신정책연구원, ~ (2018)
- 이재훈, "전자동화 행정행위 도입 후 독일 행정절차법제 논의의 전개 양상", 공법학연구, 19(4), pp.481~515 (2018), 한국비교공법학회[DOI]
- ICT 기반 사회현안 해결방안 연구, "조성은", 정보통신정책연구원, ~ (2018)
- Trute, Hans-Heinrich, "Recht der Digitalisierung -Digitalisierung des Rechts, in: 디지털 전환의 법적 문제", 서울대학교 공익산업법센터주최 한⋅독 국제학술대회 자료집 (2018)
- Benecke, Alexander, "Öffnungsklauseln in der Datenschutz-Grundverordnung und das deutsche BDSG - Grenzen und Gestaltungsspielräume für ein nationales Datenschutzrecht", DVBl, pp.600~ (2016)
- Borges, Georg, "Rechtliche Rahmenbedingungen für autonome Systeme", NJW, pp.977~ (2018)
- Bundesministerium für Arbeit und Soziale, "Weissbuch Arbeiten 4.0", ~ (2017)
- Diakopoulos, Nicholas, "Algorithmic Transparency in the News Media", Digital Journalism, pp.809~ (2016)
- Strategie Künstliche Inteligenz der Bundesregierung, "Die Bundesregierung", ~ (2018)
- Ehmann, Eugen, "Datenschutz -Grundverordnung" (2018), C. H. Beck
- Ernst, Christian, "Algorithmische Entscheidungsfindung und personenbezogene Daten", JZ, pp.1026~ (2017)
- Goffey, Andrew, "Fuller, Matthew, Software studies: a lexicon", pp.132~ (2008), The MIT Press
- Greger, Reinhard, "Haftungsfragen beim automatisierten Fahren", NZV, pp.1~ (2018)
- Industrie- und Handelskammer Aachen, "“AZUBI 4.0” - Zukünftige Herausforderungen in der Ausbildung", ~ (2016)
- Institut der Deutschen Wirtschaft Köln, "Autonomes Fahren - Eine Herausforderung für die deutsche Autoindustrie", ~ (2017)
- Kopp, Ferdinand O., "VwVfG" (2018), C. H. Beck
- Kühling, Jürgen, "DS-GVO⋅BDSG" (2018), C. H. Beck
- Kühling, Jürgen, "Die Datenschutz-Grundverordnung und das nationale Recht - Erste Überlegungen zum innerstaatlichen Regelungsbedarf" (2016), MV-Verlag
- Lange, Ulrich, "Automatisiertes und autonomes Fahren - eine verkehrs-, wirtschafts- und rechtspolitische Einordnung", NZV, pp.345~ (2017)
- Lohmann, Melinda F., "Ein europäisches Roboterrecht - überfällig oder überflüssig?", ZRP, pp.168~ (2017)
- Martini, Mario, "Algorithmen als Herausforderung für die Rechtsordnung", JZ, pp.1017~ (2017)
- "Algorithmenkontrolle als Regulierungsaufgabe"[URL]
- "Maas schlägt digitales Antidiskriminierung sgesetz vor" (2017)[URL]
- "Umsetzungsstrategie Digitalisi erung ｜ Algorithmen-basierte Entscheidun gen überprüfbar machen"[URL]
- "Umsetzungsstrategie Digitalisie ung ｜ Strategie Künstliche Inteligenz (KI)"[URL]
- "Online-Konsultation zur KI-Strategie der Bundesre gierung – Startseite"[URL]
- "Plattform Industrie 4.0"[URL]
- "Arbeitspapier: Überprüfbarkeit von Algorithmen - AlgorithmWatch"[URL]