시민 참여의 기술정치학: 인공지능 생명･인권 지표 구상
The Technopolitics of Civic Engagement: Designing an AI index for Human Rights and the Right to Life
2
조회
0
다운로드
1
인용
0
참고문헌
키워드
초록
인공지능 기술의 도입과 설계의 사회적 효과에 대해 점점 더 시민사회의 개입 중요성이 커지고 있다. 인공지능 등 첨단 기술이 소수 기술 관료와 빅테크의 협소한 비전에 따라 보편적인 사회 구성 원리로 등극하는 까닭이다. 문제는 인공지능 기술이 사회적으로 논쟁을 일으키기 전에는 대체로 그것의 잠재적 위협을 사전에 대비하거나 예측하기는 쉽지 않다는 데 있다. 이 글은 동시대 인공지능이 지닐 수 있는 위험(risk)의 예방과 관리 논의들, 즉 국제적으로 영향력을 지닌 인공지능 입법안, 권리장전, 원칙, 권고안, 윤리, 지표 등을 비판적으로 정리하고, 이를 통합해 시민사회 주도의 인공지능 위기관리 모델을 제시한다. 특히, 본 연구는 인권과 생명권의 입장에 기초해 시민의 동시대 기술 현실 참여와 개입을 강조하는 ‘인공지능 인권 지표’ 구상을 제안한다.
Abstract
The role of civil society in influencing the way technology is adopted and shaped in society is becoming increasingly important. The challenge is that the social risks of advanced technologies such as artificial intelligence are not always easy to prepare for or predict before they become socially controversial. This paper critically reviews the recent international discussions such as AI laws, bills of rights, principles, recommendations, ethics, and index for the prevention and management of AI risks. It proposes a model for a civil society-led response to the mainstream AI discourse for a diagnosis of AI democracy, in particular the construction of an ‘AI Citizenship Index’ that emphasizes citizen participation and intervention in technological realities based on human rights and the right to life.
참고문헌 (38)
- 유럽연합 인공지능법안의 개요 및 대응방안, "고학수", 10~29, pp.DAIG 제2호 (2021)
- 김현준, "인공지능 시대 기술레짐 비판: 기술비판이론의 확장적 재구성", 박사, pp.2024
- 이광석, "피지털 커먼즈" (2021), 갈무리
- 이상욱, "유네스코 인공지능(AI)윤리 권고 해설서 : 인공지능 윤리 이해하기" (2021), 유네스코한국위원회
- 공동논평: 한국에도 위험한 인공지능을 금지하고 처벌하는 규제가 필요하다, "진보네트워크센터", 진보네트워크센터, ~ (2023)
- Access Now, "Human Rights in the Age of Artificial Intelligence", ~ (2018)
- The Al Index 2023 Annual Report, "Al Index Steering Committee", Institute for Human-Centered Al, Stanford University, ~ (2023)
- Automating Society Report 2020, "Algorithm Watch", ~ (2020)
- Amnesty International, "The Toronto Declaration: Protecting the right to equality in machine learning", ~ (2018)
- Acemoglu, Daron, "권력과 진보" (2023), 생각의힘
- Buolamwini, Joy, "Unmasking AI: My Mission to Protect What Is Human in a World of Machines" (2023), Random House Publishing Group
- Center for AI and Digital Policy(CAIDP), "Artificial Intelligence and Democratic Values Index", ~ (2023)
- Coeckelbergh, Mark, "인공지능은 왜 정치적일 수밖에 없는가" (2023), 생각이음
- Crawford, Kate, "AI지도책" (2022), 소소의책
- "Anatomy of an AI System: The Amazon Echo as an anatomical map of human labor, data and planetary resources" (2018)[URL]
- Data Justice Lab, "Civic Participation in the Datafied Society: Towards Democratic Auditing?", ~ (2022)
- Ekbia Hamid, "Heteromation, and other stories of computing and capitalism" (2017), The MIT Press
- Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI, "Fjeld, Jessica", Berkman Klein Center for Internet & Society, ~ (2020)
- Democratizing AI: Principles for Meaningful Public Participation, "Gilman, Michele", Data & Society, ~ (2023)
- Gordon, John-Stewart, "The Impact of Artificial Intelligence on Human Rights Legislation: A Plea for an AI Convention" (2023), Palgrave Macmillan
- Greiman, VA, "Human rights and artificial intelligence: A universal challenge", Journal of Information Warfare, 20(1), pp.50~62 (2021)
- Lindgren, Simon, "Critical Theory of AI" (2023), Polity
- Lindgren, Simon, "Handbook of Critical Studies of Artificial Intelligence" (2023), Edward Elgar
- McQuillan, Dan, "Resisting AI: An Anti-fascist Approach to Artificial Intelligence" (2022), Bristol University Press
- National Institute of Standards and Technology(NIST), "Artificial Intelligence Risk Management Framework (AI RMF 1.0)", U.S. Department of Commerce, ~ (2023)
- Office of Science and Technology(OSTP), "The Blueprint for an AI Bill of Rights", ~ (2022)
- OECD Framework for the Classification of AI Systems, "Organisation for Economic Co-operation and Development(OECD)", ~, pp.OECD Digital Economy Papers, No. 323 (2022)
- Pasquinelli, Matteo, "The Nooscope manifested: AI as instrument of knowledge extractivism", AI & Society, 36, pp.1263~1280
- Pitron, Guillaume, "프로메테우스의 금속" (2021), 갈라파고스
- Pitron Guillaume, "‘좋아요’는 어떻게 지구를 파괴하는가" (2023), 갈라파고스
- Labour in the Age of AI: Why Regulation is Needed to Protect Workers, "Ponce del Castillo, Aida", ~, pp.ETUI Research Paper - Foresight Brief #08 (2020)
- Rodrigues, Rowena, "Legal and human rights issues of AI: Gaps, challenges and vulnerabilities", Journal of Responsible Technology, 4 (2020)
- Rohde, Friederike, "Sustainability criteria for artificial intelligence. A Text series of the IÖW", ~ (2021)
- Simondon, Gilbert, "기술적 대상들의 존재 양식에 대하여" (2011), 그린비
- Sudmann, Andreas, "The Democratization of Artificial Intelligence" (2019), Transcript Verlag
- United Nations Educational, Scientific and Cultural Organization(UNESCO), "Recommendation on the Ethics of Artificial Intelligence", ~ (2021)
- White House, "FACT SHEET: Biden-Harris Administration Announces Key Actions to Advance Tech Accountability and Protect the Rights of the American Public", ~ (2022)
- Zuboff, Shoshana, "감시 자본주의 시대" (2021), 문학사상