본문 바로가기
KERD
논문KCI 등재

인공지능이 인간을 지배할 때 - SF의 인공지능과 특이점 서사

When Artificial Intelligence Dominates Humans - AI in Science Fiction and Singularity Narratives

노대원
이화어문학회 (The Society Of Ewha Korean Language And Literature)|2021.08|이화어문논집 (Journal of Ewha Korean Language and Literature)|제54호|pp. 63-87|DOI https://doi.org/10.29190/JEKLL.2021.54.63

0

조회

0

다운로드

9

인용

0

참고문헌

키워드

인공지능Artificial IntelligenceSingularitySFScience Fiction특이점Superintelligence슈퍼인텔리전스실존적 위험서사적 편견닉 보스트롬맥스 테그마크버너 빈지Existential RiskNarrative BiasesNick BostromMax TegmarkVernor Vinge
주제분류문학

초록

닉 보스트롬은 기술 발전에 따라 현대 세계의 ‘실존적 위험’(existential risks) 역시 커지고 있다고 우려한다. 그는 특히 슈퍼인텔리전스(초지능)의 위험을 강조한다. 맥스 테그마크 또한 인공지능에 대한 위협을 연구하고 있다. 이들의 인공지능 담론은 SF의 사변적 상상력과 시나리오에 의존한다. 인공지능의 (종말론적) 서사는 과학적 사실과 허구적 상상의 경계가 무의미하게 된 포스트휴먼 문화(posthuman culture)의 일부다. 이같은 과학과 허구의 상호작용과 상호교차를 ‘과학/소설’(science/fiction)와 ‘과학허구적 텍스트’(scientifictive texts)라는 용어로 포착할 수 있다. 인공지능에 대한 기대와 낙관, 불안과 공포는 대중적 SF의 극적인 서사에 많은 영향을 받는다. 현실의 인공지능 기술과 시나리오가 합리적 추론 보다는 흥미로운 이야기에 의해 오도될 가능성이 높다. 이러한 ‘서사적 편견’ 탓에 인공지능에 대한 실제 시나리오는 SF에 매우 의존적이면서도 동시에 회의적인 시선이 요구된다. SF 작가 버너 빈지가 제안한 기술적 특이점은 특이점 SF라는 SF 하위장르를 번성시켰다. 나아가 특이점은 레이 커즈와일의 사례처럼 기술과 산업, 학문과 교육에도 큰 영향을 미쳤다. 특이점 담론에는 현대 과학기술과 신화가 공존한다. 하이테크 기업들도 특이점의 추종자로 볼 수 있다. 인공지능과 특이점 서사는 기술과 문화적 맥락뿐 아니라 돈과 힘의 논리 속에서 작동하는 것이다. 특이점 서사는 인공지능의 현실적인 문제들에 무관심하게 할 수 있으므로 비판적 분석이 요구된다.

Abstract

Nick Bostrom is concerned that the “existential risks” of the modern world are also increasing with technological advances. He particularly emphasizes the dangers of superintelligence. Max Tegmark is also working on threats to artificial intelligence. Their AI discourse depends on the speculative imagination and scenarios of science fiction (SF). The apocalyptic narrative of AI is part of a posthuman culture in which the boundary between scientific fact and fictional imagination has become meaningless. This interaction and intersection between science and fiction can be captured with the terms “science/fiction” and “scientifictive texts.” Expectations, optimism, anxiety, and fear about AI are greatly influenced by the dramatic narratives of popular sci-fi. It is highly likely that real-world AI technologies and scenarios will be misled by interesting stories rather than rational reasoning. Due to these “narrative biases,” the actual scenario for AI is highly dependent on SF and at the same time requires a skeptical view. The technological singularity proposed by SF writer Vernor Vinge has prospered the SF subgenre called singularity SF. Furthermore, the singularity has had a great impact on technology and industry, as well as academics and education, as in the case of Ray Kurzweil. Modern technoscience and myth coexist in this discourse. High-tech companies can also be seen as followers of the singularity. AI and singularity narratives operate within the logic of money and power, as well as technological and cultural contexts. Singularity narratives can leave you indifferent to the real problems of AI, so critical analysis is required.

참고문헌 (53)

  1. "20160928 북텔러리스트 9월 SF 특집 아이작 아시모프 "최후의 질문" 툰텔링 첫번째 작품" (2016)[URL]
  2. 김호진, "창작기계" (1993), 서울창작
  3. "최후의 질문" (2012)[URL]
  4. 듀나, "태평양 횡단 특급" (2002), 문학과지성사
  5. 아이작 아시모프, "세계SF걸작선" (1992), 고려원미디어
  6. 아이작 아시모프, "아시모프의 과학소설 창작백과" (2008), 오멜라스
  7. 켄 리우, "종이 동물원" (2018), 황금가지
  8. 할란 엘리슨, "나는 입이 없다 그리고 나는 비명을 질러야 한다" (2017), 아작
  9. "The robot and the baby, In Professor John McCarthy" (2004)[URL]
  10. 강우성, "포스트휴머니즘의 쟁점들" (2021), 갈무리
  11. 고장원, "특이점 시대의 인간과 인공지능" (2016), 부크크
  12. 김강원, "‘알파고’이후, 한국 TV 드라마의 AI(인공지능)에 대한 담론 - <너도 인간이니?>를 중심으로", 이화어문논집, (50), pp.240~264 (2020), 이화어문학회[DOI]
  13. 김창규, "SF가 세계를 읽는 방법" (2020), 에디토리얼
  14. 노대원, "‘마음의 신체화’ 양상에 관한 인지 서사학적 연구", 박사, pp.2014
  15. 노대원, "SF의 장르 특성과 융합적 문학교육", 영주어문, 42, pp.221~245 (2019), 영주어문학회[DOI]
  16. 노대원, "포스트휴머니즘 비평과 SF ― 미래 인간을 위한 문학과 비평 이론의 모색", 비평문학, (68), pp.110~133 (2018), 한국비평문학회[DOI]
  17. 노대원, "포스트휴먼과 인공지능 SF 서사", K-문화융합저널, 1(1), pp.28~31 (2021), K-문화융합협회
  18. 노대원, "한국 포스트휴먼 SF의 인간 향상과 취약성", 한국문학이론과 비평, 24(1), pp.151~174 (2020), 한국문학이론과비평학회
  19. 노대원, "포스트휴먼, 바이러스, 취약성", 국어국문학, (193), pp.93~120 (2020), 국어국문학회
  20. 박소영, "인공지능의 역사: 서사적 허구, 문화 상품, 그리고 과학적 사실로", 인간.환경.미래, (22), pp.87~114 (2019), 인간환경미래연구원[DOI]
  21. 안수현, "이성, 정서, 느낌의 관계-안토니오 다마지오의 “신체화된 마음” 이론을 중심으로", 동서사상, 5, pp.55~86 (2008), 동서사상연구소
  22. 이동신, "망가진 머리: 인공지능과 윤리", 인공지능인문학연구, 1, pp.57~76 (2018), 인문콘텐츠연구소[DOI]
  23. 이상욱, "인공지능과 실존적 위험 ―비판적 검토―", 인간연구, (40), pp.107~136 (2020), 인간학연구소[DOI]
  24. 정명훈, "한국 과학소설의 진화비평적 연구-복거일의 ｢꿈꾸는 지놈의 노래｣와 듀나의 ｢기생(寄生)｣을 중심으로", 고등학생이 바라본 학교, 지역사회, 제주인: 2016 인문‧사회 과제연구(R&E) 학술논문집, pp.119~130 (2016), 제주특별자치도교육청‧제주대학교 교육과학연구소
  25. 게르트 레온하르트, "신이 되려는 기술: 위기의 휴머니티" (2018), 틔움
  26. 닉 보스트롬, "오늘부터의 세계" (2020), 메디치
  27. 닉 보스트롬, "초예측" (2019), 웅진지식하우스
  28. 맥스 테그마크, "맥스 테그마크의 라이프 3.0: 인공지능이 열어갈 인류와 생명의 미래" (2017), 동아시아
  29. 브뤼노 라투르, "지구와 충돌하지 않고 착륙하는 방법" (2021), 이음
  30. 셰릴 빈트, "에스에프 에스프리: SF를 읽을 때 우리가 생각할 것들" (2019), 아르테
  31. 장가브리엘 가나시아, "특이점의 신화" (2017), 글항아리 사이언스
  32. 조너선 갓셜, "스토리텔링 애니멀" (2014), 민음사
  33. 캐서린 헤일스, "우리는 어떻게 포스트휴먼이 되었는가: 사이버네틱스와 문학, 정보 과학의 신체들" (2013), 플래닛
  34. 클라우스 슈밥, "클라우스 슈밥의 제4차 산업혁명" (2016), 새로운현재
  35. Bostrom, N., "Cognitive, emotive and ethical aspects of decision making in humans and in artificial intelligence (Vol. 2)", pp.12~17 (2003), Int. Institute of Advanced Studies in Systems Research and Cybernetics
  36. Bostrom, N., "Existential risks: Analyzing human extinction scenarios and related hazards", Journal of Evolution and Technology, 9(1) (2002)
  37. Bostrom, N., "The vulnerable world hypothesis", Global Policy, 10(4), pp.455~476 (2019)
  38. Hassan, I., "Prometheus as performer: Toward a posthumanist culture?", The Georgia Review, 31(4), pp.830~850 (1977)
  39. Johnston, J., "The Routledge companion to literature and science" (2010), Routledge
  40. Rossini, M., "Science", fiction: Imagineering posthuman bodies, 2003, 20~24
  41. Sims, C. A., "Tech anxiety: Artificial intelligence and ontological awakening in four science fiction novels" (2013), McFarland
  42. "감각질" (2021)[URL]
  43. "마음 업로딩: 디지털 영생의 꿈" (2021)[URL]
  44. "이루다 진짜 문제는 챗봇 이용한 ‘희롱 훈련’" (2021)[URL]
  45. "인공지능에 대한 흔한 질문 (FAQ)"[URL]
  46. "About Imagineering"[URL]
  47. "AI takeovers in popular culture" (2021)[URL]
  48. "Megatext" (2019)[URL]
  49. "SF megatext, In Encyclopedia of Science Fiction" (2020)[URL]
  50. "AI, In Encyclopedia of Science Fiction" (2021)[URL]
  51. "Singularity, In Encyclopedia of Science Fiction" (2018)[URL]
  52. "Novacene by James Lovelock review-a big welcome for the AI takeover" (2019)[URL]
  53. "James lovelock at 100: The Gaia saga continues" (2019)[URL]

관련 논문AI추천

인공지능이 인간을 초월하는 시대의 사회적 변화와 문학적 상상력이경화한국문학과종교학회 · 문학과 종교2024 · 제29권 제4호인공지능과 특이점의 시대: 파우스트 신화와 <트랜센던스>조숙희외국학연구소 · 외국학연구2019 · 제50호인공지능의 역사: 서사적 허구, 문화 상품, 그리고 과학적 사실로박소영인간환경미래연구원 · 인간.환경.미래2019 · 제22호인공지능은 기후 위기를 해결할까? - 한국 SF 속의 기후 위기와 AI 서사노대원대중서사학회 · 대중서사연구2024 · 제30권 제1호AI 생성 SF와 포스트휴머니즘 : ChatGPT는 어떤 소설을 생성하는가?방은아, 임소연인문사회과학연구소 · 인문사회과학연구2024 · 제32권 제1호포스트휴먼 진화—사이언스 픽션을 통해 본 인간과 인공 피조물과의 진화적 관계송호림21세기영어영문학회 · 영어영문학212013 · 제26권 제3호

이 간행물의 다른 논문 (16건)

「윤선옥전」에 나타난 전란 피해 형상화의 특징과 그 의미최수현pp. 5-33파국과 고통에 대한 이해의 문제 - 조반, 안윤 이야기 속 ‘여인의 죽음’ 화소를 중심으로홍나래pp. 35-61식민지 재난과 통치, 그리고 재현의 역학 - 박화성의 「홍수 전후」, 「한귀(旱鬼)」, 「고향 없는 사람들」을 중심으로서승희pp. 89-118인간-동물 관계의 인식과 실제 - 성호사설(星湖僿說)을 중심으로김유미pp. 119-13718세기 절도 유배가사에 나타난 풍속을 바라보는 두 시선과 그 의미 - 이진유와 이방익의 소작을 중심으로남정희pp. 139-166
원문 보기