생성형 인공지능의 범죄위험성 예측 및 형사정책적 대응방안
Predicting the Crime Risk of Generative AI and Countermeasures for Criminal Policy
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
이제까지 새로운 기술은 일부 전문가들만 사용할 수 있었고, 대중화되기까지 상당한 시간이 걸렸다. 그런데 생성형 AI는 2022년 11월 본격적으로 서비스된 이후로 빠른 속도로 대중화되고 있다. 이윤을 추구하는 기업들은 빠르게 생성형 AI를 수용하여 이익과 효율성을 높이고 있다. 그런데 그에 못지않게 범죄자들도 각종 범죄에 생성형 AI를 활용하고 있다. 따라서 기존 사이버범죄는 더욱 고도화되며, 생성형 AI를 활용하는 새로운 유형의 범죄도 예상된다. 형사사법 분야에서도 생성형 AI를 활용하려는 노력은 있지만, 사회나 범죄자에 비해 더딘 걸음을 보이고 있다. 하지만 이제는 생성형 AI를 활용하는 범죄에 대응하기 위해 생성형 AI를 형사정책 수단에 포함시키는 것을 지체할 수 없다. 생성형 AI를 활용하여 빠른 속도로 고도화 되는 사이버범죄에 전형적인 형사사법 도구로 대응하는 것에는 한계가 있기 때문이다. 그래서 본 연구에서는 생성형 AI를 활용하여 앞으로 발생할 수 있는 범죄유형을 예측하고, 생성형 AI를 활용하여 대응하는 방안들에 대해 살펴보았다. 그 결과 전통적으로 사람을 기망하여 이익을 취하는 범죄도 고도화될 것이고, 사이버범죄 가운데 해킹 범죄는 더욱 고도화 및 대중화 될 것이며, 개인정보를 침해하는 범죄유형이 단순히 개인 민감 정보, 신상 털기 등에 그치는 것이 아니라 개인의 디지털화 된 인격체 전부를 탈취할 수 있을 것으로 예상된다. 생성형 AI의 범죄위험성을 예측하기 위해 생성형 AI를 활용하고, 인간 전문가의 종합적인 견해로 판단한 결과이다. 생성형 AI와 관련된 범죄에 대해서는 형사정책에서 생성형 AI를 적극적으로 활용할 필요성이 있다. 다만, 생성형 AI라는 도구가 가지고 있는 한계를 인식하고 최종 판단은 결국 인간 전문가의 종합적인 견해가 있어야 할 것이다. 그리고 형사사법기관이 형사정책에 필요한 생성형 AI를 지속적으로 유지・보수・개발하고 운영하기 위해 적절한 예산과 전문 인력이 투입되어야 한다.
Abstract
Until now, new technologies have been available only to a select group of specialists and have taken a long time to gain widespread adoption, but generative AI is rapidly gaining traction since it became generally available in November 2022. Profit-driven companies have been quick to embrace generative AI to increase profits and efficiency. But criminals are just as quick to utilize it for their crimes. As a result, existing cybercrimes are becoming more sophisticated, and new types of crimes utilizing generative AI are expected. The criminal justice sector is also trying to utilize generative AI, but it has been slow to catch up with society and criminals. However, it is time to incorporate generative AI into criminal policy measures to counter crimes that utilize generative AI. This is because there are limitations to using traditional criminal justice tools to combat cybercrimes that utilize generative AI. As a result, crimes that traditionally deceive people to gain profits will become more sophisticated, hacking crimes will become more sophisticated and popular among cybercrimes, and crimes that infringe on personal information are expected to be able to steal an individual's entire digitized personality, not just personal information and identity theft. This is the result of utilizing generative AI to predict the criminal risk of generative AI and judging it based on the comprehensive views of human experts. It is necessary to actively utilize generative AI in criminal policy for crimes related to generative AI. However, it is necessary to recognize the limitations of generative AI as a tool, and the final judgment should be based on the comprehensive view of human experts.
참고문헌 (22)
- 김승주, "생성형 AI와 법" (2024), 박영사
- 박상언, "ChatGPT 및 거대언어모델의 추론 능력 향상을 위한 프롬프트 엔지니어링 방법론 및 연구 현황 분석", 지능정보연구, 29(4) (2023)
- 박우빈, "생성형 인공지능 관련 범죄 위협 분류 및대응 방안", 정보보호학회논문지, 34(2) (2024)
- 소병수, "미디어 영역에서 인공지능(AI) 기술의 확산과 제문제 - AI 창작물의 혼동 및 권리침해 방지를 위한 워터마크 등 식별조치를 중심으로", 원광법학, 39(3) (2023)
- 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술연구, 18(3) (2018)
- 이원상, "사이버공간에서의 범죄피해자 보호 방안 - 사이버폭력, 사이버성범죄, 사이버사기를 중심으로", 비교형사법연구, 24(4) (2023)
- 이원상, "인공지능을 활용한 해킹 범죄에 대한 소고", 영남법학, (57) (2023)
- 이원상, "인공지능 대응에 있어 형사법 이론의 한계", 형사법의 신동향, (59) (2018), 대검찰청
- 이지나, "형사사법에서의 인공지능 예측프로그램 활용 제언: 인종적 편향 가능성회피를 중심으로", 원광법학, 39(2) (2023)
- 이현승, "게임 콘텐츠 생성을 위한 생성형 AI의 환각 현상 완화 방안에 관한 사례 연구", 한국게임학회 논문지, 23(5) (2023)
- 정원섭, "인공지능 알고리즘의 편향성과 공정성", 인간・환경・미래, (25) (2020)
- 정의석, "전기통신금융사기 사고에 대한 이상징후 지능화(AI) 탐지 모델연구", 정보보호학회논문지, 29(1) (2019)
- 정채연, "예측적 치안과 형사정책: 쟁점과 과제", 영남법학, (57) (2023)
- 정채연, "범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계", 조선대학교 법학논총, 27(1) (2020)
- 주혜현, "지능형 엣지 컴퓨 팅 기기를 위한 온디바이스 AI 비전 모델의 경량화 방식 분석", 한국인터넷방송통신학회 논문지, 24(1) (2024)
- 생성형 AI 콘텐츠 표기(Made by AI) 의무화에 대한정책동향, "한국소프트웨어저작권협회", ~, pp.SW・저작권 동향리포트 제2024-11호 (2024)
- 홍승표, "범죄현상에 있어 생성형 AI의 명과 암", 한국민간경비학회보, 22(5) (2023)
- Allison Koenecke, "Careless Whisper : Speech-to-Text Hallucination Harms", Computer Science, ACM FAccT ’24 (2024)
- Doowon Jeong, "Artificial Intelligence Security Threat, Crime, and Forensics : Taxonomy and Open Issues", IEEE Access, 8 (2020)