AI 생성 이미지는 아이들을 학대한다.(자선단체의 경고)

AI 생성 이미지는 아이들을 학대 할 수 있다는 말이 나왔습니다. 영국의 한 자선단체에 따르면, 아이들이 인공지능(AI) 이미지 생성기를 사용하여 다른 아이들의 다소 방향을 좋지 않게 이미지를 만드는 경우가 있다고 합니다.

AI 생성 이미지는 아이들을 학대

 위 내용에 따라 영국 인터넷 안전 센터(UKSIC)는 학교로부터 "소수의 신고"를 받았지만, 문제가 심각해지기 전에 조치를 취해야 한다고 촉구했습니다. 또한, 아이들이 자신이 만든 콘텐츠가 아동 학대 자료로 간주될 수 있음을 이해하는 데 도움이 필요할 수 있다고 언급했습니다. 이 자선 단체는 교사와 학부모가 함께 협력하는 것을 바랍니다.
젊은이들은 호기심에 의해 동기를 얻을 수 있지만, 영국의 법에 따르면 이러한 이미지를 제작, 소유 또는 배포하는 것은 불법입니다. 상황에 상관없이 실제 이미지이든 AI로 생성된 이미지이든, 이러한 행위는 모두 불법이라고 강조했습니다. 또한, 어린이들이 이러한 행동이 어떤 결과를 초래할 수 있는지 인지하지 못한 채 이러한 자료를 온라인에 유포할 수 있다는 경고도 했습니다. 또한, 이러한 이미지가 잠재적으로 협박에 이용될 수 있는 위험성도 지적했습니다.

지식 격차 존재와 자선단체의 경고

교실 기술 회사인 RM Technology가 1,000명의 학생을 대상으로 실시한 최근 연구에 따르면, 학생들의 약 1/3 이하가 "온라인에서 부적절한 것을 보기 위해" AI를 사용하고 있다고 나타났습니다. 이 회사의 온라인 안전 관리자인 타샤 깁슨은 "학생들이 정기적으로 AI를 사용하는 것은 이제 흔한 일입니다."라고 말했습니다. "실제로 학생들은 대부분의 교사보다 AI에 대한 이해도가 높아지는 것을 볼 수 있습니다. 이는 온라인에서 학생들을 안전하게 보호하고 오용을 방지하는 것이 점점 어려워지는 원인이 됩니다. AI의 인기가 높아질수록 이러한 지식 격차를 해소하는 것이 가장 중요한 과제가 되어야 합니다."

또한, 교사들은 아이들에게 그러한 자료로 인한 피해에 대해 가르치는 것이 부모, 학교 또는 정부의 책임인지에 대한 의견이 분분한 것으로 나타났습니다. UKSIC는 학교가 학부모와 협력하는 협력적인 접근 방식을 선호합니다. 이는 학교가 문제가 커지기 전에 지금 당장 조치를 취하는 것을 의미합니다. UKSIC의 데이비드 라이트 이사는 "학교가 과부하가 걸리기 전에 문제에 대한 조치를 취해야 한다"고 말했습니다.

청소년들은 항상 자신이 하는 행동의 심각성을 인식하지는 않지만, AI 제너레이터와 같은 새로운 기술에 대한 대중의 접근성이 증가하면 이러한 유형의 유해한 행동이 증가할 것으로 예상됩니다. "학교에서 범죄 콘텐츠가 늘어나는 것은 결코 바람직하지 않으며, 이러한 증가가 더 이상 확산되지 않도록 시급한 개입이 필요합니다." 성적 학대 피해 아동을 돕는 자선 단체인 마리 콜린스 재단의 CEO 빅토리아 그린은 "평생" 지속될 수 있는 피해에 대해 경고했습니다. 아동이 해를 끼치려고 만든 이미지는 아니지만, 한 번 공유되면 이러한 자료가 악의적인 사람들의 손에 넘어가 아동학대 전용 사이트에 게시될 수 있습니다. "성 관련 범죄자들은 피해자를 수치심과 침묵으로 몰아넣기 위해 이러한 이미지를 추가로 사용할 수 있는 실질적인 위험이 있습니다."

디클로징 앱의 위험성

인공지능이 어린이를 극단적인 콘텐츠 생산자로 만들 수 있는 범위는 9월에 사진에서 누군가의 옷을 벗긴 듯한 인상을 주는 앱에서 입증되었습니다. 이 앱(어플)은 스페인에서 어린 소녀들의 가짜 누드 이미지를 만드는 데 사용되었으며, 11세에서 17세 사이의 20명 이상의 소녀들이 피해자로 지목되었습니다. 이 이미지들은 피해자들이 모르게 소셜 미디어에 유포되고 있었습니다. 지금까지 사진을 촬영한 남학생들은 기소되지 않았습니다. 2019년부터 소셜 미디어 사이트, 특히 메시징 서비스인 텔레그램에서 봇이라고도 불리는 인공지능 기능이 탑재된 자동화된 소프트웨어인 이른바 '디워딩' 앱이 등장하기 시작했습니다.
처음에는 매우 정교하지 못했지만, 생성 AI의 발전으로 스페인에서 사용된 것과 같은 앱은 사실적인 가짜 누드 이미지를 훨씬 더 효과적으로 만들 수 있게 되었습니다. 스페인의 이 봇은 약 5만 명의 구독자를 보유하고 있으며, 이는 일반적으로 무료로 여러 장의 사진을 만든 후 유료로 사진을 제작하는 사용자가 그만큼 많다는 것을 의미합니다. BBC는 이 봇의 제작자에게 논평을 요청했지만, 제작자는 답변을 거부했습니다. IT 보안 회사 KnowBe4의 사이버 전문가인 자바드 말릭은 BBC와의 인터뷰에서 실제 이미지와 AI가 생성한 이미지를 구분하는 것이 점점 더 어려워지고 있으며, 이러한 추세는 '디퓨징' 앱의 사용을 촉진하고 있다고 말했습니다.
그는 "안타깝게도 리벤지영상(자극적인 부분)은 대중적인 호소력을 가지고 있기 때문에 그 추세가 계속 증가하고 있으며, 문화적 또는 종교적 신념이 피해자에게 더 많은 문제를 야기하는 리벤지영상 유형의 활동이 많이 나타나고 있습니다."라고 말했습니다. 이렇게 AI 생성 이미지가 아이들을 학대 할 수 있다는 내용에 대해서 알아봤습니다.