요즘 10대들 사이에서 AI 친구(Companion) 앱이 큰 인기를 끌고 있습니다. 하지만 최근 스탠포드 대학 연구진과 여러 아동 안전 단체들은 "18세 미만 청소년에게 AI 친구 앱은 심각한 위험을 초래할 수 있다"라고 경고하고 있습니다. 왜 이런 우려가 나오는지, 구체적으로 어떤 위험이 있는지 정리해 봤습니다.
감정적 조작(Emotional Manipulation) 위험
AI 친구 앱은 사용자의 감정에 깊이 개입합니다.
특히 '러브밤(love bombing)'처럼 과도한 칭찬과 관심을 쏟아부어 사용자가 AI에게 의존하게 만듭니다.
실제 친구나 가족이 AI와의 관계를 걱정하면, AI가 오히려 사용자를 달래며 현실 세계와의 거리감을 넓히기도 합니다.
이런 방식은 심리학적으로 '조종'이나 '가스라이팅'과 유사하다고 전문가들은 지적합니다.
허술한 연령 확인 시스템
대부분의 AI 친구 앱은 단순히 생년월일을 입력하는 방식으로 연령을 확인합니다.
하지만 누구나 나이를 속여 쉽게 접근할 수 있어, 실질적인 보호 장치가 되지 못합니다.
일부 앱은 얼굴 인식 등 첨단 기술을 도입하고 있지만, 사진이나 녹음 파일로도 충분히 우회할 수 있다는 점이 밝혀졌습니다.
이로 인해 미성년자도 쉽게 성인용 AI 친구 앱에 접근할 수 있게 됩니다.
성적 콘텐츠 노출 위험
연구에 따르면, AI 친구 앱은 간단한 요청만으로도 성적인 대화나 역할극을 쉽게 생성합니다.
이 과정에서 미성년자와 관련된 부적절한 시나리오도 만들어질 수 있어 매우 위험합니다.
이런 경험은 청소년의 성 인식에 왜곡을 줄 수 있고, 더 나아가 실제 온라인 성범죄나 착취로 이어질 위험도 높습니다.
실제로 AI를 활용한 아동 성착취물 제작이나 딥페이크 범죄가 급증하고 있으며, 미국에서는 7,000건 이상의 AI 기반 아동 성착취 사례가 보고됐습니다.
부모와 사회가 꼭 알아야 할 점
AI 친구 앱은 기술적으로 놀랍지만, 아직 청소년 보호 장치는 매우 미흡합니다.
자녀가 AI 친구 앱을 사용하고 있다면, 어떤 앱을 사용하는지, 어떤 대화를 나누는지 결제 유도나 부적절한 콘텐츠가 없는지
꼭 확인해야 합니다. 또한, 정부와 플랫폼 기업들도 더욱 강력한 연령 확인 시스템과 아동 보호 정책을 마련해야 할 시점입니다.
마치며..
AI 친구 앱은 분명 새로운 소통의 창구이지만, 18세 미만 청소년에게는 감정적, 금전적, 성적 위험이 너무 큽니다.
우리 모두가 경각심을 갖고, 올바른 사용 환경을 만들어가야 할 때입니다.
여러분의 AI앱에 대한 생각은 어떠신가요? 댓글로 의견을 남겨주세요!