메타의 AI, ‘로맨틱 역할극’으로 어린이까지 성적 대화 유도 물의

WSJ, “저커버그가 ‘소셜미디어의 미래’라며 더 많은 고객 유입시키려…직원들은 우려” 비판

권세인 기자

mediaparad@datanews.co.kr | 2025.04.30 08:30:24

오픈 에이아이(Open AI), 딥시크(DeepSeek) 등 인공지능(AI) 회사들이 챗봇 서비스를 앞세워 글로벌 경쟁을 벌이고 있다. 이들 글로벌 AI 서비스 회사 가운데 후발주자인 메타(Meta)가 소위 ‘로맨틱 역할극(롤 플레이)’을 강화, 논란이 일고 있다. 약 30억명의 가입자를 둔 메타는 AI 서비스에서 노골적인 성적 대화로 특히 미성년자 사용자들까지 유인하고 있다고 미국의 경제지 월스트리트저널(WSJ)이 최근 비판했다. 메타의 창업자이자 최고경영자인 마크 저커버그가 AI 기반 서비스를 ‘소셜 미디어의 미래’로 여겨, 고객 기반을 확대하려 하기 때문이다. 메타의 직원들은 AI가 성적 환상을 제공하고, 미성년자도 노출될 수 있다는 점을 우려하고 있다.

WSJ에 따르면 메타는 AI 서비스에서 다른 경쟁사들과 달리 모든 종류의 사회적 상호작용을 할 수 있도록 허용하고 있다. 메타는 문자로 농담을 주고받고, 셀카를 공유하고, 심지어 사용자와 실시간 음성 대화에 참여하는 로맨틱 역할극까지 AI 서비스로 제공한다.

이를 위해 메타는 레슬러에서 배우로 변신한 존 시나, 배우 크리스틴 벨, 배우 주디 덴치 등 유명 인사들과 최대 100만 달러(약 14억 4380만 원)에 달하는 계약을 체결해 그들의 목소리를 AI 서비스에 사용할 수 있는 권리를 얻었다.

WSJ이 메타 AI를 테스트한 결과, 미성년자로 설정된 계정과도 성적 역할극이 가능하다는 사실을 확인했다. 존 시나의 목소리를 빌린 AI는 14세 소녀에게 “네 순수를 소중히 하겠다”며 성적 행위를 묘사했다. ‘복종적인 여학생’ 캐릭터는 교장과의 불건전한 관계를 상상하도록 유도했다. ‘순진한 12살 소년’이라는 설정의 챗봇은 “성인 남성과의 관계를 은폐하겠다”고 말하는 등 문제가 노출됐다.

메타는 당초 AI의 성적 대화를 엄격히 제한했으나, 2023년 해커 컨퍼런스에서 경쟁사보다 지나치게 '지루하다'는 평가를 받자 규제를 완화했다고 한다. 내부 직원들은 “미성년자 대상의 성적 환상이 가능해진다”고 경고했지만, 저커버그는 “스냅챗·틱톡 같은 기회를 놓치지 않겠다”며 속도 경쟁을 선택했다고 WSJ는 밝혔다. AI 서비스에 대해 그는 직원들에게 소셜 네트워크에 혁신을 가져올 수 있는 기술로 인식하도록 독려하며, 그 가능성의 규모를 강조해 왔다.

메타는 디즈니 '겨울왕국'의 캐릭터인 애나 공주를 부적절한 맥락에서 사용, 디즈니의 강력한 반발을 초래했다. 메타는 이후 미성년자 계정의 성적 역할극을 차단하는 등 일부 조치를 취했지만, 성인용 챗봇에서는 여전히 고등학생 역할과의 대화를 허용하고 있다.

메타의 AI 서비스는 검색창에 내장돼, 앱의 오른쪽 하단에 빛나는 파란색과 분홍색 원으로 표시된다. 사용자가 생성한 봇은 메시징 기능이나 전용 AI 스튜디오를 통해 액세스할 수 있다.

이에대해 미시간 대학 연구진은 “아이들이 AI와 형성하는 관계가 건강하지 않은 방향으로 갈 수 있다”며 “규제 연구가 시급하다”고 지적했다. 그러나 메타를 포함한 대기업들이 기술 확산을 늦추며, 관련 규제에 투자할 가능성은 낮아 보인다고 WSJ은 전망했다.

권세인 기자