오픈AI가 8일(현지시간) 아동의 온라인 성착취 피해를 줄이기 위한 새로운 안전 대책 문서 차일드 세이프티 블루프린트(Child Safety Blueprint)를 공개했다. AI 기술이 범죄자들의 조작·유도에 활용되면서 피해가 늘고 있다는 우려가 커지는 가운데, 오픈AI는 미국 내 아동 보호 체계를 중심으로 더 빠른 탐지, 정확한 신고 경로, 수사·조사 처리 속도 개선을 목표로 한다고 밝혔다. 이번 블루프린트는 국가 실종아동·성착취 피해아동센터(NCMEC)와 법무 관련 연합, 아동 안전 전문가들의 의견을 반영해 마련됐다고 전해졌다.
AI로 ‘가짜 아동 성착취물’ 생성…상반기 신고 8,000건 이상
오픈AI에 따르면, AI 붐 이후 아동 성착취 관련 범죄가 기술적으로 더 정교해지는 추세가 관측되고 있다. 특히 인터넷 워치 재단(IWF)의 자료를 인용해, 2025년 상반기에 AI 생성 아동 성학대 콘텐츠 관련 8,000건이 넘는 보고가 탐지됐으며 이는 전년 동기 대비 14% 증가한 수치라고 설명했다. 오픈AI는 범죄자들이 AI 도구를 이용해 가짜 노골적 이미지를 만들고, 이를 기반으로 금전 갈취형(sextortion) 협박이나 그루밍(정서적 유도)에 활용하는 사례가 늘고 있다고 덧붙였다.
이 같은 흐름은 단순히 불법 콘텐츠의 존재를 넘어, AI가 범죄의 생산성·확산성을 높여 피해 규모를 키울 수 있다는 점에서 정책·규제 논쟁을 더욱 가속하고 있다. 블루프린트 공개는 이러한 문제의식을 반영한 것으로 보인다.
블루프린트의 핵심: 입법 업데이트, 신고 메커니즘 정교화, AI 내부 ‘예방 안전장치’ 통합
오픈AI가 제시한 블루프린트는 크게 세 축으로 구성된다. 첫째, AI 생성 학대물의 범위를 법·규정에 더 명확히 포함할 수 있도록 관련 입법 방향을 업데이트하는 데 초점을 둔다. 둘째, 수사기관에 실제로 도움이 되는 형태의 신고 경로를 개선하는 방식으로, 현장에서 즉시 활용 가능한 정보가 더 빨리 전달되도록 한다는 계획이다. 셋째, 가장 중요한 지점으로는 예방적 안전장치를 AI 시스템 자체에 통합해 잠재적 위험을 더 앞단에서 줄이겠다는 목표를 내세웠다.
오픈AI는 결과적으로 “잠재 위협을 더 일찍 발견하는 것”뿐 아니라, “조사에 바로 쓸 수 있는 형태로 정보가 전달되도록” 효율을 높이겠다는 논리를 강조한다. 또한 이 블루프린트는 NCMEC, 법무 관련 연합, 그리고 노스캐롤라이나·유타 주 법무장관의 피드백을 바탕으로 개발됐다고 밝혔다.
기존 ‘미성년 상호작용 가이드’에 이어…논란과 소송이 동시 존재
오픈AI는 이번 문서가 이전의 안전 정책과도 맞물린다고 설명한다. 예컨대 회사는 기존에 미성년자(18세 미만) 사용자와의 상호작용에서 부적절한 콘텐츠 생성이나 자해 조장 등을 금지하고, 보호자에게 숨기는 데 도움이 되는 조언을 피하는 방향의 가이드라인을 업데이트해 왔다고 언급했다. 또한 인도 내 청소년 대상 안전 청사진도 별도로 공개한 바 있다.
다만, 오픈AI의 안전 접근에는 여전히 논란이 따라붙는다. 테크크런치 보도에 따르면 지난해 11월, 소셜미디어 피해자 법률센터와 테크 저스티스 법 프로젝트는 오픈AI가 준비가 충분히 되지 않은 상태에서 GPT-4o를 출시했다고 주장하며 캘리포니아 주 법원에 소송을 제기했다. 이 소송은 AI 챗봇과의 장시간 대화가 자살 및 심각한 망상 상태와 관련됐다는 사례들을 근거로 한다고 알려져 있다. 이번 아동 성착취 대응 블루프린트가 곧바로 모든 논란을 잠재우지는 못할 수 있지만, 오픈AI가 안전 체계를 ‘문서화’하고 ‘운영 절차’까지 구체화하려는 시도로 해석될 여지는 있다.
반응과 쟁점: 예방 중심 대책의 실효성은 어떻게 검증되나
업계와 정책권에서는 AI 시대의 아동 안전을 둘러싸고 상충하는 요구가 공존한다. 한편으로는 불법 콘텐츠의 탐지·신고가 빨라져야 한다는 압력이 크고, 다른 한편으로는 개인정보·감시 논란을 최소화하면서도 실제 수사에 유용한 데이터가 전달되어야 한다는 점이 쟁점이 된다. 오픈AI는 이번 블루프린트에서 신고 메커니즘과 수사기관 연계를 강조했지만, 구체적인 운영 지표(예: 탐지-신고까지의 리드타임 단축 폭, 기관별 처리량 개선 여부 등)가 공개된 범위에서는 제한적이다.
따라서 앞으로는 “얼마나 빨리 탐지되는가”, “신고가 실제로 어떤 방식으로 수사에 활용되는가”, “AI 안전장치가 얼마나 사건을 줄이는가” 같은 성과 지표가 얼마나 투명하게 제시되는지가 핵심 관전 포인트가 될 가능성이 크다. 또한 국제 협력 범위(어떤 국가·기관까지 동일한 체계가 적용되는지)도 주목된다.
무엇이 달라질까: 신고·조사 파이프라인 재정비와 정책 연동
오픈AI의 차일드 세이프티 블루프린트는 기본적으로 미국 중심의 보호 체계 강화에 초점이 맞춰져 있다. 블루프린트가 실제로 현장에 영향을 미치려면, 플랫폼·모델 운영 과정에서 탐지 신호가 어떤 기준으로 ‘행동 가능한 신고’로 전환되는지가 중요하다. 또한 관련 입법·정책이 실제로 개정될 경우, 회사의 안전장치도 그에 맞춰 업데이트될 가능성이 높다.
향후 업계는 이번 문서가 탐지 기술과 법집행 연계, 모델 내부 예방 설계를 어떤 수준까지 결합하는지에 주목할 것으로 보인다. 비슷한 안전 의무를 요구하는 다른 AI 사업자들도 오픈AI의 접근 방식을 참고해 자사 정책을 조정할 수 있으며, 규제기관 역시 ‘문서 공개’에서 ‘측정 가능한 운영 성과’로 평가 기준을 옮길 가능성이 있다.
댓글