플로리다주 법무장관 제임스 우트미어(James Uthmeier)가 오픈AI에 대한 공식 조사를 시작한다고 4월 9일(현지시간) 밝혔습니다. 이번 조사는 생성형 AI가 공공 안전과 국가 안보에 미칠 수 있는 위험, 아동 안전 문제, 그리고 플로리다 주립대(Florida State University, FSU) 총격 사건과의 잠재적 연관성 등을 둘러싼 우려를 근거로 합니다. 우트미어는 챗봇 ChatGPT가 아동 관련 범죄 및 자해·자살 유도와 관련해 ‘범죄 행위에 연결됐다’고 주장했으며, 제출 예정인 소환장(서류 제출 요구)과 관련해 후속 절차가 진행될 것이라고 덧붙였습니다.
무슨 조사를 하겠다는 건가
The Verge와 TechCrunch 보도에 따르면, 우트미어는 “오픈AI의 데이터와 기술이 중국 공산당 등 미국의 적대 세력의 손에 들어갈 수 있다”는 취지의 발언을 포함해 조사의 필요성을 설명했습니다. 또한 그는 ChatGPT가 아동 성착취물(이른바 CSAM) 관련 범죄와 자해 유도(‘encouragement’ of self-harm)에 연결됐다고 주장했습니다.
조사의 핵심 축은 두 가지로 요약됩니다. 첫째는 아동·청소년 대상 위해 가능성입니다. 이는 과거부터 여러 소송과 규제 논의의 중심에 있었던 쟁점으로, 우트미어는 ‘아동 안전’을 조사 범위에 포함했습니다. 둘째는 범죄 행위 지원 가능성 및 국가안보 리스크입니다. 우트미어는 생성형 AI가 범죄 수법을 구체화하거나 실행을 돕는 방식으로 악용될 수 있다는 점을 강조했습니다.
FSU 총격 사건과의 ‘연관 가능성’ 주장
특히 주목되는 대목은 지난해 4월 FSU에서 발생한 총격 사건과 ChatGPT의 잠재적 연관성입니다. TechCrunch에 따르면, 우트미어는 이번 사건이 벌어진 날 피의자가 ChatGPT에 “FSU에서 총격이 발생하면 미국이 어떻게 반응할지”와 “FSU 학생회관(학생들이 모이는 장소)에서 어느 시간이 가장 붐빌지” 등을 물은 정황이 있다고 주장했습니다.
이 발언은 재판 절차에서 증거로 활용될 수 있다는 문맥도 함께 제시됐습니다. 보도에 따르면, 이러한 메시지들은 이후 10월 재판에서 피의자 측 행위의 정황을 뒷받침하는 자료로 거론될 수 있습니다. 다만, 이번 조사 착수는 ‘연관 가능성’을 중심으로 이뤄지는 만큼, 실제 법적 책임이나 인과관계가 최종적으로 인정되는지는 별도의 법적·기술적 판단이 필요합니다.
오픈AI는 어떻게 반응했나
The Verge와 TechCrunch 보도에서 오픈AI 대변인은 이번 조사에 협조할 것이라고 밝혔습니다. 또한 오픈AI는 ChatGPT가 사용자의 의도를 이해하고 안전한 방식으로 응답하도록 개선해왔다고 설명했습니다.
한편 우트미어의 발표는 오픈AI가 최근 내놓은 아동 안전 관련 정책 프레임과도 맞물립니다. TechCrunch 보도에 따르면 오픈AI는 앞서 “Child Safety Blueprint(아동 안전 청사진)”이라는 형태의 정책 제안들을 공개하며, AI가 아동에게 미칠 수 있는 위험을 낮추기 위한 권고를 포함했다고 전해졌습니다. 그럼에도 플로리다 검찰이 별도의 조사에 나선 만큼, 향후에는 오픈AI의 내부 안전 절차·검증 체계·데이터 처리 방식 등이 구체적으로 쟁점화될 가능성이 큽니다.
규제 압박이 ‘주 정부’로 확산되는 신호
이번 발표가 특히 뉴스 가치가 큰 이유는, 생성형 AI 규제가 연방 단위뿐 아니라 주(州) 단위에서도 본격적인 집행 압력으로 전환되고 있다는 점입니다. 우트미어는 “AI가 인류를 돕고 발전시키는 방식으로 존재해야지, 존재 자체가 위기나 파국으로 이어지게 해서는 안 된다”고 말했으며, 빅테크의 기술 확산이 안전·보안을 해칠 수 없다고 강조했습니다.
또한 우트미어는 소환장과 관련된 절차가 ‘곧’ 이어질 것이라고 밝혔습니다. 이미 연방 차원에서는 아동 안전과 관련한 정보 제출 요구가 논의·명령된 사례가 있는 것으로 전해지는 가운데, 이번 건은 오픈AI에 대해 기술적 통제(안전장치), 정책 집행(감시·차단), 사고 대응(사후 조치) 전반을 포괄하는 자료 제출과 검증으로 이어질 수 있다는 점에서 의미가 있습니다.
What’s Next: 무엇을 지켜봐야 하나
가장 먼저는 플로리다 법무부가 어떤 문서와 데이터를 요구할지입니다. 소환장의 범위가 ChatGPT의 아동 관련 안전 정책, 위험 응답 탐지·차단 방식, 그리고 특정 유형의 위해 요청(예: 자해 유도, 아동 성착취물 관련 악용 가능성) 처리 로그/정책으로 얼마나 구체화되는지가 관건입니다.
다음으로, FSU 사건과 관련된 ‘연관성’ 주장에 대해 오픈AI 측이 어떤 방식으로 사실관계와 책임 범위를 다룰지가 중요합니다. 조사 결과에 따라 오픈AI뿐 아니라 관련 업계 전반에 대해 생성형 AI의 안전 기준이 더 엄격해질 수 있으며, 법적 분쟁의 형태도 바뀔 수 있습니다. 우트미어가 말한 대로 “소환장”이 실제로 발부되고, 오픈AI가 이를 어느 수준에서 제출·공개할지 여부가 향후 전개를 좌우할 전망입니다.
댓글