플로리다주가 인공지능(AI) 챗봇 ChatGPT 개발사 OpenAI를 상대로 새로운 AI 모델 개발을 일시 중단시켜 달라고 법원에 요청하면서 AI 안전성 논란이 다시 불붙고 있다.
Axios는 28일 플로리다주 법무장관 제임스 우트마이어가 OpenAI가 충분한 안전장치를 마련할 때까지 새로운 AI 모델 개발을 제한하는 임시금지명령을 내려달라고 법원에 신청했다고 보도했다.
플로리다주의 요구는 단순히 ChatGPT 개발 속도를 늦추라는 수준을 넘어선다. 미성년자의 ChatGPT 이용을 제한하고, 13세 미만 어린이의 개인정보를 부모 동의 없이 수집·처리하지 못하도록 하는 내용도 포함됐다.
또 ChatGPT가 자신을 실제 사람처럼 표현하거나 감정과 의식을 가진 존재인 것처럼 이용자가 받아들일 수 있는 방식도 제한해야 한다고 주장했다. 이용자가 장시간 대화를 계속하도록 유도하는 기능 역시 문제로 지적했다.
우트마이어 법무장관은 “안전하다고 부르지 말라. 인간인 것처럼 가장하지 말라. 아이들에게 팔지 말라”는 강한 표현을 사용하며 AI 기업에 보다 엄격한 안전장치가 필요하다고 주장했다.
OpenAI는 AI 안전에 대한 대중의 우려를 인정하면서도 규제는 특정 기업 하나가 아니라 AI 산업 전반에 공정하게 적용돼야 한다는 입장을 밝혔다.
이번 사건은 AI 규제를 둘러싼 연방정부와 주정부의 역할 문제가 본격적으로 부각되고 있다는 점에서도 주목된다. 특히 주정부가 법원을 통해 세계적인 AI 기업의 신기술 개발 자체를 어디까지 제한할 수 있는지가 중요한 쟁점이 될 전망이다.
다만 현재 ChatGPT 서비스나 OpenAI의 개발이 중단된 것은 아니다. 플로리다주가 법원에 임시금지명령을 요청한 단계로, 실제 개발 제한 여부는 법원의 판단에 달려 있다.