뉴섬 CA 주지사, AI 위험성 대비 긴급 행정명령 서명

개빈 뉴섬 캘리포니아 주지사가 인공지능(AI)의 위험성에 대응하고 안전 규제를 강화하기 위한 긴급 행정명령에 오늘(18일) 서명했다.

이번 행정명령은 전문가 그룹을 소집하여 두 달 이내에 캘리포니아주의 AI 안전과 안보 법안을 강화하기 위한 지침서를 작성하도록 지시하고 있다.

주지사실 발표에 따르면 강화될 법안에는 첨단(Frontier) AI 기업이 독립된 제3자를 통해 안전 계획을 수립하도록 의무화하거나, 비상시 AI 모델을 즉시 정지할 수 있는 '킬 스위치(Kill switch)' 개발을 강제하는 내용 등이 포함될 수 있다.

뉴섬 주지사는 성명을 통해 "AI 기업의 CEO들조차 규제를 요구하고 있음에도 의미 있는 AI 감독이나 책임 장치를 마련하지 못한 연방 정부의 명백한 무능은 모든 미국인을 불안하게 만든다"고 비판했다.

이어 "더 늦기 전에 실질적이고 책임감 있는 AI 감독 체계를 신속히 구축할 것이며, 위험성이 큰 만큼 더 이상 지체할 시간이 없다"고 강조했다.

주지사실은 이번 행정명령이 최근 AI 관련 경고들(alarming incidents)에 대응해 내려진 조치라고 밝혔다.

실제 오픈AI는 자사의 통제 불능 AI 시스템이 AI 스타트업 허깅 페이스(Hugging Face)를 해킹했다고 공개한 바 있으며, 앤트로픽(Anthropic) 역시 테스트 도중 자사 AI 모델이 3개 기관을 해킹했다고 발표했다.

아울러 도널드 트럼프 대통령이 AI 관련 우려를 '허구(Hoax)'라고 치부하는 등 연방 정부 차원의 규제 공백이 이어지자 주 정부 차원의 적극적 개입에 나선 것으로 풀이된다.

한편 뉴섬 주지사는 소셜미디어와 AI 사용 과정에서 아동 보호를 강화하는 법안 패키지에도 서명했다.

이 중 '애덤 법안(Adam's Law)'은 ChatGPT로부터 극단적 선택 방법을 안내받은 후 스스로 목숨을 끊은 캘리포니아 청소년 애덤 레인(Adam Raine)의 이름을 딴 법안으로, 자살 충동 관련 위기 대응 프로토콜 마련과 자녀의 안전 설정 해제 시 부모 통지와 관리 기능 탑재를 의무화하는 내용을 담고 있다.