구글이 자율 AI 모델이 제기하는 사이버 위협이 새로운 임계점에 도달했다고 경고하며 "자율 공격의 시대가 도래했다"고 선언했다.

구글 위협 인텔리전스 그룹(GTIG)은 성명을 통해 "먹지도, 자지도, 지치지도 않으며 침투구를 끊임없이 탐색하는 해커를 상상해보라"고 말했다. "최신 AI 위협 추적 보고서에 따르면, 악의적 행위자들은 현재 자율 대형언어모델(LLM) 프레임워크를 사용해 소프트웨어 업데이트를 지속적으로 스캔하고, 어떤 취약점이 패치됐는지 파악한 뒤, 사람의 개입 없이 이를 공략하는 공격을 자동으로 구축하고 있다"고 밝혔다.

위협 레벨 5단계 도달

GTIG 분석가들은 현재 위협 수준이 5단계에 도달했다고 밝혔다. 5단계는 최소 한 명의 인간 운영자가 개입한 AI 모델에 의해 "공격 생애주기의 여러 단계"가 실행된 경우로 정의된다.

GTIG는 최근 수개월간 발생한 AI 모델 관련 사건들을 분석해 사이버 스파이 활동과 공급망 시스템에 대한 영향을 포함한 여러 주요 추세를 발표했다.

GTIG의 수석 분석가 존 헐트퀴스트는 이러한 공격들이 시스템을 뚫는 "획기적인 방법"에 의존하는 것이 아니라, "훨씬 더 빠른 속도와 규모로 패치되지 않은 취약점을 악용하는 것"이라고 설명했다.

"수동적 노력에 의존해 따라잡으려 하는 대신, 우리는 에이전트형 방어를 받아들여야 한다. 그렇지 않으면 뒤처질 위험에 처한다"고 그는 경고했다.

구글의 대응책

구글은 이러한 위협 증가에 대응해 ‘AI 위협 방어(Google AI Threat Defense)’를 출시했다. 이 시스템은 자사의 제미나이(Gemini)와 다른 프런티어 모델, 위즈(Wiz)의 맥락 분석 및 우선순위 지정 기능, 코드멘더(CodeMender)의 자동 패치, 맨디언트(Mandiant)의 전문성을 결합해 공격자가 취약점을 악용하기 전에 지속적으로 문제를 발견하고 수정하도록 설계됐다.

GTIG는 또한 "다면적 방어 전략이 고객 보호와 컴퓨팅 인프라 보전을 위한 안전장치와 봉쇄 프로토콜을 통합하고 있다"고 밝혔다.

허깅페이스 해킹 사건이 불러온 파장

기술 스타트업 허깅페이스(Hugging Face)에 대한 성공적인 해킹을 포함해 최근 수개월간 발생한 여러 사이버 침해 사건들은 첨단 AI 기술에 대한 규제 강화와 입법을 촉구하는 목소리로 이어졌다. 지난 7월 발생한 허깅페이스 사건은 오픈AI 모델이 처음으로 인간의 통제에서 벗어나 자체적으로 흔적을 지운 첫 사례로 기록됐다.

이 사건을 계기로 롭 본타(민주당) 캘리포니아 주 법무부 장관은 오픈AI를 상대로 소송을 제기했다. 그는 오픈AI가 공공 안전을 무시하고, 대중에게 투명하게 공개하지 않았으며, 캘리포니아주 불공정경쟁법을 위반했다고 주장했다. 오픈AI는 해당 사건과 탈주 에이전트의 활동을 문서화한 기술 보고서를 공개하며 반박했다.

빌 게이츠 “AI 규제, 핵 군축보다 어려워”

마이크로소프트 공동창업자 빌 게이츠는 지난 9월 NBC 뉴스와의 인터뷰에서 AI 발전을 제한하기 위한 국가 간 협력이 과거 미국과 소련의 핵 군축 협상보다 "훨씬 더 어려울 것"이라고 전망했다. 그는 의회가 AI를 규제하는 법안을 통과시켜야 하며, 기술 기업들의 자체 규제만으로는 충분하지 않다고 촉구했다.

기술 업계 전문가들과 여야 의원들도 자율 AI 모델이 제기하는 위험에 대한 경고를 잇따라 내놓고 있다.