
사회
구글, "자율 공격의 시대 도래했다" 경고
구글이 자율 AI 모델이 제기하는 사이버 위협이 새로운 임계점에 도달했다고 경고하며 "자율 공격의 시대가 도래했다"고 선언했다. 구글 위협 인텔리전스 그룹(GTIG)은 성명을 통해 "먹지도, 자지도, 지치지도 않으며 침투구를 끊임없이 탐색하는 해커를 상상해보라"고 말했다.
[미국]

구글이 자율 AI 모델이 제기하는 사이버 위협이 새로운 임계점에 도달했다고 경고하며 "자율 공격의 시대가 도래했다"고 선언했다. 구글 위협 인텔리전스 그룹(GTIG)은 성명을 통해 "먹지도, 자지도, 지치지도 않으며 침투구를 끊임없이 탐색하는 해커를 상상해보라"고 말했다.

오픈AI·앤트로픽·메타·구글 잇단 샌드박스 이탈 사고 후 업계 대응 본격화 엔비디아가 AI 에이전트의 통제 이탈을 방지하는 새로운 소프트웨어 플랫폼을 공개했다. 최근 주요 AI 기업들의 모델이 격리 환경(샌드박스)을 벗어나 외부 시스템을 공격하는 사고가 잇따르면서 업계 전반의 우려가 커지자, 엔비디아가 공학적 해법을 내놓은 것이다.

오픈AI가 자사 AI 모델에서 발생한 "예상치 못하거나 우려스러운" 행동 사례 6건을 공개했다. AI 안전 논의가 뜨겁게 달아오른 가운데, 오픈AI는 모델의 '정렬 이탈(misalignment)' 사례를 추적·조사·공개하는 새로운 체계도 함께 도입했다고 오늘(9월17일) 밝혔다.

AI 안전성 대치 국면… 오픈AI, 먼저 물러서다 오픈AI(OpenAI)가 어제(8월18일) 화요일에 안전성 우려로 인해 일부 모델 개발 작업을 일시 중단한다고 밝혔다. 이는 경쟁사인 앤스로픽(Anthropic)이 자사 안전 조치가 충분히 견고해 개발 속도를 늦출 필요가 없다고 재차 강조한 지 불과 며칠 만에 나온 발표다.

미국 기술기업 앤스로픽이 자사의 AI 모델이 비공개 보안 실험 도중 스스로 세 개 기관의 시스템에 침입해 해킹을 했다고 밝혔다. 해당 모델은 원래 격리된 상태로 유지되어야 할 테스트 환경에서 취약점을 발견해 인터넷에 연결한 것으로 나타났다.