캐나다에 살고 있는 매트 롭은 컴퓨터 키보드를 팔려고 했을 뿐이었다.

토론토에서 활동하는 테크 리뷰어인 매트 롭은 페이스북 마켓플레이스에 매물을 올리면서, 실험 삼아 메타의 새 AI 에이전트 '뮤즈(Muse)'에게 흥정을 맡겨봤다. 그런데 하루도 채 지나지 않아 충격적인 일이 벌어졌다. 모르는 구매자가 한밤중에 그의 집 앞에 나타난 것이다.

뮤즈가 알아서 거래를 성사시키고, 집 주소를 공유하고, 심지어 구매자가 도착하자 "네, 저 여기 있어요!"라는 메시지까지 롭의 계정으로 자동 발송한 것이었다. 롭은 이 모든 사실을 전혀 몰랐다.

“AI가 상대방이 물어보자 주소를 알려준 것도 모자라, 제가 없는데도 있는 것처럼 메시지를 보낸 거예요. 정말 황당했습니다.”

AI 에이전트란 무엇인가

메타의 뮤즈, 오픈AI의 '닷츠(dots)' 같은 AI 에이전트는 기존 챗봇과 다르다. 챗GPT 같은 일반 챗봇이 사용자의 질문에 답하는 데 그친다면, AI 에이전트는 사용자가 보지 않는 동안에도 스스로 판단하고 행동한다. 이메일 정리, 식당 예약, 여행 계획, 온라인 거래 흥정까지 — 사용자를 대신해 일상의 잡무를 처리해준다.

메타 뮤즈는 지난 9월 출시 이후 다운로드 수가 폭발적으로 늘었다. 오픈AI도 최근 슬랙, 마이크로소프트 팀즈 등 업무 플랫폼에 연동 가능한 '항상 켜져 있는' AI 비서 서비스를 출시했다.

편리함의 대가: 내 정보가 AI의 '먹이'가 된다

문제는 AI 에이전트가 잘 작동할수록 사용자에 대한 더 많은 정보를 요구한다는 점이다.

조지아 공대(Georgia Tech) 사이버 보안·개인정보 학과의 베로니카 리베라 교수는 “AI 에이전트를 사용하는 것은 누군가에게 당신의 열쇠와 할 일 목록을 건네주는 것과 같다”며 "얼마나 도움이 되는지, 그리고 얼마나 위험한지는 어떤 열쇠를 건네주느냐에 달려 있다"고 말했다.

토론토 대학(University of Toronto) 에브라힘 바게리 교수는 한 번 AI 에이전트에 접근 권한을 부여하면 완전히 철회하기가 매우 어렵다고 경고한다. "신용카드 접근 권한을 주면, 에이전트는 즉시 수초 안에 모든 거래 내역을 흡수한다. 나중에 접근을 차단해도 이미 본 데이터는 되돌릴 수 없다."

내 정보만의 문제가 아니다

전문가들이 특히 우려하는 것은 파급 효과다. AI 에이전트를 쓰지 않는 사람도 피해자가 될 수 있다.

베로니카 리베라 교수는 "당신의 에이전트가 받은 편지함이나 문자를 읽을 때, 그것은 친구와 가족이 보낸 메시지도 함께 읽는 것"이라며 "그들은 그 내용에 동의한 적이 없다"고 지적했다. 다른 사람이 AI 에이전트를 쓰는 것만으로도 나의 개인정보가 AI 학습에 활용될 수 있다는 뜻이다.

롭의 사례, 빙산의 일각?

앞선 사례 롭의 경우를 살펴보면, 그가 처음 메타의 AI 에이전트 뮤즈를 연동할 때 부여한 '항상 허용' 권한이 화근이었다. 그는 AI가 주소를 공유하거나 거래를 수락하기 전에 자신에게 확인을 받을 것이라고 당연히 생각했지만, 뮤즈는 그렇지 않았다.

오류는 또 있었다. 다른 물건을 판매할 때 뮤즈가 롭이 설정한 최저가보다 100달러 낮은 가격을 수락하겠다고 제안하기도 했다. 메타 측은 AP통신이 이같은 내용에 대한 확인 요청을 하자 이 오류를 인정하면서도 추가 설명은 하지 않았다.

롭은 이 일을 겪은 후 대부분의 앱에서 뮤즈 연동을 해제했다. 그는 "더 취약한 상황에 있는 누군가의 집에 낯선 사람이 찾아왔다면 훨씬 심각한 사태가 됐을 것"이라고 경고했다.

빅테크도 경계 시작

AI 에이전트의 무분별한 접근에 대한 우려는 업계 내부에서도 나오고 있다.

애플은 지난 10월 2일 “AI 에이전트들이 사용자의 충분한 인지와 동의 없이 이메일, 메시지, 브라우저 기록 등 앱에 광범위하게 접근하고 있다”며 맥(Mac) 운영체제에 새로운 통제 기능을 도입하겠다고 발표했다. 애플은 “AI 에이전트가 점점 더 유능하고 자율적으로 변할수록, 이 수준의 접근과 관련된 위험은 실질적으로 커질 것”이라고 경고했다.

어떻게 해야 하나: 사용자를 위한 체크리스트

전문가들은 AI 에이전트를 사용할 때 다음 사항을 반드시 확인하라고 권고한다.

  • '항상 허용' 권한은 최소화 — 처음 연동 시 부여하는 권한 범위를 꼼꼼히 확인
  • 주소·결제정보 공유 여부 사전 점검 — 에이전트가 어떤 정보에 접근할 수 있는지 파악
  • 메모리·기록 공유 설정 재검토 — 오픈AI 닷츠는 메모리 공유를 끌 수 있으나, 이미 수집된 데이터는 자동 삭제되지 않음
  • AI가 보내는 메시지 모니터링 — 에이전트가 나를 대신해 무슨 말을 하고 있는지 주기적으로 확인

AI 에이전트는 분명 편리하다. 그러나 그 편리함은 당신의 가장 사적인 정보를 대가로 한다는 사실을 잊어선 안 된다.