메릴랜드주 볼티모어카운티 켄우드고의 흑인 학생 4명이 인공지능(AI) 총기 감시 시스템의 오경보로 출동한 경찰에게 수갑이 채워지고 몸수색을 당했다며 11월 17일 볼티모어카운티 순회법원에 소송을 냈다. 학생들은 학교와 경찰 관계자, AI 기술업체 옴닐러트가 오경보를 확인하고도 적절히 대응하지 않아 시민권을 침해당했다고 주장했다.

소장에 따르면 학생들은 2025년 10월 20일 풋볼 연습을 마치고 학교 밖에서 기다리고 있었다. 옴닐러트의 총기 탐지 시스템은 학생 한 명이 먹던 쿨랜치 도리토스 봉지를 신뢰도 90%로 총기로 분류했다. 옴닐러트의 검토팀이 경보를 확인한 뒤 학교와 경찰 관계자에게 전달했다.

관계자 3명은 2분 안에 이미지를 검토해 오경보로 판단하고 경보를 취소했다. 그러나 캐서린 ‘케이트’ 스미스 교장은 최초 경보가 발송되고 10분 넘게 지나 이를 열어본 뒤 취소 사실에 대한 언급 없이 화면을 캡처해 학교 전담 경찰관에게 보냈다고 소장은 밝혔다. 전담 경찰관은 볼티모어카운티 경찰국에 연락했다.

오후 7시 21분쯤 경찰차 최소 6대가 경광등을 켜고 도착했다. 경찰관들은 총을 빼 들고 학생들에게 무릎을 꿇으라고 한 뒤 수갑을 채워 몸을 수색했다. 무기는 발견되지 않았으며 학생들은 당시 목숨을 잃을까 두려웠다고 소장을 통해 밝혔다.

학생들은 경찰이 자신들을 붙잡아 둘 합리적 의심의 근거가 없었으며, 4명 가운데 3명은 최초 경보 이미지에 나오지도 않았다고 주장했다. 소장에 따르면 교장과 학교 전담 경찰관은 과자만 발견된 뒤 웃는 이모지가 담긴 메시지 등으로 상황을 가볍게 받아들이는 대화를 나눴다.

메릴랜드주 교육감찰관실은 조사 결과 시스템이 잠재적 위협으로 판별한 대상이 과자 봉지 자체가 아닌 학생의 손동작이었다고 밝혔다. 감찰 보고서는 인종 편향의 증거를 찾지 못했으며, 2023년 11월부터 2025년 11월까지 볼티모어카운티 학교에서 발생한 옴닐러트 경보의 99% 이상이 경찰 개입이 필요 없는 오경보였다고 밝혔다.

시민권단체 ‘법에 따른 시민권을 위한 변호사위원회’가 대리하는 학생들은 손해배상과 함께 AI 경보의 위협 여부를 확인하는 절차와 관계자 간 연락 체계를 개선하라고 요구했다. 옴닐러트와 볼티모어카운티 경찰국은 진행 중인 소송에 대한 논평을 거부했고, 교육구는 논평 요청에 즉각 답하지 않았다.