마이크로소프트 공동 창업자 빌 게이츠가 인공지능(AI)이 악의적인 세력에 의해 악용될 경우 대규모 인명 피해로 이어질 수 있다며 정부 차원의 규제와 감독이 필요하다고 촉구했다.
게이츠는 25일 공개된 NBC ‘Meet the Press’ 인터뷰 일부에서 AI가 최대 10억 명의 사망을 초래할 수 있는 사건을 일으킬 정도로 강력한 기술이라고 경고했다.
특히 악의를 가진 사람들이 최신 AI 도구를 결합해 사용할 경우 지금까지 등장한 어떤 무기보다 강력한 수단이 될 수 있다고 말했다.
“기업 자율규제만으로는 부족”
게이츠는 연방정부와 의회가 AI 개발 과정에 안전장치와 모니터링 체계를 의무화하는 법안을 마련해야 한다고 강조했다.
이어 AI 기업들의 자율적인 규제만으로는 충분하지 않으며, 법 집행기관과 정치권이 AI의 안전장치와 감독 체계 마련에 직접 참여해야 한다고 주장했다.
다만 게이츠는 AI가 인류 전체를 소멸시킬 가능성과 당장 악의적인 행위자들이 AI를 이용해 대규모 피해를 일으킬 가능성은 구분했다.
특히 테러 조직이나 적대적인 국가 등이 AI를 이용하는 것이 단기적으로 더욱 현실적인 위험이 될 수 있다는 취지의 우려를 제기했다.
AI 악용 사례 잇따르며 우려 확대
게이츠의 발언은 최근 AI 기술의 악용 가능성과 안전 문제를 둘러싼 논쟁이 커지는 가운데 나왔다.
최근 AI 업계에서는 고성능 AI 모델이 사이버 공격이나 위험한 기술 개발 등에 악용될 가능성에 대한 경고가 잇따르고 있다.
AI 기업 경영진과 연구자들 사이에서도 기술 발전 속도와 안전장치 마련의 균형을 둘러싼 논의가 이어지고 있다.
게이츠 역시 앞서 AI가 사이버 공격과 사기, 허위정보 확산 등 대규모 피해를 일으키는 데 악용될 가능성을 지적해왔다.
AI 규제 둘러싼 미국 내 입장 차이
AI를 둘러싼 정부 규제의 필요성을 놓고 미국 내에서도 의견이 엇갈리고 있다.
일부 AI 기업 경영진은 고성능 AI의 위험을 줄이기 위한 안전 기준과 감독이 필요하다는 입장을 내놓고 있다.
반면 미 정부에서는 과도한 규제가 AI 기술 발전과 경쟁력을 저해할 수 있다는 우려도 제기되고 있다.
게이츠는 AI 발전 자체를 중단해야 한다는 입장보다는 기술 개발과 함께 안전장치와 감독 체계를 의무적으로 마련해야 한다는 데 초점을 맞췄다.
게이츠는 AI 규제가 업계에 일정한 부담을 줄 수는 있지만 기술 발전 자체를 크게 늦추지는 않을 것이라고 주장했다.
이번 발언은 AI 기술이 빠르게 고도화되는 가운데 안전과 혁신 사이에서 어느 수준의 정부 개입이 필요한지를 둘러싼 논쟁이 계속되고 있음을 보여준다.