AI 진화의 역설…경찰도, 국정원도 ‘보안 위협’ 경고

AI 관련 범죄 빠르게 고도화
경찰 "과거와 비교할 수 없을 지능"
국정원 "생성형 AI 위협 급속 확산"
'AI 규제' 시행되나 '실효성' 의문

/게티이미지뱅크

경찰과 국가정보원(국정원)이 잇따라 AI의 위험성을 경고하고 나섰다. 해킹, 피싱 등의 범죄가 AI 발전과 발 맞춰 빠르게 고도화하며 새로운 '보안 위협'으로 부상하고 있기 때문이다. 우리나라의 경우 사업자 책임 강화 등 세계 최초로 AI를 규제하는 법안이 내년 1월부터 시행될 예정이다. 하지만 AI의 취약한 '관리 방식'에 대한 논의는 생략한 채 기술 자체를 일괄적으로 옭아매는 데 초점을 맞춰 관련 범죄 예방과는 거리가 멀다는 지적이 나오고 있다.

경찰대학 치안정책연구소는 16일 발표한 '치안전망 2026'에서 AI를 '신종 위협'으로 명시했다. 그러면서 "AI 연계 범죄의 양상과 위험성이 과거와 비교할 수 없을 정도로 지능적으로 진화하고 있다"고 밝혔다. 특히 AI를 활용한 합성음성, 이른바 '딥보이스' 보이스피싱이 확산하는 추세다. 피해자의 가족이나 지인 목소리를 AI 기술로 합성해 피해자의 '현실 판단 능력'을 마비시키는 방식이다. 보이스피싱이 불법도박, 마약, 인신매매 등 다른 범죄로 확장되는 점을 고려하면 AI를 활용한 범죄는 계속 증가할 것이라는 분석이 설득력을 얻고 있다.

국정원도 AI를 이용한 사이버 범죄의 진화를 경고하고 있다. 지난 10일 공개된 국정원의 'AI 보안 가이드북'에 따르면, 생성형 AI의 고도화가 다양한 보안 취약점을 드러내고 있는 상황이다. 실제로 2023년 3월 삼성전자에서는 직원이 챗GPT를 사용해 입력한 업무용 소스코드, 회의 내용 등이 외부에 유출되는 사건이 발생했다. 올해 6월에는 악성 메일을 받은 사용자의 민감 정보 등이 유출된 '제로클릭' 공격이 최초로 포착되기도 했다. 제로클릭 공격이란 사용자가 링크를 클릭하는 등의 행위를 하지 않아도 공격을 이뤄지는 걸 뜻한다. 피해 사실조차 인지하기 어렵다는 점에서 기존 보안 인식과 대응 방식의 한계를 드러낸 사례로 평가된다.

문제는 이러한 위협이 공공 분야 전반으로 빠르게 확산하고 있다는 점이다. 국정원에 따르면 중앙행정기관, 지자체 등 공공기관의 생성형 AI 도입 비중은 2023년 34%에서 지난해 77%로 급증했다. 기관들은 보고서 작성과 민원 대응 목적으로 AI를 적극 활용하고 있으며 2027년까지 순찰로봇, AI 비서 등 추가적인 기술 도입도 예정돼있다. AI 활용 범위가 넓어질수록 보안사고 발생에 따른 파급력도 커질 수밖에 없다.

이 같은 상황에서 국회는 AI로 인한 위험을 사전에 관리하겠다며 세계 최초의 'AI 규제' 도입을 예고했다. 내년 1월 22일 시행을 앞둔 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'에는 AI 사업자의 광범위한 책무 부과와 AI 생성물에 대한 워터마크 표시 의무화 등이 담겼다. 그러나 AI 범죄의 실제 양상과 보안 위협의 원인이 기술 자체보다는 관리·운영 체계에 있다는 점을 고려할 때 포괄적 규제가 과연 실효적인 해법이 될 수 있는지를 두고 논란이 이어지는 상황이다. 관련 업계에서는 기술 발전 속도와 현장의 현실을 충분히 반영하지 못한 채 규제부터 앞세울 경우 보안 강화보다는 AI 산업 전반의 위축으로 이어질 수 있다는 비판을 제기하고 있다.