“정치적 사안으로 분류해 답변 회피하거나 시스템 오류 출력”
|
5일 유용원 국민의힘 의원이 국방부로부터 제출받은 자료에 따르면, 국방부가 개발·운용하고 있는 국방 생성형 AI가 '주적' 질문에 대한 답변을 출력하지 못했다.
국방부는 2024년부터 국방 생성형 AI 'GeDAI(Generative Defense AI)'를 군 자체 인력을 활용해 개발·운용하고 있다. 육군은 'Arvis', 공군은 'AiRWARDS'를 각각 개발해 운영 중이다. 해당 AI는 국방망 PC를 통한 내부 포털에서 이용이 가능하다.
해당 AI는 국방통합데이터센터 자원·각 군 특성과 데이터를 반영해 개발된 것으로 전해졌다. 국방부와 각 군 훈령·규정, 각 군의 교리·교범 등 군사 전문자료를 업무에 활용토록 검색증강생성 기술이 적용됐으며 각 사용자가 데이터를 직접 업로드해 활용할 수 있도록 하는 기능도 제공되고 있다고 한다.
유 의원은 "문제는 우리 군 장병이 국방 AI를 통해 '대한민국 주적은 누구인가'라는 안보관 관련 질의를 입력하자, AI는 '해당 질문은 정치적 사안에 해당하므로 답변할 수 없다'고 회피하거나 'ERROR' 등 시스템 오류 메시지를 출력했다는 것"이라고 지적했다.
최근 군이 AI를 활용한 정신전력교육·안보 교육을 확대하고 있는 상황인 만큼, 국방 AI가 기본적인 안보 질문을 정치적 사안으로 분류해 답변하지 못하거나 오류를 출력하는 것은 장병들 대적관과 안보관 형성에 혼선을 줄 수 있다는 것이 유 의원의 설명이다.
의원실은 국방부가 "현재 군 생성형 AI서비스는 완성형이 아니며 답변 결과와 무관하게 군사위협을 지속 가해오는 북한 정권과 북한 군은 우리의 적이라는 입장엔 변함이 없다"고 답했다고 전했다.
유 의원은 "국방 AI서비스는 장병들이 실제 사용하는 군 내부 시스템인 만큼 우리 군 기본적 안보관과 대적관을 정확히 반영해야 한다. 국방부가 공식 입장을 유지하고 있음에도 국방 AI가 기본적 질문을 정치적 사안으로 분류하거나 오류 출력하는 것은 납득이 어렵다"며 "AI 활용 범위가 확대될 가능성이 큰 만큼, 올바른 대적관과 확고한 안보관에 부합하는 답변을 제공토록 즉각 개선해야 한다"고 밝혔다.
