|
|
방향 자체를 문제 삼기는 어렵다. 24시간 신고와 수사, 행정을 동시에 감당하는 경찰에 AI는 더 이상 낯선 실험이 아니다. 반복적인 민원 응대와 자료 검색, 보고서 작성 보조 등은 AI가 충분히 도울 수 있는 영역이다. 실제로 경찰은 판례 검색과 수사보고서 작성, 영장 신청서 초안 작성 등을 지원하는 시스템을 이미 운용 중이다. 업무 효율을 높이고 현장 부담을 덜겠다는 취지에도 고개가 끄덕여진다.
문제는 그 다음이다. AI를 어디까지 보조 수단으로 쓸 것인지, 오판이 발생하면 누가 책임을 질 것인지, 국민의 기본권에 영향을 미치는 영역에서 어떤 통제장치를 둘 것인지에 대한 답은 아직 또렷하지 않다. 경찰청이 AI 활용 원칙과 조직 거버넌스, 위험관리 기준 등을 담은 내부 훈령 제정에 나선 것도 이런 공백을 의식했기 때문일 것이다. 특히 사고가 발생할 경우 경찰관이 최종 책임을 진다는 원칙을 명문화하는 방안도 검토되고 있다.
하지만 바로 이 지점에서 더 큰 의문이 생긴다. 과연 현장 경찰관 개인에게 '최종 책임'을 지우는 방식만으로 충분한가 하는 점이다. AI는 사람처럼 판단하는 듯 보이지만 실제로는 편향과 오류, 이른바 환각 가능성을 안고 있다. 수사와 치안 영역에서의 잘못된 추천이나 왜곡된 분석은 단순한 시스템 오작동으로 끝나지 않는다. 잘못된 수사 방향, 억울한 피해, 설명되지 않는 공권력 행사로 이어질 수 있다. 경찰 내부에서도 개인정보 유출과 국민 감시 논란, 알고리즘 편향에 대한 우려가 제기되고 있다. 전문가들 역시 경찰 작용은 공권력을 행사하는 재량 행위인 만큼 AI가 최종 결정을 대신하는 구조는 위험하다고 지적한다.
현장 활용도가 충분히 검증됐는지도 의문이다. 경찰이 도입한 'AI 수사관'은 도입 초기보다 접속 건수가 줄었고, 판례 데이터 부족 등으로 분석의 한계가 드러났다는 지적도 나왔다. 현장이 완전히 신뢰하지 못하는 시스템이라면 조직 확대와 사업 확장보다 먼저 정확성과 설명 가능성부터 따져봐야 한다. 기술이 있다는 이유만으로 공권력의 판단 과정에 성급히 얹어서는 안 된다.
경찰은 지금 AI 치안의 속도를 높이고 있다. 그러나 시민이 더 궁금한 것은 기술의 화려함이 아니다. AI가 문서를 얼마나 빨리 쓰고 민원을 얼마나 잘 분류하느냐보다, 그 기술이 수사와 치안 현장에 들어왔을 때 누가 검증하고 어디서 멈춰 세우며 문제가 생기면 조직이 어떻게 책임질 것인지가 더 중요하다. 공권력은 원래도 설명 책임이 무겁다. AI가 더해진 공권력이라면 그 책임은 더 무거워져야 한다. 기술보다 먼저 완성돼야 할 것은 속도가 아니라 책임의 구조다.
