“AI가 찾은 자료, 연구자는 검증해야”…국가R&D 연구윤리 기준 마련

AI 생성물 오류·출처 진위 직접 확인
연구 성과 최종 책임은 연구자에게
사실검증·투명성·보안 등 7대 권고

과학기술정보통신부 현판/과기정통부

국가연구개발에 참여하는 연구자가 인공지능(AI)을 활용할 때 지켜야 할 연구윤리 기준이 마련됐다. 연구자는 AI 생성물의 오류와 출처 진위를 검증하고, 개인정보가 담긴 자료를 AI 서비스에 입력하지 않도록 주의해야 한다. AI를 활용한 연구개발 성과의 구현 과정도 논리적으로 설명할 수 있어야 한다.

과학기술정보통신부는 이 같은 내용을 담은 '국가연구개발 AI 연구윤리 가이드'가 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 확정됐다고 20일 밝혔다. AI가 연구 전 과정에 활용되면서 생산성은 높아졌지만 부정확한 정보 생성과 개인정보 유출, 출처가 불분명한 자료의 부적절한 인용 등 새로운 연구윤리 위험도 커진 데 따른 조치다.

가이드는 사실관계 검증, 주체적 판단, 투명성 확보, 결과 신뢰성 관리, 정책·규정 준수 ,보안 확보, 개인정보 보호 등 7대 권고사항을 제시했다. 연구자는 AI가 제시한 자료의 오류와 핵심 자료 누락, 출처의 존재 여부와 진위를 확인해야 한다. AI 생성물을 활용할 때도 논리적 타당성과 전문지식을 바탕으로 검토하고 자신의 관점을 반영해 재구성하도록 했다.

AI를 사용한 사실도 공개하도록 권고했다. 연구 과정에서 AI를 활용한 경우 최종 성과물을 제출하거나 발표할 때 모델과 버전, 활용 목적과 범위를 밝혀야 한다고 명시했다. 정보 수집과 데이터 추론·정리뿐 아니라 문법·오타 점검과 번역에 AI를 사용한 경우도 공개 범위에 포함된다.

보안이 필요한 연구에는 연구기관이 허가한 환경의 AI 도구만 사용하도록 했다. 연구기관은 관련 지침과 기술적 보안체계를 마련해야 한다. 연구자는 개인정보와 의료데이터, 미발표 연구자료, 특허 출원 예정 기술 등을 외부 AI 서비스에 입력하지 않도록 주의해야 하고 개인정보 활용이 불가피할 때는 비식별화 등 보안 조치를 먼저 해야 한다고 설명했다.

국가연구개발 과제 평가와 논문 심사 과정에도 별도 기준을 제시했다. 평가자는 연구계획서와 결과보고서, 논문 등 평가 대상 자료를 외부 AI에 입력하지 않고 전문성을 바탕으로 직접 평가해야 한다. 피평가자도 문서에 숨은 명령어를 넣어 AI가 긍정적인 평가를 내리도록 유도하는 '은닉 프롬프트' 등으로 심사 기준을 회피하거나 평가를 왜곡해서는 안 된다는 점도 적시했다.

홍순정 과기부 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며 "이번 가이드가 연구 현장에 책임 있는 AI 활용 문화를 정착시키고 국가연구개발의 연구 진실성을 확보하는 계기가 되기를 기대한다"고 말했다.

한편, AI 활용 사실을 투명하게 공개한 논문은 극소수인 것으로 나타났다. 가이드 해설서가 유의사항 사례로 소개한 해외 연구에 따르면 과학논문 16만4000편을 분석한 결과, 2023년 이후 발표된 논문 7만5000편 가운데 AI 사용 사실을 공식적으로 밝힌 논문은 76편으로 약 0.1%에 그쳤다.