과기정통부, 생성형 AI 보안 위협 대응 토론회
"서버 응답 수집해 복제 모델 만드는 게 큰 위험"
"산학연 연구 통해 방어 가능…MS·구글도 진행"
"서버 응답 수집해 복제 모델 만드는 게 큰 위험"
"산학연 연구 통해 방어 가능…MS·구글도 진행"
|
13일 서울 송파구에서 과학기술정보통신부(과기정통부)가 개최한 '생성형 AI 보안 위협 대응 관련 산학연 전문가 토론회'에서 이상근 고려대 교수는 챗GPT를 활용한 사이버공격의 위험성이 커지고 있다고 언급했다.
이 교수는 "챗GPT를 활용한 사이버 공격은 회피공격, 데이터 오염 공격, 백도어 공격, 모델 복제 공격 등 총 4가지 유형이 있다"면서 "이 중 공격자 서버 응답을 수집해서 복제 모델 만들어서 공격하는 '모델 복제 공격'이 가장 큰 위험으로 떠오르고 있다"고 설명했다.
'모델 복제 공격'은 공격자가 서버 응답을 수집해서 복제 모델을 만드는 것을 말한다. 이 교수는 "모델을 공격하려면 실제로 그 모델에 들어가야 알 수 있는데, 복제 모델이 있기 때문에 공격 성공률이 굉장히 높다"면서 "공격자들은 이를 통해 공격 성공률을 확산시키는 방안 등도 만들고 있다"고 지적했다.
이렇게 챗GPT를 활용한 사이버 공격이 커지고 있는 만큼, 이에 대한 대응 방안과 보안을 강화하기 위한 연구도 활발히 진행 중이다. 정일옥 이글루코퍼레이션 기술위원은 "챗GPT 관련 사이버 보안에서 가장 두드러진 것은 빅테크를 중심으로 한 단독 플랫폼 형태의 보안 모델이 나오고 있다는 것"이라며 "마이크로소프트(MS)와 구글도 많은 보안 데이터 훈련을 해서 시큐리티 데이터 모델을 제시하고 있다"고 설명했다.
보안업체를 중심으로 독자적인 생성형 AI 모델 생성도 진행되고 있다. 정 위원은 "기 보안 업체를 중심으로 독자적인 생성형 AI 모델을 생성해 대응 분야에 지원하고 있으며 기존의 AI를 결합한 하이브리드 모델 기반의 서비스를 제공하고 있다"고 말했다. 이와 함께 보안 진단을 통해 예방 분야에서도 챗GPT와 같은 생성형 AI 적용한 보안 툴도 만들어지고 있다고 덧붙였다.
생성형 AI의 보안 위협이 커지고 있지만, 오히려 챗GPT를 활용해 사이버 보안에 제대로 방어할 수 있다는 점도 언급됐다. 김정희 한국인터넷진흥원 미래정책연구실장은 "챗GPT는 보안 생태계의 게임 체인저로 다양한 변화를 주도할 수 있다"며 "산학연 보안전문가들이 AI 기술을 갖추고 AI로 생성된 채커 코드를 더 잘 발견할 수 있으며, 기업은 생성형 AI를 조력자로 활용해 보안 업무의 효율성과 효과성을 확대할 수 있다"고 강조했다.
김정희 실장은 MS나 구글도 해당 투자 늘려가고 있으며, 사이버 보안 관련 별도 체계가 아니라 국가 운영 협력 네트워크를 작동하고, 인력 양성과 R&D 등을 통해 진화하는 AI 보안 위협에 대한 핵심 대응역량을 제고할 것을 주문했다.
박윤규 차관은 "80년대 후반 인터넷이 등장하면서 세계 각국에서 우려가 있었지만, 인터넷을 통해 새로운 경제를 창출하고 발전을 이뤄냈다"면서 "생성형 AI인 챗GPT도 이러한 사례를 벗어나지 않을 거라 생각한다"고 말했다.
그러면서 "생성형 AI를 적극 활용한다면 경제 발전과 기술 촉진을 할 수 있으므로 챗GPT 예방 보안 체계 구축과 동시에 사이버 보안을 접목한 활용 방안이 잘 나올 수 있길 바란다"며 "정부에서도 이날 토론회의 발표 내용을 기점으로 챗GPT를 안전하게 활용할 수 있도록 대응 방안을 적극적으로 모색해나가겠다"고 강조했다.
|
