2025년 AI發 보안 위기 온다

이 시간 주요기사

뉴스 > #E fact > IT·인터넷

2025년 AI發 보안 위기 온다

AI로 쉽게 정보 침해… “올해 사이버 침해사고 역대 최대치 기록할 듯”
정부·보안업체, 내년 위협 1위 ‘생성형 AI’… “목적 자체 불법적인 AI도”
정보보안책임자 82% “AI, 데이터 침해의 정교함·심각성 증가시킬 것”

김기찬 기자 기자페이지 + 입력 2024-12-18 12:38:26

▲ 18일 과학기술정보통신부와 한국인터넷진흥원이 발표한 내년 사이버 위협 주요 사항. 과학기술정보통신부

인공지능(AI) 기술의 발달로 정보 침해사고 위협도 덩달아 증가할 전망이다. AI 기술을 기반으로 한 정보 탈취 시도들이 지능화·다양화되고 있기 때문이다.

과학기술정보통신부와 한국인터넷진흥원(KISA)은 18일 ‘2024년 사이버위협 사례 분석과 2025년 사이버위협 전망’을 발표하며 내년 첫 번째 사이버위협으로 공격자의 생성형 AI 활용 본격화를 꼽았다.

과기정통부와 KISA는 “챗 GPT 외에도 국산 생성형 AI의 활용도 확산되고 있으며, 생성형 AI 외에도 목적 자체가 불법적인 사기(FruadGPT)·악성코드 생성(WormGPT)과 같이 사이버 범죄에 특화된 악성 인공지능 모형이 지하웹(다크웹) 등을 통해 유통되고 있어 이를 기반으로 한 사이버위협도 증가할 것으로 전망된다”고 강조했다.

한국인터넷진흥원(KISA) 등에 따르면 올해 사이버 침해사고 신고 건수는 2022년 1142건에서 작년 1277건으로 늘어나더니 올해 상반기에만 899건으로 집계됐다.

보안업계 전문가는 “상반기보다 하반기에 랜섬웨어(Ransomware) 등 침해사고 신고 건수가 더 많았다”며 “이 점을 감안하면 올해 사이버 침해사고는 역대 최대치를 기록할 전망”이라고 예상했다.

그런데 이런 침해사고 비중이 내년에는 더욱 늘어난 전망이다. AI 기술을 악용해 악성코드나 피싱 파일 등을 누구나 쉽게 제작할 수 있게 되면서다. 예컨대 생성형 AI로 텍스트나 이미지·음성·영상 등을 결합한 피싱 공격이 가능해지면서 신뢰할 만한 언론사나 기관을 사칭하거나 가짜 웹사이트를 유포하는 것도 가능해진다.

이 전문가는 “AI 기반 침해사고들이 국제적으로 늘어나는 추세”라며 “공격자들도 AI를 활용해 기존보다 더 많이 더 정교하게 다양한 방법으로 데이터에 접근을 시도할 가능성이 높아지고 있다”고 경고했다.

이에 전문가들 사이에서는 기존 사이버공격이 더욱 자동화되면서 공격 시도 자체가 늘어나고 대기업에 비해 보안이 취약한 중소기업을 대상으로 한 공격 시도도 점차 증가하는 만큼 내년에 침해사고 위협도 크게 늘어날 것으로 예상하고 있다.

실제로 SK쉴더스·안랩 등 보안업체들도 내년 보안 최우선 주의사항으로 AI 침해사고를 꼽을 정도다. 클라우드 기업 클라우드플레어(Cloudflare) 보고서에 따르면 아시아태평양 지역 최고정보보안책임자(CISO)들 가운데 82%가 AI가 데이터 침해의 정교함과 심각성을 증가시킬 것에 대해 우려하는 것으로 나타났다.

보안 업계 전문가는 “AI의 발달로 공격 시도 자체가 늘어나면 보안에 취약한 중소기업들을 대상으로 한 공격 시도도 많아지고 협력사 침투를 통한 원청 대기업의 정보도 빠져나갈 우려가 있다”며 “다양화되는 공격 시도를 방어하기 위해서는 침해사고 이후에도 면밀한 데이터 분석을 통해 공격자의 데이터 접근 경로나 이상징후를 사전에 파악해두고 대비하는 것이 중요하다”고 강조했다.

김기찬 기자 gckim@skyedaily.com 기자페이지 +