[토토 사이트 커뮤니티 김정우 기자] 랜섬웨어 등 해킹 공격 수단이 날로 고도화되는 가운데 ‘챗GPT’와 같은 생성형 인공지능(AI) 관련 보안 위협 가능성이 제기됐다. 다만 아직 AI를 통한 사이버 공격 위협이나 보안 활용 범위는 제한적인 것으로 평가된다.

SK쉴더스 화이트 해커 전문가 그룹 ‘이큐스트(EQST)’는 20일 올해 상반기 주요 보안 트렌드와 AI 보안 위협 전망을 공유하는 미디어 세미나를 열고 주요 해킹 사례, 업종별 침해사고 통계, 주요 공격 시나리오 등을 소개했다.

특히 최근 IT 업계에서 급부상하고 있는 생성형 AI에서 발생 가능한 보안 위협과 실제 EQST가 검증한 AI 활용 방안, AI 사용 가이드를 공유했다.

이호석 EQST Lab 담당은 생성형 AI 보안 위협이 존재하며 시나리오 모의 해킹, 시큐어 코딩 등에서 활용 가능성이 보인다고 밝혔다.

또 생성형 AI를 딥페이크 기술과 접목해 피해자의 목소리와 얼굴을 모방한 후 피싱 공격을 수행하는 행태가 늘어날 것으로 전망됨에 따라 출처가 불분명한 이메일이나 첨부파일을 실행하지 않도록 주의를 당부했다. 

관련 보안 위협은 크게 AI 모델과 학습 데이터를 대상으로 공격하는 유형과 AI 활용 서비스를 악용하는 데서 발생하는 위협으로 분류된다.

AI 모델을 대상으로 한 위협으로는 입력 데이터를 조작하거나 악의적인 데이터를 추가해 조작하는 공격이 있으며 AI 활용 서비스를 악용한 공격으로는 프롬프트 인젝션, 민감정보 유출, 악성코드 생성, 딥페이크 등이 있다. 프롬프트 인젝션은 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 원래 목적 이외의 답변을 이끌어내는 공격 유형이다. 

생성형 AI 도입이 전 산업계로 확대됨에 따라 EQST는 보안 영역에서의 실제 활용 방안을 테스트한 결과도 발표했다.

보안 실무에서 주로 사용하는 4가지 분야에 생성형 AI를 도입해 검증한 결과 시나리오 모의해킹과 시큐어 코딩이 각각 60%와 50%를 차지, 모의해킹 시나리오를 생성하거나 주요 프로그래밍 언어에 대한 분석이 가능함을 확인했다. 모바일 서비스의 보안 취약점을 점검하거나 악성코드를 분석하는 데는 활용도가 떨어졌다.

이호석 담당은 “생성형 AI 모델이 발전함에 따라 정확도와 활용도가 높아질 것으로 보이지만 보안 영역에서 활용하기엔 초·중급 수준”이라며 “생성형 AI가 도출해 낸 결과에 의존하기 보다는 보조 도구로 적절히 활용해야 할 것”이라고 말했다.

올해 상반기 사이버 공격은 지난해 같은 기간에 비해 크게 늘어난 것으로 나타났다. EQST에 따르면 상반기 공격 비율이 전년 상반기 대비 49.33% 증가했으며 기업의 기밀이나 개인의 금융 정보를 탈취하는 정보유출 침해사고가 30%로 가장 많이 발생했다.

특히 올해는 오래된 취약점을 활용한 대규모 랜섬웨어 공격이나 제로데이를 악용한 악성코드 감염사고가 증가하며 28%를 차지했다.

업종별 침해사고 발생 통계를 살펴보면 국내에서는 제조업에서 발생한 사고가 19%로 가장 높았다. 이는 제조업을 타깃으로 삼아 기업의 기밀 정보나 영업 정보를 탈취하기 위한 초기 침투 전문 브로커(IAB)의 활동이 활발했기 때문이다.

서비스업 솔루션 취약점을 악용한 공격도 15%를 차지했으며 가상자산을 노리고 악성코드를 배포해 금융정보를 탈취하는 침해사고도 12%로 나타났다.

EQST는 IAB의 활동으로 랜섬웨어 그룹이 점점 더 조직화되고 있으며 전문적인 지식 없이도 손쉽게 공격을 시도해 금전적 이득을 취할 수 있는 생태계가 확립되고 있다고 밝혔다. 최근 랜섬웨어 그룹들이 IAB를 비롯해 랜섬웨어 개발자, 웹 디자이너·개발자 등 역할을 분담해 공격을 세분화하고 있다는 설명이다.

또한 EQST는 감염된 소프트웨어로 인해 또 다른 소프트웨어가 감염되는 연쇄적 소프트웨어 공급망 공격의 위험성도 경고했다.

약 2500억원 규모의 가상자산을 10분만에 탈취한 ‘플래시론’ 공격에 대해서도 다뤘다. 플래시론 공격이란 탈중앙화(DeFi) 대출 서비스로 받은 대출금을 이용해 비정상적인 행위를 수행하거나 취약점을 공격해 가상 자산을 탈취하는 공격이다. 가상자산 거래가 활발해짐에 따라 공격 방법과 대상이 다양화되고 있음을 나타내는 사례다.

EQST는 하반기 주요 보안 위협으로 △확장된 소프트웨어 공급망 공격 △랜섬웨어 시장 변화 △북한발 해킹 증가 △소프트웨어 취약점을 악용한 공격 △피싱 패턴의 다양화를 전망했다.

특히 ‘김수키’, ‘라자루스 그룹’ 등 대표 북한 해커 그룹이 특정 타깃을 목표로 하는 스피어 피싱과 악성코드 기능을 고도화시키고 있어 피해가 커질 것으로 분석했다.

SK쉴더스는 빠르게 변화하는 보안 트렌드에 발맞춰 컨설팅, 보안관제, 모의해킹 등 사이버 보안 전 영역에 걸친 서비스를 제공한다. 다변화·지능화되고 있는 랜섬웨어 공격에 대응하기 위해 국내 유일의 민간 랜섬웨어 대응 협의체 ‘카라(KARA)’ 운영을 주도하고 있다.

이를 통해 랜섬웨어 사고 접수·대응·복구·대책까지 원스톱 솔루션을 제공하며 분야별 전문가를 지원한다. 이밖에도 기업별 맞춤형 보안 컨설팅과 산업 영역별 모의해킹 서비스, 최신 침해위협지표(IoC)를 실시간 반영한 MDR(위협 탐지 대응) 서비스 등을 통해 기업의 사이버 위협 대응 역량 강화를 돕는다.

이재우 SK쉴더스 EQST사업그룹장은 “향후 생성형 AI가 고도화되면 공격의 자동화, 공격 수준의 상향평준화가 예측되며 해당 공격을 대응하기 위한 방어 측면에서도 생성형 AI가 반드시 필요할 것으로 예상된다”며 “EQST는 방어 측면에서의 생성형 AI 적용에 대해 연구해 고도화되고 있는 공격에 대한 대책을 선제적으로 제시할 것”이라고 밝혔다.

한편 EQST의 ‘2023 상반기 보안 트렌드 및 AI 보안 위협 전망’ 보고서는 SK쉴더스 공식 홈페이지에서 무료로 다운로드 할 수 있다.