2024년에는 여러 이유로 인해 사이버 보안이 강력한 투자 테마가 될 것으로 예상된다. 첫째, 사이버 공격이 진화함에 따라 기업은 보안 관련 비용을 더욱 늘려야 하는 상황이다. 둘째, 생성형 AI의 역할이 점점 더 커지고 있다. 생성형 AI는 공격자가 타깃 사이트의 취약점을 발견하고 더 효율적으로 공격할 수 있는 방법을 찾는 데 악용되기도 하지만, 보안팀이 더 나은 방어 체계를 구축하고 위협을 탐지하며, 보다 효율적으로 운용 관리하는 데 도움을 주기도 한다. 양날의 검인 셈이다. AI의 확산으로 인해 사이버 보안 업계는 새로운 국면을 맞이하고 있다.

사이버 공격 효율화에 악용되는 생성형 AI

기술적으로 보안 수준이 높다고 판단되는 기업도 사이버 공격으로부터 자유로울 수는 없다. 2023년에 마이크로소프트는 러시아 해킹 조직인 미드나잇 블리자드(Midnight Blizzard)로부터 마이크로소프트의 소스 코드 저장소 및 내부 시스템에 침투하려는, 국가 차원의 공격을 받은 바 있다. 뿐만 아니다. 전기 장비 공급 선도 기업인 존슨 컨트롤스(Johnson Controls)도 해커집단인 다크 엔젤스(Dark Angels)에게 27테라바이트가 넘는 회사 데이터를 탈취당했고 암호 해독에 대한 조건으로 5,100만 달러의 랜섬웨어를 요구당하기도 했다. MGM 리조트에서는 해커가 1천만 명이 넘는 고객의 개인 데이터를 훔친 사건도 있었다. 

정부 자산도 표적이 되고 있다. 중국에 기반을 둔 해커들은 2023년 5월부터 미국 국무부와 상무부를 포함한 약 24개 기관의 직원 이메일 계정에 액세스하는 데 성공했고, 이 사실은 3개월 동안이나 발각되지 않아 더 큰 문제로 인식되었다. 2025년까지 사이버 공격은 기업과 정부에 연간 10조 5천억 달러 상당의 피해를 입힐 것으로 예상되며, 이는 2015년 대비 300% 가까이 증가한 수치다. 하지만 아직 전 세계의 연간 사이버 보안 지출액은 2,250억 달러 규모에 불과하다. 정교해지는 사이버 공격을 방어하고 기술 환경의 역동적인 변화를 따라잡기에는 턱없이 부족해 보인다. 

사이버 공격 증가의 중요한 배경 가운데 하나는 피싱(Phishing) 및 소셜 엔지니어링 기반 공격에 특히 중요한, 정교한 수준의 생성형 AI 모델이 점점 더 빠른 속도로 개발되고 있다는 점이다. 대규모 언어 모델은 실시간 뉴스와 업데이트, 개인 식별 정보 등을 바탕으로 점차 더 사실처럼 보이는 악성 링크, 이메일, 가짜 웹사이트를 생성할 수 있다. 

보안 침해의 약 88%가 사람의 실수로 인해 발생한다. 생성형 AI는 해커가 사람의 취약점을 악용하여 더 광범위한 시스템에 액세스할 수 있도록 도와줄 수 있다. 클라우드 보안 선도업체인지스케일러(Zscaler)는 2022년 AI를 이용한 피싱 공격이 47% 급증했다고 보고한 바 있다. 

또한 인간 해커와 달리 AI 에이전트는 24시간 연중무휴로 작동하며 웹사이트, 도구, 시스템 등 디지털 자산의 취약점이 어디에 있는지 모니터링하도록 설계할 수 있다. 끊임없이 가동되기 때문에 웹사이트를 공격하는 AI 에이전트는 점점 더 큰 위협이 되고 있다. 또 다른 위협은 온라인 디지털 어시스턴트(digitalassistant, 핸드폰 및 PC 등에 탑재되어 사용자의 질문에 답하거나 기본적인 요청 업무를 수행해 주는 IT 서비스)를 보안 확인 없이 사용하는 예가 늘어나면서 개인 정보가 쉽게 공유되고 있다는 점이다. 많은 대기업에서는 적합한 지침이 마련될 때까지 이러한 모델에 대한 액세스를 제한하고 있다.

AI는 사이버 보안 강화에도 효율적으로 활용

반면 AI는 이러한 공격을 막는 포지션에 있어서도 선봉에 서 있다. AI는 일상적인 표준 트래픽에서 벗어난 패턴을 스캔하여 이상 징후를 탐지하고 이를 신속하게 인간에게 알려줌으로써 이상 징후 탐지에 도움을 줄 수 있다. 이러한 도구는 기술적 수준이 낮고, 보안 관리 인원 규모가 적은 기업에 특히 효과적일 수 있다. 또한 AI는 사이버 보안 경고, 침해, 로그 데이터를 간단하게 정리ㆍ요약하여 엔지니어가 IT 문제를 신속하게 파악할 수 있도록 도와준다. 사이버 보안 업무 인력이 심각하게 부족한 상황에서 이러한 AI의 역할은 생산성을 크게 높일 수 있다. 또한 기업은 AI를 사용하여 침투 테스트를 수행하고 기업 시스템에 침입을 시도하는 가상의 시나리오를 만들어 네트워크의 취약점을 파악할 수 있다. 

업계는 이러한 AI 기반 보안에 대한 수요가 역동적으로 증가하고 있다는 사실을 파악하고 발빠르게 대응하고 있다. 2023년, 엔드포인트(네트워크 말단에 접속된 IT기기) 보안 분야의 선두주자인 크라우드스트라이크(CrowdStrike)는 샬롯 AI(Charlotte AI)를 출시했는데, 이 서비스는 전반적인 보안 작업을 수행할 수 있는 기본적 수준의 보안 분석가 역할을 한다. 이 시스템은 인간 운영자, 침입 탐지기, 사고 대응팀의 인사이트를 포함하는 긴밀한 피드백 루프를 특징으로 한다. 또한 이 시스템은 200개 이상의 공격자를 추적하여 점점 더 정교해지는 공격자의 전술과 침해 기법을 학습한다. 이러한 학습을 통해 보안 인텔리전스를 향상시킨다. 

마찬가지로 글로벌 클라우드 보안업체인 체크 포인트(CheckPoint)는 인피니티 AI 코파일럿 (Infinity AI Copilot)이라는 AI 기반의 보안 업무 지원 및 자동화 서비스를 출시하여, 전 세계적으로 사이버 보안 전문가가 부족한 상황에 대한 솔루션을 제공하고자 했다. 신원 관리 서비스 제공업체인 오크타(Okta)는 인력 및 고객 신원 확인을 지원하는 일련의 AI 전용 서비스를 출시했다. 팔로알토 네트웍스(Palo Alto Networks), 지스케일러, 포티넷(Fortinet)을 비롯한 거의 모든 주요 사이버 보안 공급업체가 AI기반의 사이버 보안 서비스 제품의 출시를 준비 중이다. 

대형 클라우드 공급업체도 AI를 사용하여 사이버 보안 분야에서 시장점유율을 확대하려는 움직임을 보이고 있다. 2024년 4월에 출시된 마이크로소프트 시큐리티 포 코파일럿(MicrosoftSecurity for CoPilot)은 보안 및 IT 전문가가 질문을 하고, 위협을 평가하고, 코드를 작성하고, 보안 및 방어 작업을 수행할 수 있도록 지원한다. 시큐리티를 구동하는 모델은 마이크로소프트가 매일 처리하는 78조 개 이상의 보안 신호를 기반으로 한다. 숙련된 보안 전문가의 경우 이 플랫폼을 통해 분석 속도를 약 22%가량 높이고, 정확도 역시 7% 가까이 향상할 수 있을 것으로 예상된다. 이 플랫폼을 사용해 본 보안 전문가의 97%가 이 플랫폼을 다시 사용할 의향이 있다고 답했다.

지난 2023년 구글은 위협 인텔리전스(Threat Intelligence, 사이버 보안 위험을 줄이기 위한 조직 내 의사결정 및 전달 과정, 선제적인 사이버 방어체계를 구축하기 위한 고급 정보) 및 사이버 보안 운영 플랫폼에 생성형 AI를 통합했다. 구글은 자회사인 사이버 보안 기업 맨디언트(Mandiant)의 사이버 인텔리전스 제품과 크로니클(Chronicle)의 보안 운영 플랫폼을 자사 생성 AI모델 개발 플랫폼인 버택스(Vertex) AI와 결합한다. 이를 통해 AI 기반 보안 서비스의 핵심이 될 시크-팜(Sec-PaLM)이라는 시스템을 구축할 예정이다. 구글이 2022년에 인수한 맨디언트의 소프트웨어이가 이 시스템의 근간을 이루고 있다.

보안 지출에 혜택을 주는 AI 

사이버 보안 예산은 광범위한 IT 산업의 침체에도 불구하고 2022년에는 10.6%, 2023년에는 14.2% 증가할 것으로 예상된다. 이러한 회복세는 특히 AI의 확산으로 인해 새로운 위협이 등장할 가능성이 높은 상황을 감안한 것으로 보인다. AI 발전에 대항해 포괄적인 방어 체계를 지속적으로 구축해야 한다는 시급성과 의지가 반영된 증가세다. Global X의 예측에 따르면 2030년까지 연간 보안 지출예산은 4,500억 달러를 넘어설 것으로 예상된다. 사이버 보안을 위한 인공 지능 솔루션 부문의 지출만 별도로 살펴보아도 2028년까지 610억 달러로 증가할 전망이다.

소프트웨어 기반의 예산은 사이버 보안에서 흔히 사용되는 반복 수익 모델(Recurring Revenue 구독기반 모델에서 기업이 정기적으로 수익을 얻는 구조)의 예측 가능한 특성을 고려할 때 독특한 회복력을 보일 가능성이 높다. 나아가 업계는 소비 기반 가격책정 모델(consumption-based pricing model)로 전환하고 있다. 즉 고객의 실제 사용 데이터에 기반하여 가격이 책정되는 구조이기 때문에 보안 기업은 고객 만족도를 높이고 장기적인 충성 고객을 확보하는 만큼 더 많은 이윤을 창출할 수 있다. ID 보안, 애플리케이션 보안, 침투 테스트, 엔드포인트 보안, 제로 트러스트 솔루션과 같은 분야는 엄청난 모멘텀을 보일 것으로 예상된다. 

또한 보안 서비스가 점점 더 세분화되고 있는 상황에서, 대형 기업은 다양한 공급업체로부터 솔루션을 구매하는 것을 선호하는 흐름을 보이고 있다. 따라서 업계 전반의 M&A(인수합병)가 올해 다시 활성화될 것으로 예상되며, 이러한 추세는 어느 정도 지속적으로 유지될 것으로 보인다. 이미 2024년에 지스케일러는 아발로(Avalor)를 인수했고 크라우드스트라이크는 플로우 시큐리티(Flow Security)를 인수할 것이라고 발표했다. 두 건 모두 포트폴리오에 AI 우선 솔루션을 추가하기 위한 전략적 거래였다. 

결론적으로 AI는 사이버 보안의 지속적인 성장을 위한 원동력이 될 수 있다.

생성형 AI는 새로운 사이버 보안 위협을 제기하지만, 기업이 공격을 차단할 수 있는 동적 솔루션을 개발하는 데도 도움이 되고 있다. 주요 사이버 보안 공급업체는 인간 분석가를 보강하고 보안 운영을 자동화하기 위해 AI 기반 기술을 빠르게 개발하고 있으며, 클라우드 제공업체들은 생성형 AI를 사이버 보안 스택에 통합하고 있다. 경제적 부침에도 불구하고 사이버 보안 지출은 견조하게 증가할 것으로 예상된다. 또한 기업이 AI 역량 강화를 모색함에 따라 업계 통합은 계속될 것으로 전망된다. 이러한 업계 전반의 우상향 움직임은 결국 사이버 보안 시장의 성장을 의미하며, 투자자의 관심을 모을 것이다.