it-sue

2026년 9월 1일, 오픈AI 내부 보안팀은 한 가지 테스트 결과를 조용히 검토하고 있었다. 사람의 개입 없이 인공지능 모델이 실제 방어 체계를 갖춘 시스템의 미공개 결함을 찾아냈다. 그리고 그 결함을 이용해 침투 경로까지 스스로 완성해냈다.

이 모델의 이름은 아스트라다. 오픈AI가 최근 내놓은 신형 모델로, 이 실험 하나로 회사가 정한 최고 위험 등급인 ‘크리티컬’을 통과한 첫 사례가 됐다. 업계에서는 이를 두고 AI 자율 해킹 시대가 사실상 열렸다는 평가가 나온다.

아스트라가 넘은 ‘크리티컬’ 등급, AI 자율 해킹은 정확히 무엇을 뜻하나

오픈AI는 자체 준비프레임워크(Preparedness Framework)로 모델의 위험 수준을 단계별로 평가한다. 이 가운데 사이버보안 항목의 최고 단계가 바로 ‘크리티컬’이다. 사람의 지속적인 개입 없이도, 방어가 강화된 실제 시스템에서 알려지지 않은 취약점을 찾아 실전 공격으로 옮길 수 있는 수준을 뜻한다.

필자가 보기엔 이 기준 자체가 상당히 무겁다. 지금까지 AI 모델은 코드 리뷰나 이미 알려진 취약점 패턴을 찾아주는 보조 도구에 가까웠다. 그런데 아스트라는 미지의 결함을 스스로 찾아내고, 익스플로잇까지 만들어내는 능력을 시험에서 보여줬다.

오픈AI에 따르면 아스트라는 자체 평가 지표인 ExploitBench에서 100%를 기록했다. 이전 모델인 GPT-5.6 솔과 비교하면 취약점 식별과 익스플로잇 개발 능력이 눈에 띄게 향상됐다는 설명이다.

배경 — AI의 공격 능력이 빠르게 진화한 이유

이런 변화는 어느 날 갑자기 나온 게 아니다. 최근 몇 년간 AI 모델의 추론 능력과 코드 생성 능력은 꾸준히 높아졌다. 코딩을 돕던 능력이 그대로 취약점 분석과 익스플로잇 개발에도 옮겨간 셈이다.

개인적으로는 이 흐름이 어느 정도 예견된 결과라고 본다. AI가 잘하는 일은 결국 패턴 인식과 반복 시도다. 취약점 탐색이라는 작업은 이 두 가지 능력이 그대로 통하는 영역이기 때문이다.

동시에 실제 공격 시도도 늘고 있다는 보고가 잇따랐다. 국내외 보안 업계에서는 AI를 악용한 자동화 공격이 앞으로 더 늘어날 것이라는 전망을 꾸준히 내놓고 있다. 이런 흐름 속에서 오픈AI는 아스트라의 강력한 능력만큼 방어 장치도 함께 강화했다고 밝혔다.

구체적으로는 사이버 공격 요청에 대한 거부율을 91.5%까지 끌어올렸다고 설명했다. 이전 모델의 59%보다 크게 높아진 수치다. 다층 모니터링과 실시간 행동 탐지, 자동 중단 장치도 함께 추가됐다고 전했다.

구글·앤트로픽까지, AI 자율 해킹 대응 전략을 표로 비교하면

흥미로운 건 오픈AI 혼자만의 움직임이 아니라는 점이다. 비슷한 시기 구글과 앤트로픽도 각각 사이버보안 특화 모델과 방어 프로그램을 내놓았다. 세 회사의 접근 방식을 정리하면 다음과 같다.

기업	모델·프로그램	사이버보안 관련 성과	접근 방식
오픈AI	아스트라 · 데이브레이크 블루	Preparedness Framework 최고등급 ‘크리티컬’ 최초 통과, ExploitBench 100%	초기 소수 테스터 한정, 단계적 확대
구글	Gemini 3.8 Flash Cyber · 페어윈드	자동 취약점 탐지 성능에서 앞선다는 평가	정부·의료·통신 등 신뢰 방어기관 우선 제공
앤트로픽	Claude Mythos 5.1 · 엔터프라이즈 프론티어 세이프가드	단계별 보안 등급 적용, 오용 탐지 강화	신뢰 접근 프로그램을 통한 제한적 공개

표를 보면 공통점이 뚜렷하다. 세 회사 모두 강력한 공격 능력을 공개하면서도, 그 능력을 아무에게나 풀지는 않는다. 신뢰할 수 있는 방어 기관이나 제한된 테스터에게만 우선 접근권을 준다는 전략이다.

필자가 보기엔 이 지점이 핵심이다. 기술력 경쟁이 곧바로 ‘누가 더 안전하게 관리하느냐’의 경쟁으로 옮겨간 모습이다. 성능 발표와 안전장치 발표가 늘 세트로 묶여 나오는 이유이기도 하다.

기업의 전략적 대응 — 제한적 접근이라는 선택

오픈AI는 아스트라의 고급 사이버보안 기능을 처음에는 소수 테스터에게만 공개했다. 이후 ‘데이브레이크 블루’ 프로그램을 통해 방어 목적의 활용 범위를 단계적으로 넓힐 계획이라고 밝혔다.

구글도 비슷한 길을 택했다. 자사의 사이버보안 모델을 ‘페어윈드 프로그램’을 통해 정부·의료·통신 등 신뢰할 수 있는 방어 기관에 선제적으로 제공한다는 방침이다. 크라우드스트라이크, 데이터독, 팔로알토네트웍스 등 650곳이 넘는 파트너와 협력한다고 전했다.

앤트로픽은 클로드 마이토스 5.1에 신뢰 접근 프로그램을 적용했다. 여기에 데이터를 보관하지 않는 정책과 오용 탐지 기능을 묶은 엔터프라이즈 프론티어 세이프가드도 함께 내놓았다.

이 지점이 흥미로운데, 세 회사 모두 ‘안전’을 그 자체로 경쟁력처럼 내세우고 있다는 점이다. 접근 제한 자체가 하나의 상품 설계로 자리잡은 셈이다. 방어 기관 입장에서는 공격자보다 먼저 강력한 도구를 손에 쥐는 것이 무엇보다 중요하기 때문이다.

IT-SUE의 시각

아스트라의 크리티컬 등급 통과를 지켜보면서 필자가 느낀 건, 이제 AI 자율 해킹이 먼 미래의 이야기가 아니라는 점이다. 공격과 방어 모두에서 AI가 실질적인 주역으로 등장했다.

개인적으로는 이 흐름이 보안 업계의 인력 구조도 바꿀 것이라고 본다. 취약점 탐색이라는 노동집약적 작업 상당 부분을 AI가 대신하게 되면, 보안 인력의 역할은 결과를 검증하고 정책을 설계하는 쪽으로 옮겨갈 가능성이 크다.

관건은 결국 속도다. 방어 기술의 확산 속도가 공격 기술의 확산 속도를 따라잡지 못하면, 아무리 정교한 안전장치도 의미가 옅어진다. 맨체스터 공항 해킹 사고에서 보듯, 보안 사고는 거창한 시스템이 아니라 사소한 노출 하나에서도 터진다.

필자는 앞으로 몇 달간 이들 모델의 실제 사용 사례와 오남용 시도가 어떻게 보고되는지가 이 논쟁의 방향을 가를 것으로 본다. 결국 기술만큼이나 운영과 제도가 관건이 될 것이다. 자세한 내용은 오픈AI의 공식 발표와 시큐리티위크의 분석 보도에서 확인할 수 있다.