읽기 4분+영상 5분 49초
- 회사 측에 따르면 이 모델은 전 세계 사이버 보안에 위협이 될 수 있다.
- 소프트웨어 취약점 찾아내 악용할 때 거의 모든 인간을 능가하는 코딩능력 갖춰
- AI모델이 27년 동안 발견되지 않았던 오픈소스 시스템 OpenBSD의 취약점을 찾아내
- 앤스로픽은 "경제, 공공 안전, 국가 안보에 미치는 영향은 막대할 수 있다"고 밝혔다.
- Glasswing 프로젝트, 보안 취약점 해결에 집중

AI: 클로드 미토스, 얼마나 위험할까?
앤트로픽의 AI, 글로벌 보안 취약점, 그리고 글래스윙 프로젝트

두려운 존재일까, 아니면 기회일까? AI 기업 앤트로픽은 자체적으로 '공포의 땅'이라 칭하며 공개하기에는 너무 위험하다고 판단한 인공지능 모델을 개발했다. 클로드 미토스 프리뷰(Claude Mythos Preview)라는 이름의 이 AI 모델은 초기 테스트에서 리눅스 커널, 방화벽 운영 체제, VPN 시스템, 라우터 등 전 세계 IT 인프라 핵심 구성 요소에서 이전에 발견되지 않았던 수천 건의 취약점을 찾아냈다. 이는 새로운 AI 모델이 얼마나 위험한 존재인지를 시사한다. 

▲ 앤트로픽 기업에서 만든 '클로드 미토스 프리뷰'의 위험성을 말하는 CEO Dario Amodei

인공지능은 빠르게 발전하고 있다. 이제 AI 시스템은 정교한 딥페이크를 제작하고, 소프트웨어를 프로그래밍하며, 심지어 스스로를 복제할 수도 있다. 더 나아가, AI 모델은 잠재적인 생물학 무기 개발을 용이하게 하고 일반적인 보안 조치를 우회하는 것을 가능하게 한다. 결과적으로 이러한 디지털 초지능은 유익한 발전을 가져올 잠재력을 지니고 있지만, 사이버 보안뿐 아니라 인류 전체에 새로운 위협을 가할 가능성도 내포하고 있다.

수천 개의 제로데이 취약점

이제 이러한 위협 중 하나가 현실화될 조짐을 보이고 있다. AI 기업 앤트로픽(Anthropic)은 "클로드 미토스 프리뷰(Claude Mythos Preview)"라는 새로운 AI 모델을 개발했는데, 회사 측에 따르면 이 모델은 전 세계 사이버 보안에 위협이 될 수 있다. 앤스로픽은 블로그 게시물에서 "클로드 미토스 프리뷰는 AI 모델이 소프트웨어 취약점을 찾아내고 악용하는 데 있어 거의 모든 인간을 능가하는 코딩 능력을 갖추게 되었다는 충격적인 사실을 보여준다"고 설명했다.

▲ 새로운 AI 모델 "클로드 미토스 프리뷰"가 전 세계에 배포된 소프트웨어에서 수천 건의 보안 취약점을 발견했다. 이러한 AI가 위협이 될까? © devrimb/ Getty Images

클로드 미토스는 IT 애플리케이션에 특화된 모델은 아니지만, 이 대형 언어 모델(LLM)은 자체 테스트 과정에서 전 세계적으로 널리 사용되는 소프트웨어에서 심각한 보안 취약점을 이미 발견했다. 앤스로픽은 "최근 몇 주 동안 클로드 미토스 프리뷰를 사용해 모든 주요 운영 체제, 웹 브라우저 및 기타 중요 시스템에서 수천 개의 제로데이 취약점(많은 심각한 취약점 포함)을 식별했다"고 밝혔다. 제로데이 공격은 이전에는 발견되지 않았던 소프트웨어의 보안 취약점으로, 해커가 이를 악용할 수 있다.

리눅스 커널, 웹 브라우저 및 방화벽 소프트웨어의 취약점

AI 모델이 기존 컴퓨터 코드의 취약점을 찾아낼 수 있다는 것은 새로운 사실이 아니다. 그러나 새로운 AI 모델이 이러한 잠재적 공격 대상을 찾아내는 효율성과 속도는 우려스러운 수준이다. 앤스로픽은 "클로드 미토스 프리뷰는 이러한 사이버 보안 기술의 비약적인 발전을 보여준다"며, "AI가 발견한 취약점은 경우에 따라 수백만 건의 자동 보안 테스트와 수십 년에 걸친 인간 검토를 통과했다"고 설명했다.

▲ OpenBSD 기반 시스템의 스크린샷입니다. 이 오픈 소스 소프트웨어는 많은 방화벽, 윈도우 관리자 및 라우터에 사용된다. © gemeinfrei

앤스로픽은 이러한 근본적인 보안 허점의 예로 27년 동안 발견되지 않았던 오픈소스 시스템 OpenBSD의 취약점을 언급했다. 이 취약점은 방화벽, 라우터, 웹 브라우저, VPN 프로그램 등에서 사용된다. 앤스로픽은 "이 취약점을 통해 공격자는 원격으로 모든 시스템을 다운시킬 수 있었다"고 말했다. AI 모델은 거의 모든 서버 소프트웨어의 기반이 되는 리눅스 커널에서 사용자가 시스템 제어권을 탈취할 수 있는 일련의 취약점을 발견했다.
위협의 규모는 어느 정도일까요?

앤스로픽(Anthropic)은 자사 AI 모델의 이러한 기능이 전 세계 IT 인프라에 잠재적인 위협이 될 수 있다고 보고 있다. 만약 이 모델이 누구나 접근할 수 있게 된다면, 범죄자들은 ​​클로드 미토스(Claude Mythos)를 이용해 이러한 IT 보안 취약점을 악용하고 심각한 피해를 입힐 수 있다. 앤스로픽은 "경제, 공공 안전, 국가 안보에 미치는 영향은 막대할 수 있다"고 밝혔다.

다른 IT 전문가들도 이와 같은 견해를 공유했다. 카를스루에 공과대학교(KIT) 암호학 및 IT 보안학과 교수인 요른 뮐러-콰데(Jörn Müller-Quade)는 "앤트로픽의 새로운 모델이 발견한 것과 같은 공격은 새로운 것이 아니다. 하지만 사이버 공격의 규모가 커졌다는 점이 새롭다.

이전에는 고도의 기술을 가진 해커만이 이러한 취약점을 찾아낼 수 있었지만, 이제는 AI 모델을 통해 일반인도 공격을 감행할 수 있게 되었다"고 설명했다. 그의 의견으로는 앤스로픽의 우려는 충분히 타당하다. "인공지능으로 인해 미래의 사이버 공격은 지금과는 매우 다른 규모로 확대될 것이다. 오류를 용인하고 점진적으로 패치하는 방식의 소프트웨어 개발은 ​​앞으로 될 수 없다. 이는 적어도 핵심 인프라에 적용된다"고 연구원은 말했다.
Glasswing 프로젝트, 보안 취약점 해결에 집중

위협을 최소한 부분적으로라도 완화하기 위해 앤스로픽(Anthropic)은 클로드 미토스(Claude Mythos) 프리뷰 버전을 당분간 공개하지 않기로 결정했다. 대신 Glasswing 프로젝트를 시작하여 40개의 주요 소프트웨어 기업에 AI 모델을 제공하고, 이들이 자사 시스템의 잠재적 취약점을 해결할 수 있도록 지원한다. 참여 기업으로는 Microsoft, Google, Linux Foundation, NVIDIA, Apple, Amazon Web Services, Cisco, CrowdStrike, Apache Foundation, Broadcom, JPMorgan Chase 등이 있다.

Anthropic은 "Glasswing 파트너 기업들은 Claude Mythos 프리뷰를 활용해 핵심 시스템의 보안 허점을 찾아 해결할 수 있다"고 밝혔다. Linux와 Apache와 같은 오픈소스 조직에도 이 개발 노력을 지원하기 위해 수백만 달러의 자금이 지원될 예정이다. 이와 동시에 Anthropic은 차세대 AI 모델인 Claude Opus에 적용될 새로운 보안 조치를 개발하고 있으며, 이는 모델의 IT 기능을 제한하여 오용을 방지하도록 설계되었다.

Anthropic은 "Glasswing 프로젝트는 단지 시작일 뿐이다"고 강조했다. 인공지능으로 인한 사이버 보안 문제는 어느 한 조직이나 기업만으로는 해결할 수 없기 때문이다. "AI 개발자, 다른 소프트웨어 회사 및 오픈소스 제공업체, IT 보안 연구원, 그리고 정부 모두가 역할을 해야 한다. 사이버 보안이 점점 더 중요해지는 지금, 우리는 행동해야 한다.“

출처: Anthropic, Science Media Center

[더사이언스플러스=문광주 기자]

[ⓒ the SCIENCE plus. 무단전재-재배포 금지]