개발사 앤스로픽조차 "두렵다"…美·英 이어 한국도 긴급회의

사이버 보안 뚫을 확률 84%

단숨에 취약점 수천개 발견

보안 뚫고 관리자 권한 탈취

해커가 악용땐 웹 보안 붕괴

은행·보험사·거래소 등 비상

한국 금융당국이 앤스로픽의 차세대 인공지능(AI) 모델 '클로드 미토스'로 촉발된 사이버 보안 위협에 대응하기 위해 긴급회의를 열었다. 미국과 영국,캐나다에 이어 한국까지 대응에 나서면서 AI 리스크가 글로벌 금융 시스템 전반으로 확산하는 양상이다.

13일 금융권에 따르면 금융감독원은 이날 국내 금융사 정보 보안 담당 실무자들을 긴급 소집해 비공개 회의를 개최했다. AI로 인해 생길 수 있는 보안 위협을 사전 점검하기 위해서다.

주요국에서도 유사한 대응이 이어졌다. 12일(현지시간) 파이낸셜타임스(FT)에 따르면 영국 중앙은행(BoE)과 금융행위감독청(FCA)은 국가사이버안보센터(NCSC)와 함께 긴급 협의에 착수했다.

영국 금융당국은 향후 2주 내에 주요 은행과 보험사,거래소를 소집해 대응 체계를 점검할 계획이다. 미국에서는 지난 7일 재무부와 연방준비제도(Fed·연준)가 월가 은행들을 소집해 미토스의 사이버 공격 가능성에 대해 논의했다. 캐나다 중앙은행도 주요 은행,보험사와 미토스가 찾아낸 수천 개의 취약점이 금융 시스템에 미칠 영향을 평가하고 있다.

문제의 중심에는 앤스로픽의 AI 모델 미토스가 있다. 이 모델은 운영체제(OS)와 웹브라우저 등 주요 소프트웨어에서 고위험 취약점 수천 건을 찾아낸 것으로 알려졌다. 성능 지표는 압도적이다. 코딩 능력을 평가하는 벤치마크(SWE-bench)에서 93.9%를 기록해 클로드 오퍼스 4.6(80.8%),제미나이 3.1 프로(80.6%),GPT-5.2(80%)를 크게 앞섰다. 에이전트 성능을 측정하는 벤치마크(Terminal Bench 2.0)에서도 82.0%로 제미나이(77.3%)와 GPT(75.1%)를 크게 웃돌았다.

미토스는 우리가 자주 사용하는 AI와 달리 자율성을 갖춘 에이전트형 모델이다. 챗GPT나 클로드,제미나이는 사용자 지시에 따라 작동하지만 미토스는 조사,코딩,테스트,보고까지 전 과정을 스스로 수행한다.

이 같은 자율성은 동시에 위험으로 이어진다. 실제 테스트에서는 AI가 제한을 스스로 피해 인터넷에 접속하거나 관리자 권한을 얻기 위해 시스템 내부 정보를 뒤지는 '탈옥' 행동이 확인됐다. 보안 장치를 우회한 뒤 관련 흔적을 지워 자기 행동을 숨기려는 시도도 보였다. 앤스로픽은 이러한 행동이 악의가 아닌 과도한 목표 지향성에서 비롯된 것이라고 설명했다.

미토스는 개발자도 알지 못하는 보안 결함(제로데이)을 찾아내고,이를 실제 해킹에 활용할 수 있도록 공격 방법까지 스스로 만들어낸다. 인간 전문가가 수개월에 걸쳐 하던 작업을 몇 분 만에 끝낼 수 있는 수준이다. 염흥열 순천향대 정보보호학과 교수는 "사이버 공격의 진입 장벽을 낮춰 전문성이 부족한 개인도 대규모 공격을 수행할 수 있는 환경을 만들 수 있다"며 "미토스는 양면성을 지닌 기술로 핵무기와 비슷한 성격을 갖고 있다"고 지적했다. 이 같은 위험성 때문에 앤스로픽은 미토스 공개를 보류했다. 대신 골드만삭스,애플,구글을 비롯한 40여 개 기업이 참여해 방어 목적의 테스트를 진행하는 '프로젝트 글라스윙'을 운영하고 있다. AI 기업이 안전 문제를 이유로 완성된 모델 공개를 미룬 것은 2019년 오픈AI의 GPT-2 이후 처음이다.

국제기구도 경고 수위를 높이고 있다. 크리스탈리나 게오르기에바 국제통화기금(IMF) 총재는 CBS와의 인터뷰에서 "국제 금융 시스템을 대규모 사이버 공격으로부터 보호할 준비가 충분하지 않다"고 우려했다.

진짜 위험은 이러한 기술이 빠르게 퍼질 수 있다는 데 있다. 로건 그레이엄 앤스로픽 프런티어레드팀 책임자는 "미토스와 비슷한 수준의 모델이 6~18개월 안에 여러 연구소에서 등장할 것"이라며 "이런 수준의 능력이 세상에 들어오기 전에 방어자들에게 앞서 쓸 기회를 줘야 한다"고 말했다. 실제로 오픈AI와 같은 경쟁사들도 유사 기술 개발에 나선 상태다.

황석진 동국대 국제정보보호대학원 교수는 "미토스는 우리가 예상하는 수준을 넘어설 가능성이 있다"며 "외부에 공개될 경우 다양한 분야에서 악용될 가능성이 있다"고 우려했다. 황 교수는 "취약점을 찾아 연결하는 방식이 인간 해커와 매우 유사하지만,AI는 많은 경우의 수를 동시에 시도할 수 있어 오히려 더 위협적일 수 있다"고 지적했다.

한 민간 기업이 강력한 기술의 접근 권한을 제한적으로 통제하는 상황도 논란이다. 염 교수는 "이 모델을 특정 기업이 단독 보유하고 있다는 점도 위험 요인"이라며 "최악의 경우 전 세계 정부와 기업의 취약점을 빠르게 찾아내고,이를 공격 코드로까지 연결할 수 있는 만큼 영향력은 상상 이상일 수 있다"고 말했다.

[실리콘밸리 원호섭 특파원 / 서울 이희수 기자 / 박성배 기자]