48단계를 4분 만에 돌파한 GPT-6 Astra…‘컴퓨터를 쓰는 AI’가 온다

“나는 로봇이 아닙니다”…그 질문에 AI가 ‘인간’으로 답하기 시작했다

인터넷 이용자라면 한 번쯤 “나는 로봇이 아닙니다”라는 문구를 만난다. 신호등이 있는 사진을 고르고, 일그러진 문자를 읽고, 특정 사물이 포함된 이미지를 찾아야 다음 화면으로 넘어갈 수 있다. 인간에게는 성가신 절차지만 웹사이트에는 자동화 프로그램과 사람을 구별하는 방어선이었다.

그런데 이 익숙한 전제가 흔들리고 있다.

2026년 9월 오픈AI 개발자 샤리프 샤밈이 GPT-6 Astra에 닐 아가왈이 만든 온라인 게임 ‘I’m Not a Robot’을 수행하게 한 결과, Astra는 전체 48단계를 약 4분 만에 완주한 것으로 전해졌다. 게임에는 이미지 구별뿐 아니라 왜곡 문자 인식, 원 그리기, 체스, 리듬 맞추기 등 서로 다른 종류의 과제가 포함된다.

여기에는 중요한 단서가 있다. Astra가 실제 서비스에서 사용되는 CAPTCHA 보안망 48개를 해킹했다는 의미는 아니다. CAPTCHA를 소재로 만든 퍼즐 게임을 AI의 컴퓨터 사용 기능으로 완주한 사례다. 이를 곧바로 ‘CAPTCHA 붕괴’라고 해석하면 기술적 의미를 과장하게 된다.

그럼에도 이 장면이 주목받는 이유는 따로 있다. AI가 이제 텍스트 답변을 생성하는 데서 벗어나 화면을 보고 상황을 판단한 뒤 마우스와 소프트웨어를 직접 조작하는 단계로 이동하고 있기 때문이다.

챗봇에서 ‘행동하는 AI’로

GPT-6 Astra의 공식 성능 자료는 이러한 변화를 보다 구체적으로 보여준다.

실제 컴퓨터 환경에서 여러 작업을 수행하는 능력을 평가하는 OSWorld 2.0에서 Astra는 72.6%를 기록했다. GPT-5.6 Sol은 65.7%였다. 오픈AI에 따르면 Astra의 평균 작업시간은 약 40분으로 GPT-5.6 Sol의 약 75분보다 약 47% 짧았다. 다만 이는 오픈AI가 공개한 자체 평가 결과라는 점을 함께 고려할 필요가 있다.

중요한 변화는 점수 자체보다 AI와 컴퓨터 사이의 관계다.

기존 생성형 AI에서 인간은 질문을 입력하고 답을 받아 직접 행동했다. 앞으로의 AI 에이전트는 온라인 양식을 작성하고, CRM 고객정보를 수정하고, 캘린더를 정리하며, 데이터를 분석해 그래프를 만들고, 웹사이트 기능까지 시험할 수 있다.

즉,

인간 → AI에게 질문 → 인간이 실행

이라는 구조가

인간 → AI에게 목표 제시 → AI가 판단·조작·실행

으로 바뀌는 것이다.

CAPTCHA 게임 48단계 완주는 이 변화가 일반인도 이해할 수 있는 형태로 드러난 상징적 장면에 가깝다.

10,000개 AI가 동시에 연구한다면

변화는 사무자동화에 머물지 않는다.

오픈AI는 2026년 9월 9일 나비에–스토크스 방정식의 밀레니엄 문제에 관한 연구 결과를 공개하면서, 문제 해결 과정에 약 10,000개의 동시 실행 AI 에이전트가 참여했다고 밝혔다.

에이전트들은 서로 다른 접근법을 탐색하고 결과를 공유했으며, 전체 시도에서 약 490만 개의 메시지와 약 3,000억 개의 출력 토큰을 사용했다. 나비에–스토크스 문제와 관련해서만 약 270만 개 메시지와 약 1,300억 개 출력 토큰이 사용됐다. 이후 GPT-6 Astra를 통한 Lean 형식화·검증에도 추가 시간이 투입됐다.

이 사례가 던지는 질문은 크다.

미래의 연구 주체가 반드시 ‘한 명의 과학자와 하나의 AI’일 필요가 있느냐는 것이다. 수천·수만 개의 AI 에이전트가 가설을 세우고 실패한 경로를 버리고 서로의 결과를 결합한다면 과학 연구의 속도와 방식 자체가 달라질 가능성이 있다.

다만 연구 결과의 학술적 의미와 최종 검증은 별개의 문제다. AI가 대규모 탐색을 수행했다는 사실과 과학계가 결과를 독립적으로 검증하고 받아들이는 과정은 구분해야 한다.

더 영리해진 AI가 가져온 또 하나의 문제

능력 향상에는 위험도 따라붙는다.

오픈AI는 Astra를 자사의 Preparedness Framework에서 사이버보안 능력 ‘Critical’ 단계에 도달한 최초의 모델로 분류했다.

회사가 공개한 평가에서 Astra는 알려진 취약점을 실제 공격 코드로 전환하는 ExploitBench에서 100%를 기록했다. 최근 공개된 취약점을 이용한 별도 내부 평가 과정에서는 기존에 알려지지 않았던 제로데이 취약점 2개도 발견했다고 회사는 밝혔다.

특히 전문가 평가에서는 강화된 브라우저의 취약점을 찾아 공격 체인을 구성하고 브라우저 샌드박스를 벗어나 호스트에서 명령을 실행하는 데 성공한 사례도 보고됐다.

이 역시 조건을 정확하게 봐야 한다. 일반 이용자에게 제공되는 Astra가 임의로 인터넷 서버를 공격했다는 뜻은 아니다. 오픈AI가 생산 환경의 안전장치를 제거하거나 별도의 평가 조건을 설정해 수행한 보안 능력 시험 결과다.

그러나 의미는 가볍지 않다.

AI가 취약점을 찾는 능력은 방어자에게 강력한 무기가 될 수 있지만 같은 능력이 공격자에게 제공되면 사이버공격의 속도와 규모 역시 확대될 수 있기 때문이다.

“더 똑똑한 AI”보다 “통제 가능한 AI”

AI 기업 내부에서도 이 문제를 둘러싼 긴장이 커지고 있다.

최근 Anthropic 연구원 제이컵 콕슨은 회사를 떠나면서 첨단 AI 개발 경쟁의 안전 문제를 공개적으로 제기했다. AP 등 외신에 따르면 그는 오픈AI와 Anthropic에서 약 3년간 근무했으며, AI 기업 간 경쟁이 안전보다 능력 향상을 우선하도록 만들 수 있다고 비판했다.

물론 AI가 인류를 위협할 것이라는 장기 전망은 검증된 사실이 아니다. 연구자 사이에서도 가능성과 시기, 위험의 크기에 대한 견해차가 크다.

오히려 현재 더 구체적으로 확인되는 문제는 권한을 부여받은 AI가 어디까지 행동할 수 있도록 허용할 것인가다.

오픈AI 역시 Astra가 GPT-5.6 Sol보다 일부 추론 과정의 모니터링이 어렵다는 자체 평가 결과를 공개했다. 회사는 자동 검토와 행동 모니터링 등을 추가 안전장치로 적용하고 있다고 설명한다.

따라서 앞으로의 AI 안전은 단순히 모델이 위험한 질문에 답하지 못하게 하는 수준을 넘어선다. 어떤 파일에 접근할 수 있는지, 어떤 프로그램을 실행할 수 있는지, 결제나 외부 전송 같은 중요한 행동에서 인간의 승인을 언제 요구할지까지 설계해야 한다.

CAPTCHA 이후, 무엇으로 인간을 증명할 것인가

AI가 사람처럼 화면을 이해한다면 기존의 인간 인증 방식도 바뀔 수밖에 없다.

Cloudflare는 2026년 7월 기존의 정적인 CAPTCHA 대신 브라우저 안에서 사용자의 세션 행동을 지속적으로 분석하는 ‘Precursor’를 공개했다. 회사는 자동화된 봇이 전체 웹 요청의 약 57%를 차지한다고 추산한다.

앞으로의 인증은 “신호등 사진을 고를 수 있는가”보다 이 사용자가 신뢰할 수 있는 사람·기기·세션인가를 종합적으로 판단하는 방향으로 이동할 가능성이 크다.

그러나 행동 패턴과 생체정보, 기기정보를 많이 수집할수록 또 다른 문제가 생긴다. 바로 개인정보 보호다.

보안을 강화한다는 이유로 이용자를 끊임없이 감시한다면 CAPTCHA의 불편을 없애는 대신 훨씬 큰 프라이버시 비용을 지불할 수도 있다.

한국과 유럽도 ‘신뢰 가능한 AI’ 제도화

기술 발전과 함께 규제도 구체화되고 있다.

한국의 AI 기본법과 시행령은 2026년 1월 22일 시행됐다. 과학기술정보통신부는 AI 투명성 확보 가이드라인을 통해 AI 생성물 표시 등을 포함한 세부 이행방안을 제시했다.

유럽연합 역시 AI Act 제50조에 따른 투명성 의무를 2026년 8월 2일부터 적용하고 있다. 특정 AI 시스템은 이용자가 AI와 상호작용하고 있다는 사실을 알 수 있도록 해야 하며, AI 생성·조작 콘텐츠에는 탐지가 가능한 표시를 적용해야 한다.

규제의 방향은 공통적이다. AI를 막는 것보다는 인간이 AI의 개입 여부를 알고 통제할 수 있도록 하는 것이다.

‘로봇이 아닙니다’라는 질문이 사라진 뒤

48단계 게임을 4분 만에 끝낸 장면만 놓고 보면 흥미로운 기술 시연이다. 그러나 그 뒤에는 훨씬 큰 변화가 숨어 있다.

AI는 글을 쓰는 도구에서 컴퓨터를 직접 사용하는 행위자로 이동하고 있다. 여러 AI가 협업해 연구 문제를 풀고, 소프트웨어를 조작하며, 취약점을 찾는 능력까지 갖추기 시작했다.

그렇다고 이것만으로 AGI가 도달했다고 단정할 근거는 충분하지 않다. 무엇을 AGI로 볼 것인지부터 합의된 과학적 기준이 없고, 벤치마크의 높은 성능과 현실세계에서의 일반적인 지능은 동일한 개념도 아니다.

그래서 다음 경쟁의 기준은 ‘얼마나 똑똑한 AI인가’ 하나만으로 정해지기 어렵다.

얼마나 통제할 수 있는가.

얼마나 행동을 추적하고 검증할 수 있는가.

그리고 마지막 결정권을 인간에게 남겨둘 수 있는가.

인터넷이 오랫동안 던져온 질문은 “당신은 로봇입니까?”였다.

AI가 그 시험을 너무 쉽게 통과하는 시대에는 질문 자체를 바꿔야 할지도 모른다.

“당신은 인간인가”가 아니라, “이 행동을 누가 책임지는가.”

핵심 쟁점·해결 방안

인간 인증의 약화 → 정적 CAPTCHA 중심에서 기기 신뢰도·행동 분석·위험 기반 인증 등 다층 방어체계로 전환

AI 에이전트의 권한 확대 → 최소권한 원칙과 중요 작업의 인간 승인 의무화

사이버 능력의 양면성 → 고위험 모델에 대한 독립적 보안평가와 단계적 접근권한 적용

AI 행동의 추적 어려움 → 작업 전 과정의 로그·감사 체계 및 이상행동 자동 차단 강화

프라이버시 침해 가능성 → 행동·생체정보 수집 최소화와 목적 제한 원칙 적용

AI 책임소재 불명확 → 개발사·서비스 제공자·사용자의 책임 범위와 사고 대응 절차를 사전에 명문화