AI는 왜 월가를 이기지 못했나…20년 검증이 드러낸 생성형 AI 투자의 현실

투자은행과 자산운용사들은 이미 AI를 리서치의 핵심 도구로 활용하고 있으며 개인 투자자들 역시 AI에게 종목 추천과 시장 전망을 묻는 일이 일상이 됐다.

그렇다면 AI는 인간보다 더 뛰어난 투자자일까. 적어도 지금까지 가장 현실에 가까운 검증 결과는 그렇지 않았다.

미국 UCLA와 영국 에든버러대학교, 성균관대학교 공동 연구진은 2004년부터 2024년까지 20년간의 미국 주식시장 데이터를 바탕으로 생성형 AI 기반 투자 전략을 대규모로 검증했다.

연구진은 기업 공시와 뉴스, 재무정보를 AI가 분석하도록 한 뒤 실제 투자 환경과 유사한 조건에서 반복적으로 포트폴리오를 운용하며 성과를 비교했다.

분석 대상은 현재 살아남은 우량기업만이 아니었다. S&P500에 편입됐다가 파산하거나 상장폐지된 기업들까지 포함해 금융위기와 팬데믹, 초저금리 시대, 급격한 금리 인상기 등 20년에 걸친 모든 시장 국면을 함께 검증했다.

결과는 예상보다 냉정했다. 생성형 AI는 정보를 분석하는 능력에서는 뛰어난 성과를 보였지만, 장기 투자에서는 가장 단순한 전략인 '사서 보유하기(Buy and Hold)'를 지속적으로 앞서지 못했다.

위험을 고려한 성과 역시 이동평균선 기반 전략 등 오랫동안 검증된 전통적 투자 기법을 안정적으로 뛰어넘지 못했다.

이번 연구가 주목받는 이유는 AI의 성능보다 검증 방식 자체를 현실에 가깝게 바꿨다라는 데 있다.

AI 투자 연구의 가장 큰 문제는 '검증의 착시'였다

생성형 AI 투자에 대한 기대는 수많은 연구와 실험을 통해 빠르게 확산됐다. 그러나 상당수 연구는 테슬라나 아마존처럼 장기간 급등한 종목이나 특정 산업에 집중했고 분석 기간도 수개월에서 길어야 1~2년에 그쳤다.

일부 연구는 분석 대상 기업 수가 10개에도 미치지 않았다. 이러한 조건에서는 AI가 특정 시기의 패턴을 얼마나 잘 학습하는지는 확인할 수 있다. 하지만 실제 투자자가 수십 년 동안 경험하는 시장에서도 같은 성과를 유지할 수 있는지는 검증하기 어렵다.

가장 큰 문제는 '생존자 편향(Survivorship Bias)'이었다. 현재 살아남은 성공 기업만을 대상으로 성과를 측정하면 실제보다 투자 성과가 높게 나타난다. 하지만 현실의 투자자는 미래에 어떤 기업이 살아남을지 미리 알 수 없다.

이번 연구는 이미 시장에서 사라진 기업까지 포함해 이러한 착시를 제거했다. 다시 말해 AI에게 유리한 환경이 아니라 실제 투자자가 마주하는 시장을 그대로 재현하려 한 것이다.

금융시장은 정보를 아는 것보다 '맥락을 읽는 능력'이 더 중요했다

이번 연구에서 가장 흥미로운 결과는 AI의 투자 성향이었다. 강세장에서는 AI가 위험을 지나치게 경계하며 상승 추세를 충분히 따라가지 못했다.

반대로 금융위기나 급락장에서는 손실을 줄이기 위해 매매 빈도를 크게 늘렸지만, 거래 비용 증가와 잦은 판단 오류가 겹치면서 오히려 성과가 악화되는 경우가 많았다.

연구진은 이를 "강세장에서는 지나치게 보수적이고 약세장에서는 지나치게 공격적인 성향"으로 요약했다.

이는 개별 정보를 이해하는 능력과 시장 전체의 흐름을 해석하는 능력이 서로 다른 문제임을 보여준다.

예를 들어 2020년 코로나19 초기 시장은 기업 실적보다 각국 정부의 봉쇄 정책과 중앙은행의 대규모 유동성 공급이 주가를 좌우했다. 2022년에는 기업 실적이 양호했음에도 급격한 금리 인상만으로 기술주가 크게 하락했다.

금융시장은 숫자만으로 움직이지 않는다. 투자 심리와 유동성, 정책 변화, 지정학적 갈등, 기술 혁신, 예상하지 못한 사건이 동시에 영향을 미치는 복합 시스템이다.

AI는 개별 정보를 빠르게 이해할 수 있지만, 서로 충돌하는 변수들의 우선순위를 실시간으로 재조정하는 일은 여전히 쉽지 않았다.

AI 산업에서는 일반적으로 모델 규모가 커질수록 성능이 향상된다. 그러나 금융시장에서는 다른 결과가 나타났다.

연구진이 다양한 규모의 대규모언어모델(LLM)을 비교한 결과, 모델이 커질수록 투자 성과가 비례해 향상되는 현상은 확인되지 않았다.

오히려 복잡한 모델일수록 일시적인 가격 변동이나 우연히 나타난 패턴까지 규칙으로 학습하는 '과적합(Overfitting)' 위험이 커질 가능성이 확인됐다.

금융시장은 끊임없이 스스로 변하는 시스템이다. 시장 참여자들은 새로운 전략을 발견하면 곧바로 따라 하고, 효과가 알려진 전략은 빠르게 사라진다.

투자 대상이 AI의 예측을 의식해 행동을 바꾸면서 시장 자체가 계속 변하는 '적응형 시스템(Adaptive System)'의 성격을 갖기 때문이다. 결국 더 큰 AI가 곧 더 뛰어난 투자자를 의미하지는 않았다.

AI가 이기지 못한 이유는 시장이 인간을 닮았기 때문이다

이번 연구는 AI가 금융을 이해하지 못한다는 사실을 보여준 것이 아니다. 오히려 금융시장이 인간의 심리와 기대, 공포, 정책, 우연이 끊임없이 상호작용하는 비선형 시스템이라는 사실을 다시 확인시켰다.

주가는 과거 데이터를 단순히 반복하지 않는다. 사람들은 미래를 예상하며 행동하고, 그 행동이 다시 시장을 바꾸며 변화한 시장은 또 새로운 행동을 만들어낸다.

시장은 스스로 학습하는 존재이며 정답이 오래 유지되지 않는 공간이다. 이 때문에 정보를 처리하는 능력과 자산을 운용하는 능력은 서로 다른 역량이 된다.

AI는 이미 인간보다 훨씬 빠르게 기업 공시와 실적 발표, 산업 보고서, 경제 뉴스를 읽고 핵심 내용을 구조화할 수 있다.

그러나 그 정보를 어떤 시점에 어떻게 활용할지 결정하는 것은 여전히 위험관리와 경험, 그리고 책임을 수반하는 인간의 판단 영역으로 남아 있다.

AI 투자의 미래는 '자동매매'가 아니라 '증강된 투자자'에 있다

이번 연구는 생성형 AI의 한계를 보여주는 동시에 미래의 방향도 제시한다. AI는 인간을 대체하는 투자자가 아니라, 인간의 판단을 강화하는 최고의 분석 파트너가 될 가능성이 크다.

실제 글로벌 자산운용사와 증권사들도 AI를 최종 의사결정자가 아니라 리서치와 정보 분석을 보조하는 도구로 활용하고 있다. 수백 개 기업의 실적을 동시에 비교하고 산업별 위험 요인을 구조화하는 작업은 AI가 가장 뛰어난 분야다.

반면 투자 여부를 결정하고 위험을 감수하며 장기 전략을 세우는 일은 여전히 인간의 경험과 책임이 필요한 영역이다. 앞으로 AI 경쟁의 핵심은 더 거대한 모델을 만드는 것이 아니다.

변화하는 시장 환경을 얼마나 정확하게 이해하고, 불확실성을 관리하며, 인간의 의사결정을 얼마나 효과적으로 지원할 수 있는지가 진정한 경쟁력이 될 가능성이 높다.

주식시장은 미래를 사고파는 공간이다. 그리고 미래는 과거 데이터만으로 완전히 설명되지 않는다. 인간의 심리와 정책 변화, 기술 혁신, 예측할 수 없는 사건은 언제나 새로운 변수를 만들어낸다.

이번 연구가 보여준 것은 생성형 AI의 실패가 아니다. 오히려 금융시장이 얼마나 복잡하고 끊임없이 스스로를 변화시키는 시스템인지를 가장 현실적인 조건에서 입증했다는 데 의미가 있다.

AI는 투자자의 시야를 누구보다 넓혀줄 수 있다. 그러나 어디를 바라볼지, 언제 움직일지, 어떤 위험을 감수할지는 여전히 인간의 몫이다.

당분간 월가에서 가장 강력한 투자 전략은 AI가 모든 결정을 대신하는 자동매매가 아니라, AI의 압도적인 정보 분석 능력과 인간의 경험·직관·책임 있는 판단이 결합된 '증강된 투자자(Augmented Investor)'일 가능성이 가장 높다.