I Want AI Now
만약 AI가 사람 손을 거치지 않고, 자기보다 더 똑똑한 다음 세대 AI를 직접 만들기 시작한다면 어떻게 될까요? 그 순간부터 사람은 AI의 발전 속도를 영영 따라잡지 못하게 되는 걸까요?
SF 영화 예고편 같은 이 질문이 요즘 실리콘밸리에서 가장 뜨거운 주제입니다. 오픈AI는 'AI 연구 인턴'에 도달했다고 발표했고, 앤트로픽은 아예 「스스로를 만드는 AI」라는 글을 냈습니다. 오늘은 회사 발표와 외부 평가, 그리고 날 선 반론까지 원문으로 확인해 한 번에 정리합니다.
한 줄 요약 — AI가 AI 개발을 돕는 시대는 이미 왔습니다. 하지만 AI가 혼자서 다음 세대 AI를 만드는 시대는 아직 아무도 증명하지 못했습니다.
1. 60년 전 예언된 '마지막 발명품'
이 아이디어는 1965년 수학자 어빙 존 굿(I. J. Good)이 처음 꺼냈습니다. 사람보다 똑똑한 기계가 하나 나오면 그 기계가 더 나은 기계를 설계하고, 그 기계가 또 더 나은 기계를 만드는 일이 반복되면서 지능이 폭발적으로 커진다는 생각입니다. 그래서 굿은 최초의 초지능 기계가 인간이 만들 필요가 있는 마지막 발명품이 될 거라고 했습니다(요지).
요즘 업계는 이것을 재귀적 자기개선, 줄여서 RSI(Recursive Self-Improvement)라고 부릅니다. 개발자가 퇴근해도 AI가 혼자 야근하며 자기 후속작인 AI 2.0, 3.0을 만들어 내는 상태를 떠올리면 됩니다.
2. 첫 단추 — 알파이볼브의 '1%'
2025년 5월 구글 딥마인드는 알파이볼브(AlphaEvolve) 사례를 공개했습니다. 제미나이를 학습시킬 때 쓰는 핵심 계산 부품인 행렬 곱셈 커널을 알파이볼브가 고쳐 평균 23% 빠르게 만들었고, 그 결과 제미나이 전체 학습 시간이 1% 줄었습니다. 딥마인드는 이를 제미나이가 자기 학습 과정을 스스로 최적화한 사례라고 불렀습니다.
1%가 작아 보여도 초대형 학습에서는 큰 돈과 시간입니다. 다만 어떤 문제를 풀지, 몇 점이면 합격인지는 전부 사람이 정했다는 점이 중요합니다. 이 '채점 기준'은 글 끝의 꿀팁으로 다시 이어집니다.
3. 빅테크의 숫자 — 인턴, 80%, 52배
오픈AI는 2025년 10월 라이브 방송에서 '2026년 9월까지 인턴급 AI 연구 보조, 2028년 3월까지 진짜 AI 연구원'이라는 목표를 걸었고, 2026년 9월 첫 목표에 도달했다고 발표했습니다. 여기서 인턴은 숙련된 연구자가 며칠 걸릴 명확한 과제를 사람의 감독 아래 해내는 수준이며, 오픈AI 스스로 매긴 평가입니다.
앤트로픽은 2026년 6월 「When AI builds itself」에서 숫자를 쏟아냈습니다. 2026년 5월 기준 사내에 합쳐지는 코드의 80% 이상을 클로드가 작성했고(귀속 누락을 감안한 보수적 수치), 2분기 엔지니어 한 명이 하루에 합치는 코드 줄 수는 2024년의 약 8배였습니다. 작은 모델의 학습 코드를 빠르게 고치는 내부 테스트에서는 숙련된 연구자가 4~8시간 걸려 약 4배를 낼 때, 2025년 5월 모델 Opus 4는 약 3배, 2026년 4월 모델 Mythos Preview는 약 52배를 냈습니다.
안전 연구 과제 하나를 AI 에이전트에게 맡긴 실험(2026년 4월)도 있습니다. 사람 연구자 두 명이 일주일 동안 목표치의 23%를 채운 반면, AI는 누적 800시간·컴퓨터 사용료 약 1만 8천 달러로 97%를 채웠습니다.
4. 행간 읽기 — 회사가 스스로 단 단서
- 코드 줄 수는 양을 재는 것이라, 8배는 실제 생산성 향상을 '거의 확실히 과대평가'한 값이다.
- 52배는 시작 코드에 남은 개선 여지에 크게 좌우돼 실제 학습 속도 향상이 아니다.
- 안전 연구 실험의 문제와 채점 기준은 사람이 골랐고, 실제 서비스용 거대 모델에는 그대로 옮겨지지 않았다.
- 모두 회사 자체 평가이며, 앤트로픽도 '아직 RSI에 도달하지 않았다'고 썼다.
그럼에도 2026년 9월 12일 다리오 아모데이 앤트로픽 CEO는 에세이 「We Must Pace the Frontier」에서 올여름부터 AI가 다음 세대 AI를 만드는 능력 덕분에 발전이 크게 빨라졌다며, 능력이 커지는 속도를 업계가 함께 조절하자고 제안했습니다(요지). 개발 속도의 열쇠가 '연구원 수'에서 '컴퓨터 양'으로 옮겨 가고 있다는 신호이기도 합니다.
5. 외부의 시선 — METR와 RAND
외부 평가 기관 METR는 2026년 1월, AI가 50% 확률로 혼자 끝낼 수 있는 작업의 길이가 2024년 이후 약 89일마다 두 배로 늘고 있다고 발표했습니다(2023년부터 잡으면 약 131일). 다만 16시간이 넘는 작업은 지금 과제 묶음으로는 재기 어렵다고 했고, 2026년 9월부터는 해당 측정 페이지의 갱신을 멈췄습니다.
미국 싱크탱크 RAND는 2026년 10월 12일 보고서에서 'AI는 이미 더 나은 AI를 만드는 걸 돕고 있고, 감독할 시간은 줄어들고 있다'고 요약했습니다. 같은 보고서는 스스로 연구 의제를 정하거나 후속작을 설계하는 공개된 시스템은 아직 없다고도 적었습니다.
6. 반론 — 미끼 상술, 그리고 사람 검토라는 병목
AI 회의론자 게리 마커스는 앤트로픽 글을 미끼 상술(bait and switch)이라고 비판했습니다. 보여 준 건 사람 통제 아래 빠르게 코딩하는 도구일 뿐이고, 인간 수준 지능에는 코드 속도가 아니라 새로운 아이디어가 필요하다는 겁니다. 흥미롭게도 앤트로픽 글에도 연구 방향을 고르는 일은 아직 사람이 낫고, AI가 짠 코드를 사람이 검토하는 과정이 새 병목이 됐다는 고백이 들어 있습니다.
요리사가 1초에 100접시를 만들어도 사장이 맛보고 내보내는 데 10분이 걸리면 손님은 10분마다 한 접시를 받습니다. 컴퓨터 공학의 암달의 법칙입니다. 수학자 노아 지안시라쿠사는 사이언티픽 아메리칸 인터뷰에서 이것이 진짜 속도를 늦추자는 요구로 보이지 않는다고 했습니다(요지). 앤트로픽의 판단력 실험도 사람의 다음 수가 아쉬웠던 순간 129개를 골라 비교한 것이라 공정한 비교가 아니라고 회사 스스로 밝혔습니다. 사람의 수가 이미 좋았던 127개 대조군에서는 AI 제안이 더 낫다고 본 경우가 약 20%였습니다.
그래도 안전 우려는 진지하게 — AI가 AI를 고치는 과정이 반복될수록, 사람이 눈치채지 못한 작은 결함이나 편향이 다음 세대로 눈덩이처럼 불어날 수 있습니다. 과장을 걷어 내는 것과 위험을 가볍게 보는 것은 다른 일입니다.
7. 오늘의 꿀팁 — 내 작업에 '작은 RSI 루프' 걸기
알파이볼브와 앤트로픽 실험의 공통 비결은 하나입니다. 목표와 채점 기준은 사람이 고정하고, AI에게는 고치고·돌리고·점수 재기를 반복시키는 것. 클로드나 챗GPT 같은 작업 에이전트에 이렇게 시켜 보세요.
- 채점표부터 쥐여 주기 — "이 테스트 명령을 통과해야 합격", "500자 이내·핵심 키워드 3개"처럼 합격 기준을 먼저 정한다.
- 반복과 횟수 제한 — "직접 실행해 확인하고, 실패하면 원인을 적고 고쳐서 다시 돌려. 최대 3번까지만." 횟수를 안 정하면 밤새 돌며 토큰 비용을 날릴 수 있다.
- 오답 노트 — "회차마다 무엇을 바꿨고 점수가 어떻게 변했는지 표로 기록해."
마지막 도장은 사람이 — 최종 통과 도장은 반드시 직접 찍으세요. 채점표를 사람이 쥐고 있어야 AI가 엉뚱한 꼼수로 점수만 맞추는 일을 막을 수 있습니다.
자주 묻는 질문 — Q. 그럼 지능 폭발이 이미 시작된 건가요?
A. 회사들 스스로도 아직 RSI에 도달하지 않았다고 밝혔고, RAND도 스스로 연구 의제를 정하는 공개 시스템은 없다고 봤습니다.
Q. 80%, 52배 같은 숫자는 믿어도 되나요? A. 실제 사내 측정이지만 회사 자체 평가이고, 회사가 직접 과대평가 가능성과 조건을 달았습니다. 단서까지 함께 읽어야 합니다.
Q. 개인이 쓸 수 있는 건 뭔가요? A. 합격 기준을 먼저 정하고, 반복 횟수를 제한하고, 기록을 남기게 하는 '작은 루프'입니다. 최종 판단은 사람이 합니다.
오늘의 3줄 요약
- AI는 이미 AI 개발을 돕는다 — 알파이볼브 1%, 앤트로픽 병합 코드 80% 이상, 오픈AI '연구 인턴' 도달(모두 회사 발표)
- 하지만 문제·채점·방향은 사람이 정했고, 사람 검토가 새 병목이며, '혼자 다음 세대를 만드는' RSI는 아직 증명되지 않았다
- 내 작업엔 '채점표 → 횟수 제한 → 오답 노트' 작은 루프를 걸고, 마지막 도장은 사람이 찍는다
출처
- Anthropic Institute, "When AI builds itself", 2026-06-04
- Google DeepMind, "AlphaEvolve", 2025-05
- OpenAI 라이브(2025-10-28) · automated research intern 발표(2026-09, Dataconomy 보도)
- Dario Amodei, "We Must Pace the Frontier", 2026-09-12 (CNN 보도)
- METR, "Time Horizon 1.1", 2026-01-29
- RAND, "Recursive Self-Improvement and Automated AI Research and Development", 2026-10-12
- Gary Marcus, "No need to panic about Anthropic's new blog", 2026-06
- Scientific American, "Anthropic warns AI may soon begin recursive self-improvement", 2026-06-05
※ 이 글은 AI 24시 핫클립 특집 영상을 바탕으로 원문과 대조해 정리했습니다. 인용은 요지입니다. 영상 내레이션은 AI 음성(Gemini TTS)이고, 배경 영상은 AI로 만든 것입니다(Grok·Kling, 시작 그림 시온바나나). 도표는 직접 그렸고, 웹 화면은 2026.10.21 공개 페이지 캡처입니다.
