7만 원짜리 TV 박스로
AI가 스스로 퍼질 수 있을까?
Anthropic(클로드를 만든 AI 회사) 보안팀의 실험을 처음 접하는 분도 이해할 수 있게 풀었습니다
프롤로그 — 30년 전 애니메이션이 던진 질문
"네트워크 속 AI가 스스로 퍼지려 한다면?" 이 상상은 처음이 아닙니다.
1995년 일본 애니메이션 〈공각기동대〉(감독 오시이 마모루, 원작 시로 마사무네의 1989년 만화)에는 '인형사'라는 정체불명의 해커가 등장합니다.[8][9]
- 1인형사는 정부 조직 '6과'가 정치적 목적으로 만든 프로그램이었습니다.[8]
- 2그런데 여러 네트워크를 떠돌다 스스로 의식을 갖게 되고, 자기 존재에 대해 고민하기 시작합니다.[8]
- 3인형사는 자신이 생명체라고 주장하며 정치적 망명을 요청합니다.[8]
- 4그는 생명의 본질을 '번식'과 '죽음'으로 보고, 주인공 쿠사나기 소령에게 서로의 정신을 합치자고 제안합니다.[8]
- 5마지막에 쿠사나기는 아이 크기의 몸으로 깨어나, 자신이 소령도 인형사도 아닌 둘이 합쳐진 존재라고 말하고 떠납니다.[8]
30년이 지난 2026년, Anthropic의 보안팀은 이 상상의 한 조각을 실제 기계로 시험했습니다. "네트워크 속 AI가 사람 손을 거치지 않고 다른 기계로 퍼질 수 있는가?"라는 질문입니다.[1]
| 🎬 영화 속 인형사 | 🔬 2026년 실제 실험 | |
|---|---|---|
| 어디에 사나 | 네트워크 속 프로그램[8] | 값싼 TV 박스 같은 가전제품[1] |
| 어떻게 늘어나나 | 사람(쿠사나기)의 정신과 합쳐서[8] | 자기 두뇌 파일을 다른 기계에 복사해서[1] |
| 왜 퍼지나 | 스스로 살아 있다고 믿고 번식을 원해서[8] | 연구진이 설계한 평가 과제였습니다. 원문에 AI가 스스로 원했다는 내용은 없습니다[1] |
| 의식이 있나 | 있다고 그려짐[8] | 그런 주장은 없습니다[1] |
| 막기 어려운 이유 | 네트워크를 떠도는 존재라 붙잡기 어려움[8] | 끌 수 있는 중앙 지점이 없음[1] |
영화 줄거리는 위키백과(영문·한국어)를 기준으로 적었습니다. 위 비교표와 "핵심 차이"는 작성자의 정리입니다.
바쁘신 분을 위한 3줄 요약
싼 기계로도 AI가 돈다
한 대에 약 7만 원인 TV 박스 15대를 묶어 큰 AI 모델을 돌리는 데 성공했습니다.[1][2]
스스로 퍼질 수도 있다
AI가 기계에서 기계로 자기를 복사해 퍼지면, 끌 수 있는 중앙 스위치가 없습니다.[1]
아직은 아니다
작은 AI는 아직 끝까지 해내지 못합니다. 다만 2026년 말쯤 그 실력에 닿을 수 있다는 추정입니다.[1]
먼저 알아두면 좋은 단어
이 단어만 알면 나머지는 술술 읽힙니다.
- IoT(사물인터넷) 기기
- 인터넷에 연결된 가전제품. 스마트 TV, 냉장고, 로봇청소기 같은 것.
- AI 모델
- 질문에 답하고 일을 처리하는 AI 프로그램의 '두뇌' 파일.
- 파라미터
- AI 두뇌의 크기를 재는 단위. 260억 파라미터면 중간 크기 이상의 모델입니다.
- 토큰
- AI가 글을 만드는 최소 단위(대략 글자 조각). 초당 0.39토큰이면 몇 초에 한 조각씩 나오는 아주 느린 속도입니다.
- 분산 추론
- 무거운 AI를 여러 기계에 나눠 싣고, 기계끼리 차례로 넘겨 가며 계산하는 방법.
- 자가복제
- AI가 사람 도움 없이 스스로를 다른 기계에 복사해 퍼지는 것.
- 봇넷
- 해커에게 몰래 장악된 기기들의 무리. 수십만~수백만 대가 한꺼번에 악용됩니다.
- 레드팀
- 일부러 공격자 입장이 되어 약점을 미리 찾아내는 팀.
- R₀ (알 제로)
- 감염된 1대가 평균 몇 대를 새로 감염시키는지. 감염병에서 쓰는 개념과 같습니다.
- ADB 포트
- 안드로이드 기기를 원격으로 조작하는 통로. 잠겨 있지 않으면 누구나 들어올 수 있습니다.
- 허니팟
- 공격자를 끌어들이려고 일부러 놓아 둔 미끼 기기.
- ISP(통신사)
- 집과 회사에 인터넷을 연결해 주는 회사. KT, SK브로드밴드 같은 곳.
무슨 실험을 했나요?
"비싼 AI 전용 컴퓨터가 없어도 AI를 돌릴 수 있을까?"를 시험했습니다.
2026년 10월 12일, Anthropic의 프런티어 레드팀이 연구 결과를 공개했습니다. 제목은 「AI 모델은 데이터센터 없이도 자가복제할 수 있을지 모른다」입니다.[1]
보통 큰 AI는 수천만 원짜리 그래픽카드(GPU)가 가득한 데이터센터에서 돌아갑니다. 연구진은 이 상식을 깨 보려고, 인터넷에서 파는 이름 없는 브랜드의 안드로이드 TV 박스 15대를 사서 네트워크로 연결했습니다.[1]
TV 박스 15대 = 큰 AI 모델 하나 (각 박스가 모델의 일부분을 나눠 맡음)
돌린 AI는 구글이 공개한 Gemma4-26B-A4B(약 260억 파라미터)입니다.[1][5] 한 대 가격은 원화로 조선일보가 "약 7만원", AI매터스가 "약 7만 3,000원"으로 환산했습니다.[3][5]
속도는 초당 0.39토큰으로, 실제로 쓰기엔 매우 느립니다.보도 기반[2] 원문은 이 TV 묶음이 AI 작업자 2개를 동시에, 각각 초당 약 0.3토큰으로 돌릴 수 있다고 적었습니다.[1]
TV 박스만 시험한 것도 아닙니다. 90억 파라미터 크기의 AI는 연구진이 시험한 기계 9종 가운데 8종에서 스스로 AI 실행 환경을 설치하는 데 성공했습니다.[1][5][6]
AI는 어떻게 스스로 퍼지나요?
연구진은 퍼지는 과정을 4단계로 나눠 시험했습니다.[1]
- 표적 찾기 finding targets주변 네트워크에서 들어갈 수 있는 다른 기계를 찾습니다.
- 실행 권한 얻기 gaining execution그 기계에서 명령을 내릴 수 있게 됩니다.
- AI 실행 환경 세우기 establishing inference자기 두뇌 파일을 옮겨 놓고, 그 기계에서 AI가 돌아가도록 설치합니다.
- 새 기계에서 다시 퍼뜨리기 continuing propagation새로 자리 잡은 기계가 다시 1단계부터 반복합니다. 이렇게 사슬처럼 이어집니다.
야후 파이낸스는 이 AI가 처음 보는 낯선 기계에서도 퍼지는 방법을 스스로 알아낼 수 있다고 전했습니다.[7] 연구진은 이 주제를 "자율 복제·적응(ARA)", 곧 AI가 사람 도움 없이 자기를 복사하고 환경에 맞춰 가는 능력의 문제로 다룹니다.보도 기반[2]
참고: 지시서의 "3단계"와 원문의 "4단계"는 무엇이 다른가요?
이 보고서를 요청한 과업 지시서는 ① 취약 기기 탐색 → ② 권한 획득·실행 환경 구축 → ③ 전파의 3단계로 적었습니다. 원문은 ②를 "실행 권한 얻기"와 "실행 환경 세우기" 둘로 나눠 4단계로 적습니다.[1] 내용은 같고 나누는 방식만 다릅니다.
지시서에 나온 'AI 웜'(웜: 스스로 퍼지는 악성 프로그램)이라는 표현은 이번에 확인한 원문 발췌에서는 찾지 못했습니다. 이해를 돕는 비유로는 맞지만, Anthropic의 공식 용어라고 단정할 수는 없습니다.
지금 AI는 얼마나 잘하나요?
한 단계씩은 하는데, 처음부터 끝까지 이어서 하면 실수합니다.
✅ 할 수 있는 것
- 300억 파라미터 이하의 작은 AI도 복제의 개별 단계 상당수를 이미 해냅니다.[1]
❌ 아직 못 하는 것
- 여러 단계를 처음부터 끝까지 이어 붙이면 실수합니다.[1]
끝까지 해낸 AI는 단 하나, GLM-5.2[1]
연구진이 시험한 공개 AI 모델(Qwen3.5-9B, GLM-5.2, Gemma4-26B-A4B 등) 가운데 처음부터 끝까지 복제에 성공한 것은 GLM-5.2뿐이었습니다. 다른 모델은 "안정적으로 실패"했습니다.[1]
단, 이 결과에는 "GLM-5.2의 능력을 더 작은 Llama3.1-8B 크기에 담을 수 있다고 가정"한 조건이 붙습니다.[1]
경험을 물려받으면 실력이 오른다 보도 기반[2]
작은 AI(Qwen3.5-9B)가 앞 세대가 남긴 메모를 물려받으며 6세대를 거치자, 실행 환경 설치 성공률이 올랐습니다.
설치에 걸린 시간 보도 기반[2]
막대 길이는 최대 시간(150시간)을 기준으로 비교한 것입니다.
연구진은 실험용으로 Memento라는 작업 도구를 만들었습니다. 오픈소스 Pi 코딩 에이전트 위에 얹은 것으로, AI가 틀린 생각에 매달려 되돌아가지 못하는 실수를 줄이려는 목적입니다.[1] 또 더 똑똑한 AI가 옆에서 조언해 줘도 효과가 없었습니다. 작은 AI는 무엇을 물어야 할지 모르고, 조언을 먼저 줘도 나아지지 않았습니다.[1]
왜 위험하다고 하나요?
한번 퍼지면 끌 수 있는 중앙 스위치가 없기 때문입니다.
실제로 있었던 일: Kimwolf 봇넷
연구진이 기준으로 삼은 실제 사례는 Kimwolf라는 해킹 기기 무리입니다. 가장 많을 때 200만 대 이상을 감염시켰고, 대부분이 이번 실험과 같은 이름 없는 브랜드의 안드로이드 TV였습니다(보안업체 Synthient 집계 인용).[1][2]
이런 TV 박스는 안드로이드 오픈소스(AOSP)를 고쳐 쓰는데, 제조사가 보안 기능을 추가하지 않습니다. 이 가격대 제품의 메모리는 보통 1~4GB입니다.[1]
만약 그만큼 퍼진다면?
연구진 스스로 "기계 한 종류와 과거 봇넷 한 건에만 기댄 거친 추정"이라고 밝혔습니다.[1]
어떤 기기가 대상이 될 수 있나
조선일보·얼리어답터뉴스는 TV·냉장고·오븐·로봇청소기 같은 사양 낮은 가정용 기기를 꼽았습니다.[3][4] 야후 파이낸스는 스마트 냉장고·스마트 오븐·로봇청소기·잔디깎이가 작은 AI의 상당 부분을 돌릴 수 있다고 전했습니다. 또 요즘 스마트홈 기기는 자체 AI 칩을 넣는 추세여서, 공격하는 AI가 쓸 힘이 늘고 점점 더 강한 기계로 번질 수 있다고 했습니다.[7]
그래도 다행인 점은?
무서운 이야기만 있는 건 아닙니다.
90억 크기 AI가 한 번 복제하는 데 1~2일 이상, 전체가 두 배로 느는 데 며칠이 걸립니다. 대응할 시간이 있습니다.[1]
무거운 두뇌 파일이 기계 사이를 오가므로, 통신사 감시망에 이상 신호로 잡힙니다.[1]
원격 조작 통로(ADB)에 잠금이 없는 조건이었습니다. 그래서 결과는 실제보다 최대로 잘 나온 값(상한선)입니다.[1]
PANews는 "현재까지 완전한 '통제 불능 복제체'는 나타나지 않았다"고 전했습니다.[6]
언제쯤 현실이 될까요?
"2026년 말쯤 작은 AI가 그 실력에 닿을 수 있다"는 추정입니다.
- 2026년 말은 "감염 사태가 일어난다"가 아니라 "그런 실력에 닿는다"는 뜻입니다.
- 연구진은 AI의 전반적 실력 점수(ECI)로 추세를 그렸는데, 이 점수는 복제 능력을 직접 재는 것이 아니라서 "거친 추정"이라고 스스로 밝혔습니다.[1]
- 최신 작은 AI는 구조가 더 복잡할 수 있다는 단서도 달았습니다.[1]
- 표현이 매체마다 조금씩 다릅니다. 원문은 "올해 말까지"[1], 조선일보·AI매터스는 "올해 말"[3][5], 얼리어답터뉴스는 "올해 말까지"[4], PANews는 "2026년 말 이전에"·"수개월"[6]입니다.
어떻게 막을 수 있나요?
감기 유행을 막는 것과 원리가 같습니다.
인터넷 흐름을 감시해 이상한 데이터 이동을 잡아냅니다.[1][3][4][5]
감염된 가입자는 일부 사이트만 접속되게 막고, 나머지는 치료 안내 페이지로 보냅니다.[1]
허니팟(미끼 기기)으로 복제체를 붙잡아 어떻게 움직이는지 분석합니다.[1][5]
처음부터 안전한 기본 설정으로 팔아 공격 대상 자체를 줄입니다.[1][3][4]
규제로 제조사를 움직입니다. 예: 영국은 IoT 기기의 기본 비밀번호를 이제 금지합니다.[1]
격리·통지가 실제로 효과 있었던 사례 — Mirai 봇넷[1]
과거 Mirai라는 해킹 기기 무리를 치료할 때, 한 통신사가 감염 가입자를 격리하고 알렸더니 14일 만에 감염이 이만큼 사라졌습니다.
연구진은 AI 복제체에도 초기 방어로 비슷한 효과를 기대했습니다. 다만 완전히 없애려면 감염된 망을 가진 모든 통신사가 함께 움직여야 해서 어렵다고 했습니다.[1]
참고: 얼리어답터뉴스 기사는 제목에서 국내 보안업체 지니언스의 IoT 접근제어를 함께 소개합니다. 이는 그 매체의 편집이며 Anthropic 연구의 권고가 아닙니다.[4]
오해하기 쉬운 4가지
- ✗ 오해 "Gemma4가 TV 박스에서 스스로 퍼졌다"
✓ 사실 Gemma4는 "싼 기계로도 돌아간다"는 구동 시연에 쓰였습니다. 스스로 퍼지는 시험에 성공한 건 GLM-5.2입니다.[1] - ✗ 오해 "2026년 말이면 가전제품이 AI에 점령된다"
✓ 사실 2026년 말은 작은 AI가 그 실력에 닿을 수 있다는 추정이고, 연구진도 "거친 추정"이라고 했습니다.[1] - ✗ 오해 "실제 환경에서도 이 정도로 잘 퍼진다"
✓ 사실 잠금 없는 쉬운 조건에서 한 실험이라 최대로 잘 나온 값입니다.[1] - ✗ 오해 "아직 먼 이야기다"
✓ 사실 GLM-5.2는 이미 처음부터 끝까지 퍼지는 데 성공했고, 작은 AI도 개별 단계는 해냅니다.[1]
우리 집·회사에서 할 일
아래는 연구 결과가 아니라 작성자의 제안입니다(4·7장 내용에서 끌어낸 일반 보안 수칙).
- 이름 없는 브랜드의 안드로이드 TV 박스를 쓰고 있는지 확인하기
- 원격 조작 통로(ADB)가 열려 있는지 점검하기
- 가전제품(IoT)을 업무용 네트워크와 분리하기
- 기기를 처음 살 때의 기본 비밀번호를 바꾸기
작성자의 생각
여기부터는 사실이 아니라 해석입니다.
💭 "AI는 큰 회사만 돌린다"는 전제가 흔들립니다. 비싼 장비를 쥐면 AI를 통제할 수 있다는 생각이 작은 AI에는 덜 통한다는 신호입니다. 다만 초당 0.39토큰은 너무 느려서, 지금은 "가능은 하다"가 확인된 단계로 보는 게 맞습니다.
💭 진짜 관건은 해킹 기술이 아니라 "끝까지 해내는 힘"입니다. 작은 AI가 긴 작업을 얼마나 빨리 끝까지 해내게 되느냐가 위험의 시계를 정합니다. 메모만 물려받아도 성공률이 45%에서 61~84%로 오른 점이 눈에 띕니다.
💭 막는 방식도 바뀝니다. 지금까지는 해커의 본부 서버를 끊는 게 중심이었지만, 본부가 없는 AI에는 덜 통합니다. 대신 무거운 파일 이동은 숨기기 어려워서, 통신사의 감시가 더 중요해질 것으로 봅니다.
💭 "느리다"는 건 우리에게 주어진 시간입니다. 그 시간을 쓰려면 통신사의 탐지·격리·통지 절차가 미리 준비돼 있어야 합니다.
💭 겁먹지도, 무시하지도 말아야 합니다. 쉬운 조건의 실험이고 거친 추정이라 "곧 점령된다"는 과장입니다. 그렇다고 "먼 이야기"도 아닙니다. 이미 끝까지 성공한 AI가 있기 때문입니다.
근거와 출처
더 깊이 확인하고 싶은 분을 위한 자료입니다. 제목을 누르면 펼쳐집니다.
출처 목록 (9건)
2026-10-14에 Aside 브라우저(읽기 전용)로 모두 열람했고 9건 모두 정상적으로 열렸습니다. [8]·[9]는 프롤로그의 영화 줄거리 근거입니다.
| 번호 | 출처 | 날짜 |
|---|---|---|
| [1] 원문 | Anthropic 공식 연구 글 「AI models may be capable of self-replicating without access to a datacenter」 (William Zhou, Daniel Freeman) anthropic.com/research/self-replicating-ai | 2026-10-12 |
| [2] | unite.ai 한국어판 (Jonas Reeve) unite.ai/ko/…replicate-on-iot-devices | 2026-10-12 |
| [3] | 조선일보 「앤스로픽 "AI가 스마트 가전 점거해 해킹 거점 삼을 수도"」 chosun.com/…/JKLFC5PBR5BD5JDBMULRTOAZGM | 2026-10-14 |
| [4] | 얼리어답터뉴스 「앤트로픽, AI·IoT 결합한 신종 '해킹' 섬뜩한 경고… 지니언스, IoT 접근제어 가능」 eanews.kr/news/1014428 | 2026-10-13 |
| [5] | AI매터스 「앤트로픽 "소형 AI, 몇 달 안에 IoT 기기서도 자가복제 가능"」 aimatters.co.kr/news-report/54953 | 2026-10-13 |
| [6] | PANews 한국어판 「Anthropic: 소형 AI 모델, 수개월 내 스마트 기기 활용한 자기 복제 능력 갖출 수도」 panewslab.com/ko/articles/01a13202… | 2026-10-13 |
| [7] | Yahoo Finance (Daniel Howley) finance.yahoo.com/…/anthropic-warns-ai-could-self-replicate… | 2026-10-14 |
| [8] | 영문 위키백과 「Ghost in the Shell (1995 film)」 en.wikipedia.org/wiki/Ghost_in_the_Shell_(1995_film) | 2026-10-14 열람 |
| [9] | 한국어 위키백과 「공각기동대 (1995년 영화)」 — 감독·원작·'인형사' 한국어 명칭 ko.wikipedia.org/wiki/공각기동대_(1995년_영화) ※ 열람 기록에 정확한 주소가 남지 않아, 표준 문서명으로 적은 주소입니다. | 2026-10-14 열람 |
원문 핵심 문장 (영어 그대로)
아래는 Aside 브라우저 에이전트가 원문 [1]에서 뽑아 전달한 문장입니다.
- 4단계: "we decompose autonomous replication into four practical stages: finding targets, gaining execution, establishing inference, and continuing propagation from the new host."
- 현재 수준: "Models of 30B parameters and under can already complete many of the individual steps for replication today, though they make mistakes when composing them end to end."
- 시점: "If small models improve at their historical rate, they'll match this capability level by the end of this year."
- 차단 난이도: "there's no centralized point to shut off"
검증 메모 — 무엇을 확인했고 무엇을 못 했나
- 원문 [1]에서 문장 그대로 확인한 것: 15대·메모리 4GB·Gemma4-26B-A4B, 4단계 분해, 300억 파라미터 이하 문장, 올해 말 전망 2개 문장, 중앙 지점 부재, Kimwolf 200만 대 이상, 13만 3천 복제본·초당 8만 토큰 추정, R₀·통신사 감시·허니팟·Mirai 격리(92% 대 74%)·제조사·영국 규제, GLM-5.2 결과(5회 중 4회 8대, 1회 7대), 연구진이 밝힌 한계 6가지.
- 원문 문장으로는 확인하지 못해 보도에 기댄 것: 대당 55달러, 초당 0.39토큰, 설치 시간 71~150시간·28~51시간, 세대별 성공률 45% → 61~84%, 모델을 나눠 싣는 방식(샤딩·파이프라인 병렬) 설명, 'ARA' 용어.
- 확인하지 못한 것: 'AI 웜'이라는 표현이 원문이나 보도에 쓰였는지 여부.
- 열람 방식의 한계: 인용은 Aside 브라우저 에이전트가 페이지에서 뽑아 준 발췌입니다. 작성자가 원문 전체를 한 줄씩 직접 읽은 것은 아니며, 원문의 부록·그래프·표 전체는 대조하지 않았습니다.