# 가족의 기억부터 토큰 사기까지, AI를 실제로 운영하는 법

> 2026-11-16 · How I AI · 큐레이션 김태우
> https://challengekim.com/insights/가족의-기억부터-토큰-사기까지-ai를-실제로-운영하는-법
> 원문: https://www.lennysnewsletter.com/p/how-i-ai-fable-52-review-how-i-fight

## 핵심 요약

- 수학교육자 스콧 패러는 Claude Code와 Obsidian으로 가전 정보, 보험, 집안일을 관리한다. 긴 대화보다 직접 확인하고 수정할 수 있는 파일에 맥락을 남겼다.
- ChatPRD 창업자 클레어 보는 AI 사용 자원을 빼가는 토큰 사기로 수만 달러를 잃었다고 밝혔다. 카드 등록과 유료 체험도 악용을 막지 못해 무료 체험과 프로모션 코드 제공을 중단했다.
- 보는 Fable 5.2의 창작 능력과 공간 추론을 높게 평가했다. 다만 일반적인 코딩에는 Opus 5.5를 우선하고 시각 디자인에는 구체적인 지침이 필요하다고 봤다.
- 세 사례의 공통 쟁점은 AI를 실제 생활과 사업에 맡길 때 어떤 맥락을 주고 어디까지 권한과 비용을 허용할지 정하는 데 있다.

## AI에게 일을 맡긴 뒤 사람이 관리할 것

ChatPRD 창업자이자 진행자인 클레어 보는 방송 How I AI의 이번 주 세 회차에서 가족용 AI 지식 시스템, AI 서비스의 사용량 악용, Fable 5.2 실험을 소개했다. 수학교육자이자 부모인 스콧 패러와의 대화에 보가 직접 진행한 두 편의 실험과 운영 경험을 묶었다.

세 회차는 AI에게 일을 맡긴 뒤 사람이 무엇을 관리해야 하는지 다뤘다. 패러는 가족의 정보를 어떻게 기억하게 할지 다뤘고 보는 서비스 운영에서 발생하는 비용과 모델별 작업 능력을 살폈다.

## 가족의 기억을 대화창에서 파일로 옮기다

패러가 긴 AI 대화에서 느낀 문제는 지능보다 **맥락이 점차 어긋나는 현상**이었다. 그는 Claude Code와 Obsidian을 함께 쓰면서 정보를 Markdown이라는 텍스트 문서 형식으로 저장했다. 대화 속에 묻힌 기억과 달리 파일은 열어 보고 잘못된 내용을 고쳐 다음 작업에서도 다시 쓸 수 있었다.

집을 어떻게 기록하면 좋을지 Claude에게 묻자 모든 가전제품을 촬영하라는 제안이 나왔다. 사진은 모델명과 일련번호, 보증 정보를 검색할 수 있는 목록의 재료가 됐다. 패러는 정리되지 않은 정보를 넣고 파일 관리는 AI에 맡겼다. 다만 에이전트가 할 일 목록 같은 문서를 불필요하게 늘리지 못하도록 문서 규칙을 검사하는 도구도 만들었다.

집에 관한 정보가 쌓이자 보험 견적을 비교하는 방식도 달라졌다. Claude는 집의 구체적인 조건을 바탕으로 보장 공백 가능성을 짚고 보험 담당자에게 물을 후속 질문을 준비했다. 패러는 보험을 판매하는 담당자의 설명에만 의존할 필요가 줄었다고 봤다.

## 함께 쓰는 시스템은 가족의 습관에 맞춰야 한다

패러와 아내는 생각나는 집안일을 모두 모았고 Claude는 이를 우선순위와 비용, 참고 정보에 따라 정리했다. 벽면 화면에는 예정된 여행, 남은 일, 최근 끝낸 일, 일상에서 시도할 작은 제안이 표시됐다. 개인 노트북 안의 정보를 가족이 함께 볼 수 있게 된 셈이다.

파일 충돌을 피하려고 Claude가 제안한 GitHub는 아내가 원하는 것보다 복잡했다. 두 사람은 공유 스크립트에는 GitHub를, 일상적인 파일에는 Dropbox를 쓰기로 했다. 기술적으로 가능한 구성보다 실제 사용자가 받아들일 구성이 중요했다.

교육에서도 패러는 AI가 학습자의 사고를 대신하지 않아야 한다고 봤다. 학생에게 풀이 과정을 설명하게 하고 스스로 씨름하는 시간을 남기는 교사를 선호했다. 무한히 기다려 주는 태도만으로 좋은 교육이 되지는 않는다고 생각했다. 자신의 에이전트가 잘못된 방향으로 가면 새로 시작하거나 추론 과정을 살펴 오류가 기억 파일에 들어가기 전에 바로잡았다.

## 무료 진입 경로가 AI 비용을 빼가는 통로가 되다

보가 별도 회차에서 다룬 토큰 사기는 AI 모델 호출에 드는 연산 자원을 악용하는 행위다. 그는 ChatPRD가 SOC 2 요건을 준수하고 정기적인 침투 테스트를 받았는데도 수만 달러의 피해를 봤으며 대응에 엔지니어링 시간도 상당 부분 썼다고 밝혔다.

공격자는 계정 생성을 자동화해 무료 체험으로 고가 모델을 사용하고 제품 목적과 무관한 작업을 돌렸다. 파트너용 프로모션 코드는 탈취되거나 재판매돼 다른 AI 사업의 자원으로 쓰였다. 보는 자신이 제공한 코드의 약 절반이 재판매업자에게 넘어간 사실을 발견했다고 했다. 결제 카드의 사용 가능 여부를 시험하거나 ChatPRD를 중계해 다른 곳에서 사용하는 악용도 있었다.

보는 카드 등록을 요구하고 유료 체험도 도입했지만 충분하지 않았다고 설명했다. 결국 무료 체험을 없애고 프로모션 코드 발급도 중단했다. 제품을 직접 써 본 고객의 유입과 기업 고객 확보에 유용했던 경로를 포기한 결정이었다.

외부 도구를 연결하는 MCP 기능도 공격 경로가 됐다. 한 사용자는 ChatPRD의 맞춤형 MCP 지원을 24시간 돌아가는 연산 작업자로 바꿨다. 보는 허용 호스트를 제한하고 무료 터널과 정상적인 기업 활동에 연결된 것으로 보이지 않는 인프라를 차단했다.

## 요청 횟수보다 실제 지출과 접속 주체를 본다

ChatPRD는 세션이 악용 기준을 넘으면 데이터를 보관하지 않는 Jev 처리 루프로 활동을 분류한다. 보는 저렴한 판별 모델을 활용하며 사기로 확인되면 계정을 차단하거나 사용자에게 알리지 않고 더 저렴한 모델로 전환한다고 설명했다.

대규모 차단 뒤에는 서툰 항의뿐 아니라 AI로 다듬은 듯한 복구 요청도 들어왔다. 보는 고객지원 에이전트에 사기 관련 도구를 제공하는 한편 계정을 복구하거나 프로모션 코드를 나눠 주지 못하도록 명시적인 규칙을 뒀다. Vercel Firewall로 특정 국가의 트래픽을 막은 조치도 악용을 크게 줄였으며 이를 계기로 해외 시장 전략을 재검토하게 됐다고 했다.

보는 같은 사람들이 프록시를 바꿔 가며 여러 주요 AI 제품을 악용하는 모습도 확인했다고 밝혔다. 문제를 공개적으로 논의하기 시작했고 Codex의 도움을 받아 FBI에 사이버범죄 신고도 했다.

그가 강조한 운영 기준은 **요청 수가 아니라 달러 단위의 지출**이었다. 모델 비용을 지속해서 살피고 무료 진입 경로를 닫으며 계정뿐 아니라 접속하는 클라이언트도 확인해야 한다고 말했다. 고가 모델을 가져다 쓸 수 없게 하자 악용이 빠르게 사라졌다는 경험도 덧붙였다.

## Fable 5.2는 창작에 강했지만 디자인 지침은 필요했다

또 다른 회차에서 보는 Fable 5.2를 여러 작업에 시험했다. 그는 이전 Fable과 Opus 5의 사용 경험에 실망했지만 이번 모델은 빠르고 창의적이며 함께 일하기 편했다고 평가했다. 일반적인 코딩과 지식 작업에는 Opus 5.5를 우선하고 복잡하거나 범위가 넓고 창의성이 필요한 작업에는 Fable을 선택하겠다고 했다.

대표적인 실험은 트윗 하나와 CXO.dev의 브랜드 지침으로 만든 마케팅 영상이었다. 모델은 직접 만든 게임 캐릭터가 걷고 뛰고 환호하는 장면에 내레이션을 붙였다. 보는 다른 시험 모델에서 비슷한 결과를 얻지 못했으며 이 작업을 고정 평가 항목으로 삼겠다고 했다. 복잡한 애니메이션 작업에는 16분이 걸렸고 여러 평가 작업은 1분 안에 끝났다고 밝혔다.

설명서가 없는 미조립 가구의 저해상도 사진을 준 실험에서는 부품을 식별하고 도식과 조립 순서를 만들었다. 보의 가족은 그 순서대로 조립을 마쳤다. ChatPRD의 복잡한 제품 정보 처리 파이프라인에는 자신의 로드맵과 상당히 일치하는 이전 계획을 제시했지만 실제 이전 작업은 아직 진행 중이라고 했다.

작동하는 3D 타자기를 한 번에 만든 뒤 수정액 기능, 음악, 날씨, 타이머와 글감 제안을 추가한 결과도 인상적인 사례로 꼽았다. 반면 별도 지침 없이 만든 웹사이트와 그림책 디자인은 마음에 들지 않았다. 기존 브랜드 체계는 잘 따르지만 시각 디자인을 전적으로 맡기지는 않겠다고 평가했다. 프런트엔드 작업에는 Opus 5.5를 함께 쓰고 새로운 시각 자료에는 별도의 이미지 모델을 쓸 계획이라고 했다.

세 회차에서 AI의 활용 범위는 집안의 기록부터 제품 개발까지 넓었다. 패러는 기억 파일에 들어갈 오류를 걸러 냈고 보는 악용 가능한 진입 경로를 닫고 모델마다 맡길 작업을 구분했다. AI가 수행할 수 있는 일이 늘어나는 만큼 맥락과 비용, 결과를 관리하는 방식도 구체적으로 달라졌다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://www.lennysnewsletter.com/p/how-i-ai-fable-52-review-how-i-fight)
