# 나를 아는 AI를 위한 맥락의 연속성과 데이터 통제

> 2026-11-18 · a16z · 큐레이션 김태우
> https://challengekim.com/insights/나를-아는-ai를-위한-맥락의-연속성과-데이터-통제
> 원문: https://www.youtube.com/watch?v=kBJe4H_WobA

## 핵심 요약

- First Person Labs의 Second는 기억·선호·목표를 담은 사용자 모델을 만들고 다른 AI가 이를 활용하게 하는 제품이다.
- 개별 알림에 반응하는 데서 나아가 오래된 대화와 현재 활동을 연결해 필요한 정보를 먼저 알려주는 것을 지향한다.
- 개인 데이터의 저장 위치와 분석에 쓸 AI를 사용자가 선택하도록 설계한다. 다만 모델을 속여 정보를 빼내는 문제까지 해결됐다는 뜻은 아니다.
- 상시 분석에는 상당한 비용이 든다. 작업마다 다른 모델을 쓰고 미리 분석할 범위와 요청 시 처리할 범위를 조정하는 일이 중요하다.
- 현재는 문자 대화와 API에 집중한다. 사용자를 이해하는 기반을 제공하고 그 위의 다양한 앱은 다른 개발자가 만들게 하려는 선택이다.

## 다른 AI로 옮겨 다닐 수 있는 사용자 맥락

a16z의 이번 대담에는 First Person Labs에서 Second를 만드는 출연자가 나와 진행자들과 개인 AI의 구조와 활용을 논의했다. 중심 주제는 **사용자가 매번 자신을 설명하지 않아도 되는 AI를 어떻게 만들 것인가**다.

Second가 만드는 사용자 모델은 단순한 대화 기록보다 범위가 넓다. 사용자가 무엇을 했는지뿐 아니라 우선순위, 선호, 목표, 가치관, 약속과 의도까지 이해하려 한다. 이를 다른 AI에 전달하면 도구를 바꿀 때마다 같은 설명을 반복할 필요가 줄어든다.

항공편 예약이 한 예다. 지금은 좌석 선호, 공항에 도착하고 싶은 시간, 목적지와 좌석 등급을 여러 차례 묻고 답해야 한다. Second는 이런 정보를 배경에서 쌓아 두었다가 예약을 맡은 AI에 전달하는 방식을 구상한다.

처음에는 활동 기록과 주변 사람, 선호 같은 자료에서 출발한다. 이후 말하는 방식과 정보를 전달하는 방식까지 분석하며 사용자를 더 깊이 이해한다. 출연자는 이를 배트맨의 집사 알프레드에 비유했다. 일을 처리할 때 필요한 취향은 알되 배트맨의 정체까지 상대에게 밝힐 필요는 없다고 했다.

## 새 알림보다 어려운 일은 오래된 맥락을 연결하는 것

Second는 기존 서비스 연결 기능과 컴퓨터에서 발생하는 활동 신호를 함께 활용한다. 앱 전환, 특정 웹사이트에서 머무는 행동, 입력 활동 등을 분석해 사용자가 메시지를 보내는지, 자료를 조사하는지, 문서를 작성하는지 단계적으로 파악하는 방식이다.

출연자는 생산성을 두 종류로 나눴다. 하나는 이메일이 도착했을 때 알리는 식의 반응형 기능이다. 다른 하나는 여러 사건과 긴 시간에 걸친 정보를 연결하는 기능이다. 몇 달 전의 발언과 최근 작업, 현재 목표와 할 일, 개인 취향을 함께 살펴야 하는 후자가 더 어렵다고 봤다.

초기 사용자로 참여한 진행자는 행사 준비 중의 경험을 소개했다. 날씨 때문에 텐트가 필요할 수 있는 상황에서 Second가 예보 변화를 계속 확인해 알려줬다고 했다. 별도로 날씨를 추적하라고 요청하지 않았는데도 진행 중인 대화와 관련된 정보를 받았다고 전했다.

이 제품이 지향하는 역할은 알림을 하나 더 만드는 데 그치지 않는다. **사용자에게 지금 중요한 일이 무엇인지 파악하고 요청하기 전에 필요한 정보를 건네는 것**이다.

## 데이터 저장과 AI 분석을 사용자가 통제하는 구조

이처럼 사용자를 폭넓게 이해하려면 많은 개인 정보에 접근해야 한다. 대담에서도 모든 활동을 보는 도구를 어떻게 신뢰할 수 있는지가 주요 쟁점이었다.

출연자는 데이터와 추론을 나눠 설명했다. 추론은 AI 모델이 데이터를 분석하고 결과를 만드는 과정이다. 사용자는 자기 데이터를 어디에 둘지, 어떤 제공자의 모델로 분석할지 선택할 수 있어야 한다고 봤다. 자체 이용 자격을 연결해 분석을 구동하는 방식도 그 선택지에 포함했다.

데이터를 기기에 두는 Second Local에서는 사용자가 고른 추론 제공자에게만 분석에 필요한 데이터를 보내도록 설계했다고 설명했다. 기기에 저장한다는 것과 모든 분석이 기기 안에서 끝난다는 것은 구분된다.

클라우드 저장 방식은 기기에서 먼저 암호화한 뒤 올리고 사용자의 동작에 따라 복호화하거나 보호된 실행 환경 안에서만 복호화하는 구성으로 제시했다.

여기서 등장한 기술이 기밀 추론이다. 출연자는 하드웨어로 보호된 환경에서 모델을 실행하고 그 환경을 검증해 운영자가 내부 데이터를 들여다보지 못하게 하는 방식이라고 설명했다. 데이터를 보관하지 않겠다는 정책적 약속인 ‘제로 데이터 보존’과는 보장의 근거가 다르다고 봤다. 다만 이 경우에도 신뢰의 대상은 사라지지 않고 하드웨어 쪽으로 옮겨간다.

## 저장 보안과 정보 공개 판단은 별개의 문제다

데이터를 안전하게 저장해도 AI가 대화 중 무엇을 공개할지는 또 다른 문제다. 진행자들은 다른 사람을 사칭해 일정을 요구하거나 연극 대본을 쓰는 척하며 비밀을 묻는 상황을 제시했다.

출연자는 정해진 규칙으로 보장할 부분과 모델의 추론에 맡길 부분을 구분했다. 비밀번호처럼 보관 대상에서 제외해야 하는 정보에는 명시적인 제한을 둬야 한다. 반면 상대와 평소 어떤 관계인지, 지금의 요청이 그 관계에 맞는지 판단하려면 맥락이 필요하다.

평소 새벽 3시에 메시지를 보내지 않는 사람이 그 시간에 연락했다면 사칭을 의심할 수 있다는 예도 들었다. 모든 상황을 미리 규칙으로 적을 수 없으므로 모델의 판단이 개입한다고 설명했다.

그렇다고 모델을 속여 정보를 얻어내는 문제를 완전히 해결할 수 있다고 보지는 않았다. 모델의 추론 능력이 좋아지면서 대응도 나아질 것으로 기대했지만 **하드웨어로 데이터를 보호하는 문제와 대화 중 공개 여부를 판단하는 문제는 구분했다.**

## 상시 분석의 비용은 모델을 나눠 쓰며 조정한다

사용자 활동을 계속 분석하면 비용이 커진다. 출연자는 초당 60토큰을 처리하는 에이전트 10개를 하루 종일 돌리는 가정을 들어 부담을 설명했다. 이 때문에 현재는 모든 사람보다 바쁜 전문직 종사자나 여러 도구를 자주 오가는 사용자가 주요 대상이라고 했다.

비용과 이해의 깊이 사이에서도 선택해야 한다. 배경에서 기록을 계속 분석하면 사용자를 더 깊이 이해할 수 있지만 지출이 늘어난다. 반대로 가공하지 않은 활동 기록만 남겨 두면 사전 분석 비용은 줄일 수 있어도 질문을 받을 때 모델이 더 많이 추론해야 하므로 응답이 오래 걸릴 수 있다.

작업마다 같은 모델을 쓸 필요도 없다. 컴퓨터에서 일어난 개별 행동의 의미를 파악하는 작업과 이번 주 사용자의 목표를 종합하는 작업에는 서로 다른 능력이 필요하다. 후자에는 비싼 모델을 쓰되 자주 실행하지 않는 식으로 조정할 수 있다.

Second를 설계할 때는 어떤 모델을 언제 실행할지 결정하는 운영 구조가 중요하다. 출연자는 비용 효율을 높이려면 새로운 모델로 교체할 수 있는 유연성과 여러 모델을 섞어 쓰는 방식이 필요하다고 봤다.

## 완성된 화면보다 맥락을 제공하는 기반에 집중한다

개발 과정에서 발견한 유용한 사례는 작업 의도를 기억하는 기능이었다. 출연자는 코딩 AI에 스크린샷과 함께 수정을 요청할 때 이전 작업 맥락이 있으면 무엇을 고치려는지 길게 설명할 필요가 줄어든다고 했다. 노트북에서 보던 일을 휴대전화에서 이어가는 ‘맥락의 연속성’도 강조했다.

디자이너의 개인 앱 제작 사례도 소개됐다. Second가 평소 선호하는 버튼 배치와 색상 사용 방식을 일부 파악하고 있어 수정 반복이 줄었다고 전했다.

출연자는 최근 활동, 다음 주 계획, 우선순위, 알림, 주변 사람에 관한 정보를 API로 제공하는 방향을 설명했다. API는 다른 프로그램이 이런 정보를 요청해 사용할 수 있도록 만든 접점이다. 앞으로 더 많은 API를 추가하고 그 위에서 다양한 앱이 만들어지기를 기대했다.

자체 화면과 상호작용을 만드는 과정에서는 시행착오도 겪었다. 만족스러운 경험을 구현하는 데 시간이 많이 든다는 점을 확인한 뒤 기존 화면들을 닫고 문자 대화와 API로 접점을 줄였다고 밝혔다. 인터페이스 확장은 장기 과제로 두고 지금은 시스템과 사용자 이해 문제에 먼저 집중하기로 했다.

Second는 사용자를 이해하는 정보를 한곳에 일관되게 유지하고 필요한 AI와 기기가 이를 활용하게 하는 방향을 제시했다. 대담에서 드러난 과제도 분명하다. 맥락을 오래 이어가려면 데이터 통제, 정보 공개 판단, 지속적인 분석 비용을 함께 다뤄야 한다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://www.youtube.com/watch?v=kBJe4H_WobA)
