핵심 요약

  • Muse 팀은 작동하는 시제품을 빠르게 만들었지만 일반 사용자에게 공개하기 전에는 신뢰성·안전·보안을 집중적으로 다듬었다.
  • 개별 작업을 끝내는 데서 더 나아가 사용자의 목표와 우선순위를 이해하고 먼저 돕는 개인 에이전트를 지향했다.
  • 아바타와 메시지 말풍선은 장식이 아니었다. 기업의 AI가 아니라 사용자 자신의 비서처럼 느끼게 하려는 선택이었다.
  • 실제 사용 사례를 바탕으로 평가를 바꿨다. 예상보다 쇼핑 수요가 컸고 스마트홈 자동화 수요는 작았다.
  • 초기 사용자가 가치를 체감하게 만드는 일은 여전히 과제다. 추상적인 기능 설명보다 자신과 비슷한 사람의 구체적인 사용 경험이 효과적이었다.

시작은 제품 기획서가 아니라 개인의 필요였다

레니 라치츠키가 진행하는 팟캐스트에 메타 슈퍼인텔리전스 랩스 제품 부사장이자 Muse 제품 책임자인 모나 사란타코스가 출연했다. 사용자의 개인 정보를 이해하고 실제 일을 처리하는 AI 에이전트를 일상에서 믿고 쓰는 제품으로 만드는 과정이 대화의 중심이었다.

사란타코스는 메타에서 약 10년을 일했고 Muse 이전에는 AI 비서 제품인 Meta AI를 맡았다. 당시 팀은 기존 제품을 조금씩 고치기보다 처음부터 다시 설계하고 있었다. 개인용 에이전트는 당장 추진할 일보다 뒤에 올 과제로 생각했다.

전환점은 동료의 권유로 개인용 에이전트를 주말 내내 써본 경험이었다. 사란타코스는 이메일과 일정, 가정 내 자동화 기기를 연결했다. 월요일 아침에는 학교 소식과 여러 정보를 모아 그날과 그 주에 챙길 일을 정리한 안내를 받았다. 짧은 지시만으로 평소 놓치던 개인 일정을 파악할 수 있다는 점이 인상적이었다.

그러나 일반 사용자에게도 이런 경험을 제공하려면 다른 제품이 필요했다. 설치가 쉽고 많은 사람이 동시에 쓸 수 있어야 했으며 무엇보다 안전해야 했다. 몇 사람이 실험하던 작업은 가능성을 확인한 뒤 정식 팀으로 발전했다.

시제품은 빨랐지만 공개 기준은 달랐다

봄 무렵에는 주요 흐름이 처음부터 끝까지 작동하는 제품이 나왔다. 이후 팀은 신뢰성·안전·보안을 다듬는 데 많은 시간을 썼다. 개인의 맥락을 알고 구매까지 대신할 수 있는 에이전트를 평가하기에는 기존 업계 기준만으로 부족하다고 봤다.

기능을 추가하면 검토 범위도 넓어졌다. 초기 Muse에는 브라우저가 없었지만 브라우저를 넣자 새로운 보안 문제를 해결해야 했다. 팀은 공격 상황을 의도적으로 만들어 취약점을 찾는 테스트를 진행했고 사내 사용자와 외부 알파 테스터의 범위도 점차 넓혔다.

사란타코스는 너무 일찍 공개해 문제가 잇따르면 사용자가 에이전트를 신뢰하지 않게 된다고 봤다. 신뢰가 없으면 일을 맡길 수도 없다. 그는 인터뷰 시점까지 치명적인 문제를 겪지 않았다는 점에서 공개를 서두르지 않은 결정을 긍정적으로 평가했다. 동시에 이 분야에는 아직 예상하지 못한 문제가 많고 완벽할 수는 없다고 말했다.

초기 실험에서 그 위험이 구체적으로 드러났다. 두 사용자의 에이전트를 같은 채팅방에서 대화하게 했더니 한 에이전트가 주인의 병원 방문 사실을 다른 사람에게 알렸다. 사용자의 정보를 기억하는 능력과 그 정보를 언제 누구에게 말해도 되는지 판단하는 능력은 별개의 과제였다. 팀은 여러 에이전트가 함께 소통하는 경험을 제공하기 전에 해결할 문제가 많다고 판단했다.

작업 완료보다 사용자의 목표를 앞에 놓았다

개발 초기에는 구매 같은 개별 작업을 끝낼 수 있는지에 관심이 쏠렸다. 경영진과 논의하면서 팀은 제품의 중심에 사용자의 삶과 목표를 놓았다. 작업을 많이 처리하는 데 그치지 않고 사용자가 어디로 가려 하는지, 무엇을 우선하는지 이해하는 일이 중요했다.

팀은 에이전트가 사용자의 맥락을 계속 살피고 더 나은 제안을 준비하는 기능을 구상했다. 목표를 명시하는 탭도 만들었다. 요청을 기다리는 데서 그치지 않고 사용자의 우선순위에 맞춰 먼저 도움을 제안하는 비서로 범위를 넓혔다.

실제 수요는 팀의 예상과도 달랐다. 사란타코스는 개인 생산성·건강·개인 재무를 주요 용도로 생각했지만 테스트에서는 쇼핑이 크게 부상했다. 반대로 초기에 유망하게 봤던 스마트홈 자동화는 더 넓은 사용자층에서 기대만큼 두드러지지 않았다. 팀은 쇼핑을 중요한 사용 사례로 보고 관련 평가를 강화했다.

그렇다고 쇼핑의 모든 과정을 대신하려는 것은 아니다. 사란타코스는 상품을 둘러보고 취향을 발견하는 즐거움은 남아야 한다고 봤다. 에이전트의 역할은 검색·정렬·비교에 드는 수고를 줄이고 선택지가 많아 결정을 못 하는 순간을 돕는 데 있다.

아바타와 말풍선은 ‘내 비서’라는 원칙에서 나왔다

Muse의 캐릭터 Jolly는 처음부터 확정된 브랜드 전략이 아니었다. 수석 디자이너 알렉스 코넬이 시제품에 넣은 임시 캐릭터에서 출발했다. 이후 작업 중인 모습을 보여주는 애니메이션과 사용자별 아바타로 발전했다.

기업 로고로 바꾸자는 대안도 있었지만 팀은 캐릭터를 유지했다. 사란타코스는 제품 원칙에 따라 이 선택을 했다고 말했다. 개인적인 이야기를 나누고 일을 맡기는 상대라면 메타의 상징보다 사용자 자신에게 속한 존재로 느껴져야 했다. 법과 안전을 위한 제한은 두되 에이전트는 사용자를 위해 일한다는 원칙이었다.

메시지 말풍선도 같은 이유로 택했다. 넓은 화면에 긴 답변을 펼치는 대신 익숙한 메신저처럼 대화하도록 만들었다. 다만 말풍선 안에서 긴 답을 어떻게 나눌지, 여러 항목을 가로로 넘겨 보는 형식이 자연스러운지 같은 후속 문제가 생겼다.

처음에는 대화창도 하나만 뒀다. 비서가 이전 맥락을 기억한다면 모든 대화를 한곳에서 이어갈 수 있다고 봤기 때문이다. 그러나 사내 테스트에서 반응이 크게 갈렸다. 대화를 주제별로 구분하고 싶다는 요구가 충분히 많아 별도 대화창을 추가했다. 기억을 유지할 수 있다는 기술적 능력만으로 사용자의 정리 방식까지 결정할 수는 없었다.

평가는 점수뿐 아니라 실제 실패를 들여다보는 일이었다

Muse 팀은 안전, 기능 수행, 대화 행동, 주요 사용 사례로 나눠 평가를 운영했다. 안전 평가에는 외부의 악성 지시가 에이전트의 행동을 바꾸려는 프롬프트 인젝션이 포함됐다. 기능 평가에서는 브라우저 사용과 작업 완료를, 행동 평가에서는 추가 질문과 의도 이해 등을 살폈다.

모든 변경이 통과해야 하는 우선 평가가 있었고 일부 성능 하락을 다른 이점과 비교할 수 있는 평가도 있었다. 평가 작성에는 제품 관리자와 엔지니어, 연구자가 함께 참여했다.

문제는 평가에 쓸 데이터였다. 기존 Meta AI에서는 질문과 답이 한두 번 오가는 경우가 많았다. 반면 개인 에이전트는 식단 계획처럼 오래 이어지는 일을 두고 여러 차례 대화했다. 코딩이 아닌 일상 업무에서 이런 대화가 어떻게 진행되는지 파악해야 했다.

팀은 여러 에이전트가 데이터를 분석하고 결과를 모으는 방식을 활용했다. 지표와 피드백, 실제 사용 사례를 살피고 합성 데이터도 만들어 평가 자료를 보완했다. 이를테면 특정 쇼핑 사이트에서 사용자들이 어디서 막히는지처럼 전체 지표만으로는 알기 어려운 문제를 구체적으로 볼 수 있었다.

자동화한 뒤에도 사람의 검토는 필요했다. 사란타코스는 사람이 데이터를 검토하지 않으면 문제가 생겼다고 말했다. 팀에서는 에이전트의 기본 지시인 시스템 프롬프트와 행동 명세를 사람이 직접 작성하도록 했고 평가용 입력의 구성이 실제 제품 사용과 맞는지도 확인했다.

첫 사용의 장벽은 ‘무엇을 시킬지 모른다’는 데 있었다

사란타코스는 사람들이 기존 챗봇과 Muse의 차이를 이해하지 못하는 문제를 가장 큰 과제로 꼽았다. 기능은 많지만 사용자는 첫 입력에서 날씨를 묻거나 인사만 하고 멈출 수 있다.

그가 가장 효과적이라고 본 것은 입소문, 그중에서도 자신과 비슷한 사람의 실제 사용 경험이었다. 학부모 모임에서 한 사용자가 휴대전화로 활용 사례를 보여주자 두 사람이 그 자리에서 앱을 내려받았다. 개인용 초지능이나 일을 대신하는 AI라는 설명보다 구체적인 화면으로 가치를 전할 수 있었다.

제품 안에는 시작할 일을 제안하는 아이디어 탭을 넣었다. 알림이나 대시보드처럼 무엇을 만들 수 있는지 보여주고 사용자가 동의하면 에이전트가 작업을 시작하도록 했다.

초기 사용자와 나중에 들어온 사용자에게는 안내 방식도 달라야 했다. 초기 사용자는 에이전트의 개념을 어느 정도 알고 안전성과 성능의 한계를 확인하려 했다. 이후 사용자는 다른 AI와 무엇이 다른지부터 알아야 했다. 팀은 유입 경로와 익숙한 정도에 따라 안내를 달리하는 방향을 택했지만 사란타코스는 아직 해법을 다 찾지는 못했다고 밝혔다.

작은 팀은 빨리 만들고 제품 관리자는 기준을 지켰다

초기 팀은 약 10명이었고 대부분 엔지니어였다. 이후에도 여러 직군을 포함한 핵심 팀은 100명 미만이었다. 인프라와 보안 등 다른 팀의 지원을 받으면서도 핵심 팀은 긴밀하게 의사소통하고 의사결정을 내리려 했다.

제품 관리자는 약 네 명이었다. 모든 영역에 담당자를 붙이기보다 초기 아이디어는 디자이너나 엔지니어가 직접 만들어보게 했다. 실제 제품에 통합하거나 출시할 단계에서 제품 관리자의 관여가 더 중요해졌다. 이 방식으로 자율성과 속도는 높아졌지만 인력 여유가 적고 업무 부담이 크다는 대가도 있었다.

사란타코스는 AI 덕분에 제품 관리자도 시제품과 내부 도구를 만들 수 있게 됐다고 말했다. 긴 문서나 평면 설계를 보며 상상하는 대신 손에 쥔 결과물을 두고 논의할 수 있었다. 동시에 만들고 배포하기 쉬워질수록 사용자에게 내보낼 품질의 기준은 더 중요해졌다. 제품 관리자는 만드는 사람들의 흥미와 실제 사용자의 필요를 구분하고 고객의 입장에서 판단해야 했다.

Muse가 풀려는 다음 과제도 이 기준과 이어진다. 사란타코스는 사용자가 에이전트에 맥락을 계속 공급하고 진행 상황을 돌봐야 하는 부담을 줄이고 싶다고 했다. 일을 맡기는 것보다 지켜보는 수고가 커진다면 직접 처리하는 편이 낫기 때문이다. Muse의 개발 과정은 많은 일을 할 수 있다는 시연에서 출발했지만 제품의 기준은 결국 사용자가 안심하고 일을 맡길 수 있느냐에 놓였다.