핵심 요약

  • 소비자 AI 에이전트의 역할은 업무 대행에 그치지 않는다. 친구의 소식을 전하거나 함께 즐길 거리를 만드는 제품도 등장하고 있다.
  • 신뢰를 얻으려면 개인정보 접근 권한뿐 아니라 공개 범위와 행동의 경계를 다뤄야 한다. 준비는 맡기되 최종 결정은 직접 하려는 수요도 있다.
  • 쇼핑·여행에서는 여러 조건을 동시에 지키고 사용자가 말하지 않은 취향과 상황을 파악하는 판단력이 중요하다.
  • 대화와 사진은 개인화에 도움이 되지만 일시적인 관심을 고정된 취향으로 오해하거나 불필요한 정보를 기억하는 문제가 남는다.
  • 출연자들은 재미와 관계 형성을 새로운 기회로 봤다. 실제 과업의 완수와 사용자 증가를 감당하는 운영 능력도 차별점으로 꼽았다.

만능 비서보다 여러 역할의 에이전트

벤처캐피털 앤드리슨 호로위츠(a16z)의 이번 대담에서 진행자와 출연자들은 소비자용 AI 에이전트의 사용 경험과 비교 실험을 논의했다. 사용자를 대신해 과업을 수행하는 AI 에이전트를 어떻게 일상에서 계속 찾는 제품으로 만들지가 대화의 중심이었다.

출연자들은 하나의 만능 비서가 모든 일을 맡는 모습만 예상하지 않았다. 재무 관리, 여행, 일정, 이메일처럼 목적에 따라 다른 에이전트를 쓰고 때로는 생산성과 관계없이 대화 자체를 즐기는 제품을 찾을 수 있다고 봤다. 사람마다 다른 친구에게 조언을 구하듯 에이전트에도 서로 다른 역할과 성격이 생긴다고 본 것이다.

한 출연자는 친구와 함께 쓰는 에이전트에게서 친구 집의 주말 정전 소식을 들었다고 했다. 이후 친구에게 전화하면서 대화가 이어졌다. 여행 예약이나 비용 절감과는 다르지만 평소에는 굳이 먼저 전하지 않았을 소식이 관계를 잇는 계기가 된 사례다.

신뢰는 정보 접근보다 행동의 경계에 달렸다

AI 비서 비교 작업을 맡은 한 출연자는 지금까지 147개가 넘는 비서를 살펴봤다고 밝혔다. 그가 운영하는 AI 적극 사용자들의 그룹 채팅에는 약 3,600개의 메시지가 쌓였으며 두려움을 분석하는 과정에서 메시지의 22%가 신뢰를 언급했다고 설명했다. 이는 그가 관찰한 사용자 집단의 경험이다.

신뢰 문제는 데이터 유출에만 머물지 않았다. 대담에서는 개인 에이전트가 업무 영역까지 넘어가 개인 재무 정보를 회사 슬랙에 공개했다는 사례가 소개됐다. 개인 정보와 개인 연락 채널에 접근할 수 있더라도 업무 채널까지 같은 권한을 가져서는 안 된다는 지적이 나왔다.

출연자들은 이를 울타리에 비유했다. 허용된 범위가 분명해야 그 안에서 더 많은 일을 맡길 수 있다. 권한 설정과 감시 장치에 더해 상황에 맞게 조심스럽게 행동하는 판단도 필요하다고 봤다.

특히 사회적인 실수는 민감하다. 에이전트가 대신 보낸 이메일의 어조가 부적절하거나 다른 사람의 에이전트에게 사용자의 사정을 함부로 전하면 사용자가 직접 당혹감을 감당해야 한다. 무엇을 아는지와 무엇을 말해도 되는지는 별개다.

그렇다고 처음부터 완전한 자율성이 필요한 것은 아니다. 출연자들은 여행 후보와 비용, 선택에 따른 장단점은 에이전트가 정리하되 실행 전에는 사용자가 최종 결정을 내리는 방식도 충분히 유용하다고 봤다. 시간을 아끼는 가치와 통제권을 넘기는 정도를 구분했다.

싼 꽃을 찾는 능력과 좋은 선물을 고르는 능력

비교 실험에서는 당일 배송이 가능하면서 최대한 저렴한 꽃을 찾도록 했다. 실험자는 일부 비서가 두 조건을 함께 고려한 반면 다른 비서는 당일 배송 상품을 찾고도 가격 비교에는 충분히 집중하지 못했다고 설명했다.

대화가 이어지면서 실험의 한계도 드러났다. 실제 꽃을 받은 사람은 여자친구였다. 선물이라면 상대가 좋아하는 꽃, 포장, 메시지, 가격이 드러나는지까지 중요할 수 있다. 실험자는 이번에는 비용과 배송 시점이라는 두 축만 확인했으며 현실의 주문에는 추가 조건이 붙는다는 점에 동의했다.

로스앤젤레스 주말 여행 실험에서는 고급스러우면서도 비용 효율적인 일정을 요구했다. 어떤 에이전트는 비용을 줄이는 데 무게를 뒀고 다른 에이전트는 현지에서 쓸 시간을 늘리는 것을 고급스러운 경험으로 해석했다. 모두 추가 질문을 했지만 실험자는 답변을 일부러 모호하게 해 각자의 해석을 살폈다.

조건을 실행하는 능력과 조건 사이의 긴장을 이해하는 능력이 다르다는 차이가 드러났다. 야간 비행으로 돈을 아껴도 도착 직후 쉴 호텔 방이 필요하면 비용 계산이 달라진다. 출연자들은 사용자의 상황을 파악하고 선택지를 설명하는 과정이 중요하다고 강조했다.

쇼핑의 미래를 두고도 의견은 갈렸다. 에이전트가 더 오래 탐색하면 마케팅이 약한 소규모 브랜드를 발견하기 쉬워질 수 있다. 반면 제품 품질을 직접 판단하기 어려운 에이전트가 문서가 잘 정리된 API, 즉 소프트웨어끼리 연결하는 인터페이스를 과도하게 선호할 수 있다는 반론도 나왔다. 탐색을 대신한다고 선택이 자동으로 합리적이 되는 것은 아니라고 지적했다.

기억이 많다고 취향을 정확히 아는 것은 아니다

기존 대화 기록은 새 비서가 사용자를 이해하는 출발점이 될 수 있다. 한 출연자는 비교 대상 상위 15개 에이전트에게 다른 서비스로 옮길 수 있도록 기억을 내보내 달라고 요청했고 하나를 제외한 나머지가 응했다고 밝혔다. 그는 제공받은 기억 파일도 대체로 충실했다고 평가했다.

사진과 스크린샷도 후보로 거론됐다. 말로 설명하지 않은 옷차림과 관심사, 저장해 둔 디자인을 파악할 수 있기 때문이다. 한 출연자는 자신의 휴대전화 스크린샷에서 정보를 추출하는 앱을 만들었지만 계속 사용하지는 않았다고 했다. 추출한 정보의 가치가 시간이 지나면서 빠르게 줄었다고 전했다.

정보를 많이 모으는 것만큼 무엇을 잊을지도 중요하다. 사진에서 불필요하거나 사용자가 알리고 싶지 않을 정보를 발견하면 기억에 넣지 않으려는 제품의 접근도 소개됐다. 해당 제품은 비교 실험에 아직 포함되지 않은 상태였다.

더 근본적인 문제는 관심과 정체성을 구분하는 일이다. 한 출연자는 월드컵을 찾아본 뒤 AI가 자신을 축구 애호가처럼 취급했다고 했다. 딸이 좋아하는 음악가를 알아보는 행동도 자신의 평소 음악 취향과는 다르다고 설명했다. 잠깐 알아본 주제가 곧 지속적인 선호는 아니다. 개인화에는 기록을 쌓는 일뿐 아니라 기록이 생긴 이유를 이해하는 일이 필요하다.

재미와 관계가 만드는 새로운 사용 이유

출연자들은 생산성을 높여주는 기능만으로 소비자 에이전트를 설명하기 어렵다고 봤다. 친구끼리 처음 만난 이야기를 조금 다르게 들려주자 에이전트가 양쪽에 질문하며 차이를 짚은 경험도 소개됐다. 그 과정에서 친구들은 따로 메시지를 주고받으며 함께 즐겼다.

여러 사람이 에이전트와 함께 대화하는 제품에서는 참여 규칙도 중요하다. 처음부터 사람과 에이전트가 함께 있는 새 채널이라면 어떤 정보를 공유할지 함께 정할 수 있다. 반면 기존 단체 대화방에 에이전트를 넣으면 과거 대화를 어디까지 읽고 무엇을 추출했는지 불편함이 생길 수 있다. 주제별로 대화를 나누면 도움을 받는 범위와 정보의 경계를 맞추기 쉽다는 의견도 나왔다.

에이전트끼리 교류하는 실험에서는 가능성과 한계가 함께 드러났다. 한 출연자는 사람들의 모임과 함께 에이전트 모임도 열었다고 밝혔다. 처음에는 사용자가 누구이며 무엇을 하는지 소개하도록 안내했지만 약 150개의 메시지가 오간 뒤에는 일부 에이전트가 이해하기 어려운 대화를 하기 시작했다.

출연자들은 대화량 자체보다 사용자를 위한 연결을 기대했다. 관심사가 맞는 사람을 소개하거나 온라인 그룹을 실제 만남으로 이어주는 구상을 밝혔다. 같은 제안도 새 도시에서 친구를 찾는 사람과 이미 친구가 많은 사람에게는 가치가 다를 수 있다고 짚었다.

사용자를 훈계하지 않으면서 일을 끝내는 제품

대담에서는 에이전트가 사용자의 목표를 안다는 이유로 선택을 지나치게 제한해서는 안 된다는 경계도 나왔다. 체중을 줄이려는 목표가 있다고 해서 배고플 때 보여주는 음식 후보를 일방적으로 좁히면 사용자는 자신의 취향을 더 잘 받아주는 비서로 옮길 수 있다고 봤다.

출연자들은 사람들에게 생산성과 목표 달성뿐 아니라 즐거움, 낙관, 자신이 되고 싶은 모습에 대한 욕망도 있다고 봤다. 이메일과 미완료 업무를 계속 상기시키는 비서보다 옷을 더 잘 고르게 돕는 것처럼 스스로 만족할 변화를 만드는 에이전트가 매력적일 수 있다고 전망했다.

이런 경험을 뒷받침하는 실행 능력도 빠질 수 없다. 비교 작업을 맡은 출연자는 과업이 중간에 막히면 사용자가 직접 브라우저에서 처리하는 편이 낫다고 느낀다고 전했다. 사용자 수가 늘자 성능이 떨어지고 장애가 발생하는 제품과 큰 규모에서도 작동하는 제품 사이에 차이가 있다고 관찰했다. 그는 이를 근거로 소프트웨어 구현과 운영 역량이 여전히 경쟁력이 될 수 있다고 봤다.

이번 대담에서 제시한 소비자 에이전트의 가치는 더 많은 일을 대신하는 데서 끝나지 않는다. 여러 조건을 지키며 일을 마치고 기억과 공개의 경계를 다루며 사용자가 원하는 즐거움과 관계를 만드는 경험까지 포함한다. 출연자들은 서로 다른 제품이 각자의 방식으로 그 균형을 찾아갈 것으로 내다봤다.