핵심 요약

  • Ramp는 고객의 시간과 돈을 아낀다는 목표에서 출발했다. 낭비를 알려주는 데서 그치지 않고 실제 지출을 막을 수 있도록 결제와 업무 처리에 관여했다.
  • AI를 적극적으로 쓰는 직원과 그렇지 않은 직원, 직무별 생산성 차이가 조직의 병목으로 이어졌다. Ramp는 한 분기 동안 채용을 멈추고 AI 활용을 핵심 역량으로 삼았다.
  • 사내 AI 도구는 직원에게 허용된 데이터, 코드, 브라우저와 실행 환경을 연결하도록 설계했다. 유용한 업무 방식은 조직 전체가 공유하도록 했다.
  • 글리먼은 AI 예산을 일률적으로 제한하기보다 지출이 어떤 결과를 냈는지 봐야 한다고 강조했다. 비싼 모델을 항상 쓰는 대신 속도와 비용도 조정했다.
  • 고객지원 담당자가 직접 코드 변경을 제안하는 등 업무 경계도 달라졌다. 글리먼은 이런 변화가 제품 출시 속도와 고객의 비용 절감 성과로 이어졌다고 밝혔다.

AI를 쓰는데도 조직이 빨라지지 않는 이유

Y Combinator의 대담 프로그램 ‘How to Build the Future’에서 Ramp 공동창업자이자 공동 CEO인 에릭 글리먼은 첫 창업부터 사내 AI 도구 구축까지의 과정을 돌아봤다. 대화에서는 AI로 개인의 작업 속도가 빨라진 뒤 회사 전체의 일하는 방식은 어떻게 바뀌어야 하는지를 주로 다뤘다.

글리먼이 Ramp에서 먼저 발견한 것은 생산성 향상의 불균형이었다. 일부 엔지니어가 AI로 작업 속도를 크게 높였지만 디자인이나 제품 조직은 같은 속도로 달라지지 않았다. 엔지니어 여러 명에 제품 담당자와 디자이너를 일정 비율로 배치하던 기존 방식으로는 새 병목을 해결하기 어려웠다.

인력 충원 요청에서도 차이가 나타났다. AI를 많이 쓰는 팀은 더 적은 인원으로 일했고 활용도가 낮은 팀은 사람을 더 뽑아야 한다고 요청하곤 했다. Ramp는 연간 100% 넘게 성장하던 시기에 한 분기 동안 채용을 멈췄다. 채용과 온보딩에 드는 시간을 줄이는 동시에 AI 학습을 남는 시간에 하는 일이 아니라 업무의 핵심으로 만들려는 결정이었다.

글리먼은 그렇다고 변화가 쉽다고 보지는 않았다. 익숙한 엑셀조차 운영체제가 바뀌면 사용자가 어려움을 겪는다고 지적했다. 수십 년간 해온 업무를 AI 중심으로 다시 배우게 하려면 직원이 새로운 방식의 효용을 직접 경험할 조건이 필요했다.

절약을 권하는 서비스에서 지출을 바꾸는 서비스로

이런 접근은 글리먼의 첫 회사인 Parabus에서 시작됐다. 온라인 구매 뒤 가격이 내려가면 이메일 영수증과 환불 조건을 확인하고 고객 계정에서 차액 환불을 요청하는 서비스였다. 출발점은 직접 겪은 불편이었다. 예약한 항공편이 다음 날 100달러 저렴해진 것을 보고 규정을 확인한 뒤 정해진 시간 안에 요청해 차액을 돌려받았다.

Parabus에는 실행상의 한계가 있었다. 절약할 기회를 찾아도 고객센터에 이메일을 보내고 환불을 기다려야 했다. Ramp에서는 돈이 움직이는 지점에 더 가까이 가고자 했다. 불필요한 구독을 발견하는 것과 그 결제가 나가지 않도록 막는 것은 다른 일이었다.

Capital One에 회사를 매각한 뒤 일하면서 얻은 문제의식도 있었다. 글리먼은 카드사가 고객의 지출을 늘리고 보상 비용을 낮추려는 구조가 계좌에 더 많은 돈을 남기려는 고객의 목표와 어긋날 수 있다고 봤다. 고객에게는 100달러짜리 불필요한 구독을 취소하는 편이 그 지출에서 1%를 돌려받는 것보다 훨씬 유리하다고 봤다.

Ramp는 카드, 경비, 청구서, 구매, 출장처럼 나뉘어 있던 업무를 연결하는 방향으로 제품을 넓혔다. 금융상품에서 생기는 수익으로 소프트웨어에 투자하고 고객이 줄인 비용과 시간을 성과로 삼았다. 글리먼은 이제 비용 낭비를 줄이는 데 더해 매출 수금과 팀 생산성을 높이는 단계로 확장하고 있다고 말했다.

대화창 너머에 데이터와 실행 도구를 연결하다

회사에서 AI를 쓰라는 지시만으로는 실제 업무가 달라지지 않았다. 영업 담당자가 코딩 도구를 설치해도 터미널 사용법부터 막힐 수 있었다. 설치를 끝내더라도 사내 데이터나 업무 시스템에 연결할 권한이 없으면 할 수 있는 일은 제한됐다.

Ramp의 코딩 에이전트 Inspect는 엔지니어가 볼 수 있는 데이터와 코드에 접근하고 자체 가상머신과 브라우저를 사용하도록 설계됐다. 여기서 에이전트는 답변을 작성하는 데 그치지 않고 도구를 써서 작업을 수행하는 AI를 뜻한다. 글리먼은 고객이 보낸 오류 신고를 읽고 최근 코드 변경을 살펴본 뒤 문제를 찾아 수정하고 답장을 보내는 흐름까지 연결할 수 있다고 설명했다.

사내 지식과 공통 업무를 다루는 Glass도 같은 문제를 해결하려 했다. 데이터 저장소, 분석 도구, 고객지원 시스템 등을 연결해 회사 상황을 종합적으로 파악하도록 했다. 다만 정보를 연결하는 것과 모두에게 모든 정보를 공개하는 것은 구분했다. 개인은 각자 부여된 권한에 따라 접근한다.

글리먼은 대담 당시 직원 1,930명 가운데 1,925명이 직전 24시간 동안 Glass를 사용했다고 밝혔다. 도구 선택을 하나로 강제한 것은 아니었다. 직원은 자신에게 가장 적합하다고 판단하는 도구를 쓸 수 있었고 회사는 실험을 장려했다.

개인의 요령을 회사의 업무 방식으로 남기다

Glass에서는 한 직원이 알아낸 유용한 방법을 다른 직원도 재사용할 수 있다. 영업팀이 더 나은 조사 방식을 찾으면 공통 작업 지침인 ‘스킬’로 공유하고 다른 직원에게 기본 방식으로 제시한다. 같은 시행착오를 직원마다 반복하는 대신 회사가 축적한 판단과 업무 방식을 시스템에 남기도록 설계했다.

경비 정책을 처리하는 에이전트도 그 사례다. 글리먼은 이 에이전트가 전체 경비 정책을 읽고 지출을 승인하거나 거절하며 정책이 불완전한 경우도 식별한다고 설명했다. 그가 제시한 정확도는 99%였다. 사람이 결정을 바꾸거나 예외를 적용하면 그 내용을 학습하고 규정이 충돌하거나 빠진 부분이 있으면 정책을 수정하도록 만들었다고 했다.

정해진 규칙을 반복 적용하는 데 그치지는 않는다. 조직이 달라지면 판단 방식도 바뀐다. 글리먼은 업무를 처리한 이유와 변경 이력을 추적할 수 있어야 한다고 봤다. 경영진도 부서마다 서로 다른 방식으로 처리하던 일을 확인하고 어떤 절차가 실제로 쓰이는지 살펴볼 수 있게 된다.

AI 비용은 사용량보다 결과로 판단한다

글리먼은 AI 지출에 일률적인 상한을 두는 방식이 충분하지 않다고 지적했다. 1,000달러를 써서 1만 달러를 만들어낸 직원과 같은 돈을 들여 별다른 가치 없이 주간 회의를 준비한 직원을 똑같이 평가할 수는 없다고 봤다.

Ramp는 사용자별 사용액과 함께 어떤 작업에 돈을 썼고 그 작업이 어떤 성과를 냈는지 연결해 측정하려 한다. 글리먼은 이를 설명하며 소액으로 만든 새 랜딩페이지가 전환율과 매출을 높이는 가상 사례를 들었다.

도구를 설계할 때는 비용을 아낄 여지도 고려했다. 업무에 맞는 모델을 선택하고 항상 가장 고성능 모델을 쓰지는 않는다. 백그라운드 코딩 작업에서는 처리와 추론에 10% 더 시간이 걸리더라도 가격을 50% 낮출 수 있다면 받아들이는 경우가 있다고 했다.

AI 지출을 늘리는 것 자체가 목표는 아니다. 충분한 성능을 가장 적절한 비용으로 확보하고 그 지출이 업무 결과에 기여했는지 확인하는 것이 기준이다.

고객지원에서 제품 수정까지의 거리를 줄이다

이 변화는 엔지니어의 생산성에만 머물지 않았다. 글리먼에 따르면 2분기에는 비엔지니어가 만든 코드 변경 제안, 즉 풀 리퀘스트가 7,000건에 달했다. 약 2년 전에는 사실상 없던 일이었으며 그중 다수는 고객경험팀에서 나왔다.

기존에는 고객이 오류를 신고하면 담당자가 요청을 정리하고 제품 담당자를 설득한 뒤 우선순위 조정과 디자인·개발을 기다려야 했다. 고객의 문제를 직접 들은 직원이 수정안을 만들 수 있게 되면서 이 간격이 줄었다. 글리먼은 처리 시간이 수개월에서 몇 분으로 짧아지면 이전에는 미뤄지던 개선도 계속 이뤄질 수 있다고 봤다.

그는 과거 Ramp에서도 큰 제품 출시는 운이 좋아야 1년에 한두 번이었지만 최근 5개월 동안은 매달 주요 제품을 출시했다고 밝혔다. 연간 매출이 20억 달러를 넘는 규모에서도 성장률이 1년 전보다 25% 이상 높아졌다고 했다. 고객의 연간 경비 절감률도 중간값 기준 약 5%에서 7.5%로 높아졌다고 덧붙였다.

Ramp의 사례에서 AI 도입은 직원에게 새 도구를 지급하는 데서 끝나지 않았다. 업무 정보에 접근하고 실제로 작업을 수행하며 좋은 방법을 공유하고 결과를 측정하는 과정까지 바꿨다. 글리먼이 강조한 조직 재설계는 빨라진 개인의 작업을 회사 전체의 실행 속도로 연결하는 일이었다.