핵심 요약

  • 리플릿의 AI 에이전트는 비개발자가 챗GPT와 개발 도구 사이에서 코드와 오류를 복사하던 과정을 관찰하면서 출발했다. 코드 생성보다 프로그램이 작동할 때까지 수정을 이어가는 것이 중요했다.
  • 배포·데이터베이스·협업 기능 등 오랫동안 만든 기반 기술이 에이전트 개발을 뒷받침했다. 모델 성능이 좋아져 진입 장벽이 낮아지는 상황에서도 안정성과 보안은 기업 고객을 확보하는 강점으로 남았다.
  • 기업에서는 영업 담당자처럼 현장의 문제를 아는 직원이 내부 도구를 직접 만들기 시작했다. 리플릿은 이들을 지원하는 일을 기존 사명의 연장선으로 본다.
  • 다음 과제는 AI 사용량을 일률적으로 제한하는 대신 어떤 사람과 프로젝트가 가치를 만드는지 파악하는 것이다. 마사드는 이를 바탕으로 기업의 업무 방식과 조직 구조를 바꾸려 한다.

사용자 관찰에서 시작된 AI 개발 도구

Y Combinator 공동 설립자 폴 그레이엄과 리플릿을 이끄는 아마드 마사드는 이 대담에서 AI 소프트웨어 개발이 어떻게 등장했고 기업의 업무를 어디까지 바꿀 수 있는지 논의했다. 주로 리플릿이 자연어로 코드를 만드는 도구에서 기업의 일하는 방식을 바꾸는 플랫폼으로 어떻게 나아갈지를 다뤘다.

마사드에게 이 변화는 갑작스러운 도약이 아니었다. 리플릿은 이미 AI 자동완성을 제공하고 있었다. 그는 당시 생성하던 코드의 비중을 약 50~60%로 추산했다. 더 결정적인 단서는 사무실로 초대한 사용자들의 작업 방식이었다.

코딩 경험이 없는 사용자들은 한쪽 창에 챗GPT를, 다른 창에 리플릿을 열었다. 챗GPT가 만든 코드를 리플릿에 붙이고 오류가 나면 그 내용을 다시 챗GPT로 가져갔다. 수정된 코드를 받아 붙이는 과정을 반복하면서 프로그램을 만들었다.

리플릿은 바로 이 반복을 자동화하려 했다. 단순히 두 창 사이의 복사를 없애는 것으로는 부족했다. AI가 오류를 이해하고 수정하며 한 번 답변했을 때가 아니라 프로그램이 작동할 때 작업을 끝내야 했다. 여기서 에이전트는 도구를 사용하며 여러 단계의 작업을 수행하는 AI를 뜻한다.

마사드는 초기 모델의 능력이 부족해 이를 제어하는 소프트웨어가 지금보다 훨씬 복잡했다고 회고했다. 출시 당시에도 약 30%는 제대로 작동하지 않았다고 추산했다. 그런데도 직접 코딩할 수 없던 사람에게는 상당한 변화였다. 그레이엄은 사용자가 챗GPT와 코드를 주고받던 기존 방식 역시 실패할 수 있었다는 점을 짚었다.

쉬운 화면 아래에 쌓아 둔 기반 기술

리플릿의 또 다른 성과는 AI가 코드를 쓰는 데서 그치지 않고 실행에 필요한 자원까지 준비하게 만든 것이었다. 데이터베이스를 생성하고 프로그램을 배포하는 기능이 이미 있었기 때문에 에이전트는 도구를 호출해 이 기능들을 이용할 수 있었다.

협업 기능도 도움이 됐다. 사람이 같은 프로젝트에서 함께 작업하던 구조에 에이전트를 또 다른 사용자로 넣을 수 있었다. 마사드는 초기 에이전트가 사실상 기존 협업 시스템에 참여하는 사용자였다고 설명했다.

조직도 이에 맞춰 바뀌었다. 코드 실행 환경을 맡던 팀, 배포와 클라우드 서비스를 맡던 팀, 개발 환경을 만들던 팀 사이에 에이전트 팀을 배치했다. 각 팀은 사람이 직접 쓰던 기능을 에이전트가 사용할 수 있는 도구로 제공하기 시작했다.

그레이엄은 리플릿을 빙산에 비유했다. 수면 위에는 영어로 지시하면 코드가 나오는 간단한 경험이 보이지만 아래에는 배포와 격리된 실행 환경 같은 기반 기술이 놓여 있다는 뜻이다. 마사드는 작업을 되돌릴 수 있도록 자체 파일 시스템까지 만들었다고 밝혔다.

이 기반 덕분에 리플릿은 기업 시장에서 차이를 만들었다. 마사드에 따르면 리플릿의 안전장치는 때로 제품을 느리고 비싸게 만들지만 안정성과 보안에 민감한 기업 고객은 이를 높이 평가한다. 모델이 발전하면서 에이전트를 만드는 데 필요한 개발 부담은 줄어든다. 그는 그만큼 경쟁이 쉬워지며 AI 기업은 지금의 기능이 계속 흔해진다는 사실을 받아들이고 다음 문제를 풀어야 한다고 봤다.

외주를 맡기는 대신 직접 만드는 고객들

초기에 많은 돈을 지불한 고객 중에는 원래 외주 개발자를 구하려던 사람들이 있었다. 마사드는 앱 개발에 10만 달러를 쓰는 대신 리플릿에 약 1,000달러를 지불하는 경우를 들어 비용 차이를 설명했다. 그레이엄은 품질이 좋지 않은 외주 소프트웨어에도 큰돈을 쓰는 현상에서 충족되지 않은 수요를 읽었어야 했다고 말했다.

리플릿도 처음에는 플랫폼의 개발자들이 의뢰를 받아 프로그램을 만드는 서비스를 운영했다. 개발자들은 당시의 초기 AI 기능을 활용했고 서비스는 빠르게 성장했다. 그러나 마사드는 결국 사용자가 중간의 개발자 없이 에이전트에 전체 작업을 맡길 것으로 보고 이 사업을 접었다고 밝혔다.

기업 내부에서도 비슷한 일이 벌어졌다. 마사드는 다국적 기업과 은행 안에서 리플릿을 먼저 도입한 직원들이 내부 시스템을 교체하는 사례를 소개했다. 한 고객은 사전에 1,000만 달러 규모로 산정했던 프로젝트에 리플릿 비용으로 25만 달러를 썼다고 전했다.

마사드는 기술 기업보다 은행이나 제조업체 같은 비기술 기업에서 더 큰 영향을 기대한다. 영업 부서의 책임자가 자기 부서에 필요한 도구를 만드는 식이다. 기업용 사업이 리플릿의 사명과 맞느냐는 내부 고민에 마사드는 이들 역시 문제를 해결하고 사업을 만들어 가는 진취적인 사람들이라고 답했다.

AI 예산보다 어려운 것은 성과를 알아보는 일

기업에 들어가려면 관리자 권한, 보안 통제, 예산 설정처럼 눈에 잘 띄지 않는 기능도 갖춰야 한다. 구매를 결정하는 IT·보안 조직의 요구 때문에 실제 사용자의 경험이 나빠지는 충돌도 생긴다.

마사드가 든 사례는 AI 사용 예산이다. 직원마다 매달 100달러어치의 토큰을 배정하는 식이다. 토큰은 AI가 처리하는 텍스트의 단위로, 여기서는 사용량과 비용을 제한하는 기준이다.

그는 일률적인 배분에 반대했다. 고객사를 관찰해 보면 한 사람이 다른 사람보다 훨씬 큰 성과를 낼 수 있으므로 사용량보다 투자 대비 성과를 봐야 한다고 말했다. 그레이엄은 어떤 직원의 어떤 프로젝트가 가치를 만드는지 알아보는 일이 대기업의 근본적인 어려움과 연결된다고 지적했다.

마사드는 당장은 고객이 요구하는 통제를 제공해야 기업에 진입할 수 있다고 봤다. 이후에는 성과가 나는 곳을 보여 주는 더 나은 방식을 만들어 제안하겠다고 구상했다.

‘스스로 움직이는 회사’라는 다음 목표

마사드는 리플릿을 이제 바이브 코딩만으로 설명하지 않는다고 말했다. 바이브 코딩은 자연어로 원하는 것을 설명하고 AI가 코드를 작성하게 하는 방식이다. 그가 제시한 더 넓은 방향은 AI를 활용해 업무 방식과 조직 구조가 달라지는 ‘스스로 움직이는 회사’다.

리플릿은 자사 제품의 첫 고객으로서 이 변화를 시험하고 있다. 회사 안에서 누가 가치 있는 일을 하는지, AI를 쓰면서 업무가 어떻게 달라지는지 직접 알아보려는 실험이다. 마사드는 소프트웨어 제작이 쉬워지면 큰 변화가 생길 줄은 알았지만 기업이 일하는 방식 자체가 달라질 가능성까지는 충분히 이해하지 못했다고 말했다.

거대한 전략을 발표하기보다는 고객의 구체적인 문제를 하나씩 해결하는 방식으로 추진한다. 도착하려는 방향은 정해 두되 그 방향으로 움직이는 고객을 발견하면 도와주고 다른 고객도 같은 일을 할 수 있게 만든다. 마사드는 리플릿 에이전트 역시 외부에서는 급격한 변화처럼 보였지만 내부에서는 이런 점진적인 개발의 결과였다고 설명했다.

미래를 예측하고 기존 방식을 버리는 능력

그레이엄은 마사드의 예측력을 단순히 깊이 생각하는 습관만으로 설명하지 않았다. 마사드는 2008년 스마트폰으로 프로그래밍하고 싶다고 생각한 때부터 오랫동안 같은 문제를 붙잡고 있었다. 그레이엄은 그 시간이 새로운 기술이 등장했을 때 무엇을 만들지 알아보는 바탕이 됐다고 봤다.

마사드는 예측을 세우고 다시 살피며 수정하는 일을 의식적으로 반복한다고 말했다. 기술 수준을 현재 상태에 고정해 보지 않고 계산 능력이 계속 늘어난다는 전제에서 가능한 일을 생각한다. 그는 2019년 GPT-2를 처음 봤을 때 대화형 도구와 에이전트, 개인 비서를 상상했다고 회고했다.

마사드는 이 전제를 두고 리플릿의 다음 기반 기술도 생각한다. 한 사람이 쓰는 에이전트가 하나에서 수십 개, 나아가 수천·수만 개로 늘어날 것으로 예상했다. 그 규모를 개인 노트북에서 감당할 수 없기 때문에 작업이 클라우드로 옮겨갈 것으로 전망했다.

그는 자신이 익힌 기술이나 직업적 정체성에 매달리지 않고 다시 시작하는 태도도 강조했다. 대기업 통신사와 진행한 해커톤에서는 참가자들이 리플릿을 쓰기 전과 한 시간 사용한 뒤 AI에 대한 불안을 조사했다고 밝혔다. 사용 전에는 약 80%가 불안해했지만 사용 뒤에는 약 80%가 낙관적으로 답했다고 전했다.

리플릿의 다음 목표는 코드 생성 기능을 늘리는 데만 있지 않다. 사용자가 이미 시도하는 일을 관찰하고 그 일을 끝낼 수 있는 기반을 제공하며 기업이 그 성과를 알아보도록 돕는 데 있다. 마사드는 그 변화를 리플릿 안에서 먼저 시험하고 고객의 구체적인 문제를 풀면서 넓혀 가려 한다.