핵심 요약

  • 팩토리 CTO이자 공동창업자인 에노 레예스는 모델 이용료보다 원하는 결과를 얻는 총비용이 중요하다고 봤다.
  • 그는 신생 AI 모델 연구소의 80~90%가 향후 18개월 안에 독립 기업으로 남지 못할 수 있다고 전망했다. 인수 등 좋은 결과를 얻는 경우도 있어 이를 모두 사업 실패로 보지는 않았다.
  • 레예스는 3년 뒤 업무 흐름의 99%에 개방형 모델이 쓰일 것으로 예상했다. 다만 나머지 1%가 AI 활용의 경제적 가치 중 30~40%를 차지할 수 있다고 덧붙였다.
  • 기업이 AI로 일을 처리한 결과뿐 아니라 그 과정에서 쌓인 판단 기준과 업무 흐름을 누가 소유하는지가 핵심 쟁점이라고 강조했다.

저렴한 모델이 저렴한 결과를 뜻하지는 않는다

레예스는 코드 리뷰를 예로 들었다. 성능이 높은 모델이 적은 시도로 정확한 리뷰를 끝낸다면, 이용 단가가 낮은 모델이 훨씬 많은 토큰을 쓰며 여러 차례 작업하는 것보다 최종 비용이 낮을 수 있다. 그는 지적 요구가 높은 일부 작업에서 가장 똑똑한 모델이 결과적으로 가장 저렴할 수 있다고 봤다. 모든 작업에 해당하는 법칙은 아니라고 선을 그었다.

결과를 비용 기준으로 삼으려면 품질을 검증할 수 있어야 한다. 법률이나 의료처럼 정답을 단순하게 판별하기 어려운 분야에서는 전문가가 두 결과를 비교하고 판단 기준을 만드는 방식이 필요하다고 설명했다. AI가 그런 검증 방법 자체를 만드는 것도 중요한 과제로 꼽았다. 다만 기준을 잘못 정하면 사람과 시스템이 실제로 좋은 결과보다 기록된 평가 항목을 충족하는 데 맞춰 움직일 수 있다고 경고했다.

모델은 늘어나고, 선도 모델의 쓰임은 좁아질 수 있다

레예스는 기업이 범용 작업에는 널리 쓸 수 있는 모델을 이용하고, 처리량이 많지만 고유한 작업에는 기존 모델을 추가 학습해 내부 전용으로 사용할 것으로 예상했다. 전문 모델을 만드는 지식이 현재는 소수에게 집중돼 있지만, 작업을 설명하고 기존 업무 흐름을 연결해 모델을 만드는 서비스가 이를 넓힐 수 있다는 주장이다.

그는 개방형 모델이 대부분의 일상 업무를 맡더라도 최상위 성능의 모델은 첨단 연구, 고도화된 AI 개발, 보안·국방 같은 좁은 분야에서 차별화될 수 있다고 봤다. 앞서 제시한 ‘3년 뒤 99%’도 실측치가 아닌 그의 전망이다. 모델을 고를 때는 제작자의 제한이 업무를 막는지, 필요한 문제를 해결하는지, 공급이 중단됐을 때 다른 모델로 옮길 수 있는지를 살펴야 한다고 말했다. 미국 국가안보 업무에는 중국산 모델을 쓰지 말아야 한다는 예외도 명시했다.

신생 AI 기업의 생존 조건은 업무 흐름이다

레예스가 말한 신생 AI 연구소의 생존 여부는 모델 성능만으로 결정되지 않는다. 그는 기업이 오래 지속될 업무 흐름에 붙어 있는지, 더 나은 선도 모델이 나왔을 때 그 업무가 바뀌는지, 새로운 경쟁자가 같은 문제를 다른 방식으로 풀 수 있는지를 따져야 한다고 했다.

법률 분야는 고유 데이터와 업무 절차가 있고 앞으로도 법률 체계가 남아 있을 것이라는 이유로 유리한 사례로 들었다. 반면 엑셀이나 지라에서 수행하는 중간 단계의 범용 지식 작업은 차별화하기 어렵고, 해당 도구를 쓰는 방식도 바뀔 수 있다고 봤다. 이는 분야별 확정적 승패가 아니라 지속성을 판단하기 위한 레예스의 기준이다. 그는 팟캐스트 영상의 적절한 장면을 고르는 일처럼 숙련자의 직관을 설명하고 기록하기 어려운 작업에서는 AI의 발전 속도가 코딩과 다를 수 있다고 덧붙였다.

AI가 일하는 과정에서 쌓인 지식은 누가 소유하나

레예스는 에이전트가 작업하는 동안 과거 진행 상황을 기억하고 다음 단계를 고려해 모델을 선택해야 한다고 설명했다. 작업 바깥에서 요청만 분배하는 모델 게이트웨이와 달리, 이런 판단은 에이전트의 실행 체계인 하네스 안에서 이뤄진다는 것이다. 팩토리에서 관찰한 바에 따르면 외부 게이트웨이만으로도 비용을 10~20% 절감할 수 있지만, 여러 단계를 거치는 에이전트 작업에는 그 이상의 문맥이 필요하다고 했다.

그는 학습이 모델 내부에만 쌓이는 상황보다 기업의 하네스와 업무 흐름에 축적되는 상황에 주목했다. 법률회사가 사건 처리 전부를 외부 업체에 맡기면, 시간이 지난 뒤 사건을 처리하는 방법을 외부 업체가 더 잘 알게 될 수 있다는 예를 들었다. 기업이 결과 데이터와 성공한 업무 절차를 직접 통제해야 한다는 주장이다. 팩토리의 자체 구축형 제품을 두고도, 실제로는 서비스형 제품을 택하는 고객이 있지만 필요할 때 자체 환경으로 옮길 수 있다는 선택지가 중요하다고 설명했다.

성장 전략과 채용도 결과를 기준으로 본다

레예스는 AI 제품이 이용자를 늘리려고 가격을 보조할 수는 있지만, 이후 수익성을 높일 경로가 없다면 위험하다고 말했다. 가격을 올릴 때 제품이 주는 가치도 함께 높아지지 않으면 고객이 다른 제품으로 이동할 수 있다는 이유다. 팩토리는 개인별 토큰 사용량보다 프로젝트의 비용과 성과를 본다고 했다. 어려운 평가 과제에 하루 동안 한 사람이 사용하는 데 거의 일곱 자리 수 규모의 크레딧을 배정한 사례도, 개인에게 자원을 나눠준 것이 아니라 연구 결과를 확인하기 위한 프로젝트 지출로 설명했다.

채용에서는 학력이나 장시간 일하겠다는 신호보다 이미 관련 문제를 풀기 위해 만든 결과물을 중시한다고 했다. 스타트업이 주말에 긴급한 고객 문제를 해결해야 할 때는 있지만, 일하는 모습을 보여주는 행위 자체를 문화로 만들면 잘못된 유인이 생긴다는 판단이다. 기업 고객을 만날 때도 먼저 고객이 가장 중요하게 여기는 문제를 파악해야 한다고 말했다.

레예스의 주장은 AI 기업의 가치를 모델 성능이나 이용량 하나로 판단하기 어렵다는 데 모인다. 그가 반복해서 제시한 기준은 결과의 품질과 비용, 업무 흐름의 지속성, 그리고 그 과정에서 쌓인 지식을 통제할 수 있는지다.