핵심 요약

  • UiPath CEO 다니엘 디네스는 기업 AI의 지속적인 자산이 개별 모델보다 업무의 지도에 있다고 주장했다. 여기에는 절차뿐 아니라 예외, 사용 시스템, 판단의 이유까지 포함된다.
  • 그는 현재 모델의 메모리와 사람이 일하면서 변하는 학습을 구분했다. 기업의 암묵적인 판단을 모델이 스스로 익힐 수 있다고 전제해서는 안 된다는 견해다.
  • 정확성이 필요한 작업에는 AI가 만든 자동화 소프트웨어를 쓰고, AI는 설계와 수정에 활용하는 방식을 제시했다.
  • AI 도입에 따른 인력 재편은 직무명이나 처리량만으로 결정할 수 없다고 봤다. 고객 신뢰와 자발적인 문제 해결처럼 측정하기 어려운 기여도 살펴야 한다는 것이다.

메모리와 업무 학습은 다르다

디네스는 ‘데이터센터 안의 수백만 아인슈타인’이라는 전망을 들었을 때, 그 AI를 기업에 채용해 일을 맡길 수 있는지 생각했다고 말했다. 그의 결론은 추론 능력이 높아지는 것과 사람이 현장에서 배우며 일하는 것은 다르다는 것이다. 모델은 업무 중 알게 된 정책을 메모에 남길 수 있지만, 그 경험으로 모델 자체가 바뀌지는 않는다고 설명했다.

그는 같은 요리법을 받아도 일본 음식만 만들어 온 요리사와 이탈리아 음식만 만들어 온 요리사의 결과가 다를 수 있다는 사례를 들었다. 기업에서도 직원은 문서에 적히지 않은 경험을 바탕으로 고객의 이탈 조짐을 감지하고 먼저 움직일 수 있다. 진행자는 기업 업무의 상당 부분이 실행 중심이며 모델에도 메모리가 있다고 반박했다. 디네스는 메모리가 있다는 점은 인정하면서도, 기록을 다시 읽는 것과 경험을 통해 달라지는 것은 구분해야 한다고 답했다.

이 주장은 영구적인 기술 한계에 대한 단정은 아니다. 디네스는 향후 모델이 업무 중 스스로 변화하는 기술이 나올 가능성을 열어 뒀다. 다만 현재 기업이 AI를 배치할 때는 그런 능력이 이미 있다고 가정할 수 없다는 입장이다.

정확한 실행에는 자동화가 필요하다

디네스가 지적한 또 다른 한계는 정확성이다. 여러 단계를 거치는 일에서 각 단계의 오류 가능성이 쌓일 수 있으므로, 같은 입력에 같은 결과가 필요한 작업을 모두 확률적으로 작동하는 모델에 맡길 이유가 없다고 설명했다. 큰 수의 곱셈을 요청할 때 AI가 뒤에서 계산 도구를 호출하는 것처럼, 기업의 정확한 실행도 그에 맞는 기술이 담당해야 한다는 논리다.

그는 AI 코딩 에이전트 덕분에 자동화 소프트웨어를 만드는 일은 쉬워졌지만, 기업에 AI 에이전트를 배치하는 일은 그만큼 쉬워졌다고 보지 않았다. AI가 설계 단계에서 자동화를 만들고, 실행 단계에서는 검토와 테스트가 가능한 소프트웨어가 정해진 동작을 수행하는 방식을 제안했다. 기존 시스템이 바뀌어 자동화가 깨지면 AI가 수정에 다시 참여할 수 있다. 사람의 검토와 테스트를 거쳐 예측 가능하게 운영할 수 있다는 점이 이 방식의 장점이라고 그는 봤다.

기업이 먼저 그려야 할 ‘업무의 지도’

디네스는 기업의 절차, 예외, 사용 시스템, 목표를 이루기까지의 흐름을 담은 기록을 ‘업무의 지도’라고 불렀다. 예컨대 청구서 처리에서도 고객별 사정에 따라 다른 판단이 필요할 수 있다. 그런 판단 기준이 기록되지 않았다면 AI가 해당 기업의 방식을 알기 어렵다는 것이다.

UiPath는 실제 업무를 파악하기 위해 담당자가 화면에서 하는 일을 기록하고, 왜 특정 청구서를 다른 경로로 처리했는지 AI 에이전트가 실시간으로 묻는 제품을 소개했다. 여러 담당자의 답을 모아 현재 업무 흐름을 그린 뒤 개선할 절차를 찾는 구상이다. 다만 디네스도 업무를 발견하는 것만으로 AI 도입이 끝나지는 않으며, 도입에는 추가적인 시간이 든다고 말했다.

그는 모델이 교체될 가능성도 업무의 지도를 만들어야 할 이유로 들었다. 기업이 자체 모델을 학습시키더라도 더 나은 기반 모델이 나오면 옮겨야 할 수 있다. 이때 기업의 업무 방식이 별도로 기록돼 있어야 한다는 주장이다. 법률 분야를 두고도 단순히 모델에 의견을 묻는 일보다 업무 흐름을 파악하고 절차를 운영하는 데 더 큰 가치가 있다고 평가했다.

인력 재편에서 놓치기 쉬운 기여

디네스는 AI로 회사가 바뀌면 인력 구성도 바뀌어야 한다고 말했다. 그러나 AI 도입을 명분으로 일정 비율의 인원을 먼저 줄이는 방식에는 반대했다. 직원의 성과에는 측정 가능한 결과 외에도 고객과 쌓은 신뢰, 신입 직원의 지도, 조직 문화를 지탱하는 역할이 포함될 수 있기 때문이다.

그는 특정 분야의 전문 업무에는 AI의 도움이 커져 필요한 인원이 줄 수 있다고 인정했다. 동시에 어떤 사람을 다른 일로 옮기고 어떤 역량을 남길지는 직무명만으로 판단하기 어렵다고 봤다. 기업이 직원의 실제 업무와 여러 형태의 기여를 파악해야 한다는 것이다. 재무 업무에서도 청구서 처리 방식이 고객 관계에 영향을 줄 수 있다는 사례를 들었다.

진행자는 AI가 재무·마케팅 책임자를 대신했다는 개별 기업 사례를 제시했다. 디네스는 특정 기업의 결과를 산업 전반으로 확대하려면 여러 환경에서 규모 있게 검증돼야 한다고 답했다. 기업의 절차를 상세히 기록해야 하는 만큼 AI 확산 속도도 진행자의 예상보다 느릴 수 있다는 견해를 밝혔다.

시제품을 만드는 일과 운영하는 일

디네스는 UiPath가 AI로 기존 구매 도구를 대체할 내부 도구를 만들어 봤다고 말했다. 초기 결과는 유망했지만 실제 운영을 준비하면서 시험과 신뢰성의 부족이 드러났다. AI가 만든 데이터베이스 구조를 사람이 다시 설계해야 했다는 사례도 들었다.

그에 따르면 코드를 작성해 시제품을 만드는 일과 이를 운영 환경에 올리는 일은 다르다. 연결 기능, 권한, 감사, 보안, 유지보수까지 고려해야 한다. 따라서 기존 소프트웨어를 AI로 손쉽게 다시 만들 수 있다는 주장만으로 대체 비용을 판단할 수 없다고 봤다.

모델은 바꿀 수 있어야 한다

디네스는 기업의 많은 운영 업무에 항상 최상위 모델이 필요하지는 않을 것으로 예상했다. 비용 효율적인 모델을 쓰더라도 공개 모델을 대안으로 확보해 특정 공급자에 묶이지 않아야 한다는 입장이다. 자체 모델 역시 최상위 모델의 대안이 될 수 있다고 봤지만, 기업이 직접 운영할 때 같은 비용 효율을 낼 수 있을지는 확신하지 않았다.

모델 선택보다 앞서는 자산은 기업이 어떻게 일하는지에 대한 기록이라는 것이 그의 결론이다. 모델이 바뀌어도 그 기록과 업무 흐름이 남아 있어야 새 모델에 필요한 맥락을 제공하고 자동화를 운영할 수 있다는 주장이다.