핵심 요약

  • SAP 최고기술책임자(CTO)는 기업 AI의 핵심 과제로 기능 구현보다 복잡한 고객 환경에서 정확한 결과를 규모 있게 내는 일을 꼽았다.
  • SAP는 사용자 화면, 업무 프로세스, 데이터 계층을 함께 바꾸고 있다. 기존 업무 데이터에 흩어진 정보를 연결해야 AI가 유용해진다는 설명이다.
  • 기업용 에이전트는 결과를 검증할 평가 기준과 보안·개인정보 보호 조건이 필요하다. 기존 시스템의 기록만으로는 사람의 판단 맥락까지 알기 어렵다.
  • 수요나 현금흐름을 예측하는 일에는 대규모 언어 모델만으로 부족하다고 보고, SAP는 표 형태의 데이터를 다루는 별도 모델을 연구했다.
  • SAP는 현재 좌석 수와 사용량을 함께 반영하는 가격 모델을 쓰고 있다. 결과에 따라 과금하는 방식은 검증 가능성이 높아진 뒤의 가능성으로 제시했다.

기업의 ‘운영체제’를 AI로 바꾸는 세 층위

SAP CTO는 자사 소프트웨어를 재무, 인사, 공급망, 제조, 물류, 판매와 구매를 연결하는 기업의 운영체제에 비유했다. 그는 SAP가 약 40만 기업 고객을 둔다고 설명했다. 고객이 원하는 것은 특정 기술 자체보다 업무 결과와 투자 대비 효과이며, AI 전환도 그 기준으로 봐야 한다는 주장이다.

그가 제시한 변화는 세 층위다. 첫째는 사용자 화면이다. 정해진 메뉴를 사람이 찾아 클릭하는 방식에서, 분석 질문이나 과제에 맞춰 화면을 동적으로 만드는 방식으로 옮겨간다고 봤다. 예컨대 새로운 관세나 세금이 공급망에 미치는 영향을 SAP 데이터와 함께 분석하거나, 주문 입력 감소와 같은 문제를 시스템이 먼저 알리는 구상이다.

둘째는 주문부터 대금 회수까지 이어지는 업무 프로세스다. 에이전트가 정해진 절차와 문서·대화 같은 비정형 정보를 함께 다루도록 한다는 설명이다. 셋째는 데이터 계층이다. 총계정원장, 송장, 재고 등 SAP 안의 데이터와 다른 곳에 있는 데이터를 연결해 의미가 일치하는 관점을 만드는 작업이다.

시연과 실제 운영 사이의 규모 차이

CTO는 문서 10개를 대상으로 한 챗봇 시연과 수백·수천 개 문서를 다루는 운영 시스템의 난도가 다르다고 말했다. 같은 여행 규정을 물어도 미국 직원과 독일 직원에게는 근무 국가, 급여 체계, 적용 세금에 따라 다른 답이 필요하다. 도구 연결도 API 10개 수준과 SAP가 보유한 약 2만 개 API를 다루는 경우가 다르다는 설명이다.

SAP는 복잡한 기존 시스템을 다루는 컨설턴트를 돕는 AI 제품의 사례도 제시했다. CTO에 따르면 이 도구를 활용하면 관련 업무에 드는 노력을 약 30% 줄일 수 있다. 이는 그가 제시한 특정 업무의 효과이며, 모든 고객의 비용이 그만큼 줄었다는 뜻은 아니다. 그는 문서와 같은 비정형 정보를 다루는 컨설팅, 지원, 서비스 업무에서 투자 대비 효과를 비교적 빨리 확인할 수 있었다고 설명했다.

에이전트의 결과를 어떻게 검증할 것인가

코딩 에이전트는 프로그램이 실행되는지, 테스트를 통과하는지 확인할 수 있다. 반면 재무 에이전트가 올바르게 일했는지 판단하려면 입력에 따른 기대 결과가 필요하다. CTO는 평가 기준인 이밸(evals)과 함께 보안, 개인정보 보호, 코드 품질 같은 경계 조건을 명시해야 한다고 강조했다.

기업의 거래 기록은 검증의 출발점이다. 주문 처리 뒤 받을 돈과 세금이 어떻게 기록돼야 하는지 대조할 수 있기 때문이다. 다만 기록에 남지 않은 판단까지 설명하지는 못한다. 직원의 머릿속이나 대화에만 있는 업무 지식을 얻으려면 에이전트가 사람에게 확인을 요청하고 그 결정 과정을 남겨야 한다는 것이다.

그는 이렇게 쌓인 판단 기록을 검토해 잘못된 업무 관행을 찾거나, 유용한 개선을 새 표준 절차로 채택할 수 있다고 봤다. 사람이 결과를 확인하면 그 기록은 다음 평가 자료가 될 수 있다. 에이전트가 화면을 직접 조작할지, API를 호출할지에 대해서는 결론을 내리지 않았다. 다만 구조화된 도구 호출이 주된 방식이 되고, API가 없는 오래된 시스템에는 화면 조작이 쓰일 것으로 예상했다.

언어 모델만으로는 부족한 예측 업무

CTO는 문서와 이미지에 강한 대규모 언어 모델과 기업의 예측 문제를 구분했다. 소매 수요, 제조 계획, 현금흐름을 예측하려면 표에 저장된 수치와 변수의 관계를 다뤄야 한다. 고객이 결제 기한 안에 돈을 낼지 분류하고, 늦는다면 지연 기간을 추정하는 일이 그 예다.

기존 기계학습 방식으로도 이런 문제를 풀 수 있지만, 국가와 업무별로 데이터를 준비하고 모델을 훈련·관리해야 한다. 그가 든 제약회사 사례에서는 90개 국가에 두 종류의 예측 모델이 필요해 총 180개 모델을 다뤄야 했다.

SAP는 적은 양의 해당 업무 데이터로도 예측을 시작할 수 있도록 관계형 사전학습 트랜스포머인 RPT1을 연구했다고 밝혔다. CTO는 분류와 회귀 등 여러 영역에서 좋은 결과를 보고 있다고 말했지만, 모든 예측 문제를 해결했다는 주장은 하지 않았다.

도입을 막는 데이터와 보안, 그리고 가격

CTO는 기업 데이터가 과거의 구매 결정이나 인수합병 때문에 여러 시스템에 흩어져 있다고 지적했다. 이를 안전하게 연결해 둔 고객은 AI를 적용하기가 상대적으로 수월하다는 견해다. 규모가 커질수록 여러 부서의 업무를 하나의 경험으로 묶는 일도 어려워진다. 새 도구를 기업 환경에 들일 때는 자격 증명과 데이터 보호 등 보안 조건도 충족해야 한다.

사업 모델도 바뀌고 있다. CTO에 따르면 SAP 소프트웨어는 현재 일부 예외를 제외하면 주로 사용자 좌석 수에 따라 사용권을 부여한다. AI 제품에는 사용량과 좌석 요소를 함께 반영하는 혼합 모델을 적용하고 있다. 고객이 비용을 예측해야 하고, AI 결과를 전적으로 신뢰하지 않으며, 사용량에 따른 비용 급증을 우려하기 때문이다. 결과 기반 과금은 결과를 더 확실히 검증할 수 있게 됐을 때의 다음 단계 가능성으로 언급했다.

CTO가 제시한 판단 기준은 고객이 기능을 실제로 도입해 원하는 결과를 얻기까지 걸리는 시간이다. 그 시간이 길어지면 투자 대비 효과를 입증하기도 어려워진다는 설명이다.