핵심 요약
- 데이터브릭스 CEO는 과거 연구실에서 쓰던 정의에 따르면 이미 범용인공지능에 도달했다고 봤다. 기업의 과제는 현재의 지능을 실제 업무에 적용하는 데 있다고 말했다.
- 기업 AI 도입에는 업무 맥락 확보, 보안, 비용 관리, 공급업체 종속 방지라는 네 가지 문제가 남아 있다.
- 데이터브릭스는 사람·회의·문서·의사결정의 관계를 연결한 AI로 직원 설문을 분석하고 고객 요구를 개발 조직에 전달하며 부서 사이의 지연을 줄이고 있다고 밝혔다.
- AI가 코드를 작성하는 것과 재귀적 자기개선은 다르다. 그는 학습 시간과 자원은 줄고 전반적인 성능은 높아지는 과정이 반복돼야 한다고 설명했다.
- 그는 당장의 주요 위험으로 사이버 공격을 꼽았으며 기업 전반에 AI가 확산되는 데는 10~15년이 걸릴 수 있다고 전망했다.
충분한 지능을 기업이 활용하지 못하는 이유
데이터브릭스 최고경영자는 올인 팟캐스트 진행자 제이슨 칼라카니스와의 대담에서 기업의 AI 활용과 초지능 논쟁을 다뤘다. 모델의 능력은 빠르게 발전하는데 기업의 일하는 방식은 왜 그만큼 바뀌지 않는지를 주로 논의했다.
그는 UC버클리 연구실에서 데이터 처리와 AI를 결합하는 기술을 연구하다가 2013년 동료들과 회사를 세웠다고 설명했다. 연구 성과를 산업계에 도입하려 했지만 반응이 없었다. 회사를 만들고 나서야 오래된 소프트웨어, 규제, 보안과 복잡한 절차가 기술 도입을 가로막는다는 사실을 체감했다.
그는 범용인공지능, 즉 여러 분야의 지적 과제를 수행하는 AI에 이미 도달했다고 봤다. 과거 연구실 구성원들이 공유했던 정의에 따른 판단이다. 당시 동료들에게도 확인했으며 이후 사람들이 목표의 기준을 높였다고 말했다. 지금 모델의 발전이 멈추더라도 세상을 크게 바꿀 만큼의 지능은 확보했다고 봤다.
고객사에서 보는 현실은 다르다. 그는 많은 기업이 AI를 검색 결과를 대신 정리하는 챗봇이나 코딩 도구로 쓴다고 전했다. 매일 고객에게 코딩 속도가 얼마나 개선됐는지 물으면 대략 20~30% 수준이라고 했다. 수천 개의 AI 에이전트가 핵심 업무를 자동으로 처리하는 모습은 아직 일반적이지 않다.
기업 AI를 막는 네 가지 문제
그가 먼저 꼽은 문제는 맥락 부족이다. AI가 아무리 똑똑해도 회사에서 어떤 결정을 내렸고 왜 그런 결정을 했는지 모르면 일을 돕기 어렵다. 그는 한 대형 은행 CEO가 책임 문제 때문에 회의를 절대 녹음할 수 없다고 말했다는 일화를 들었다. 회의에 참여하지 못하고 결정 내용도 전달받지 못한 AI는 기업 내부의 문제를 풀기 어렵다고 봤다.
보안도 문제다. 맥락을 제공하려고 에이전트에 모든 데이터 접근권을 주면 공격받을 지점도 늘어난다. 성공적인 사업을 운영하는 대기업일수록 해킹과 내부자 위협을 우려한다. 정보를 연결하면서 안전하게 접근할 수 있도록 해야 한다.
비용도 걸림돌이다. AI가 처리하는 텍스트 단위인 토큰의 사용 비용이 급격히 늘더라도 매출이 같은 속도로 증가하는 것은 아니다. CEO가 도입을 재촉해도 운영비와 매출원가가 커지면 재무 책임자는 제동을 걸 수밖에 없다. 그는 오픈소스 모델을 활용하고 간단한 질문은 작은 모델로 보내 비용을 줄일 수 있다고 설명했다.
특정 공급업체에 묶이지 않으면서 회사의 지식재산을 소유하는 문제도 남는다. 데이터 접근과 보안, 비용을 해결해도 기업이 쌓은 지식과 경쟁력을 누가 통제하는지는 따져야 한다. 그는 이 네 가지를 함께 풀어야 기업이 AI에서 실질적인 가치를 얻을 수 있다고 봤다.
조직도보다 중요한 업무의 흐름
그는 기업의 조직도와 실제 업무가 움직이는 경로가 다르다고 지적했다. 조직도에서는 CEO를 꼭대기로 의사결정이 오르내리지만 고객에게 가치를 전달하는 과정은 여러 부서를 가로지른다. 고객의 의견이 제품 관리로 들어오고 개발 조직이 기능을 만든 뒤 마케팅과 영업을 거쳐 다시 고객에게 돌아가는 식이다.
이 과정에서 각 부서가 회의를 잡고 합의를 기다리는 시간이 쌓인다. 그는 작은 스타트업과 달리 규모가 큰 조직에서는 이런 조율 자체가 큰 문제가 된다고 봤다.
대담에서 시연한 제품 지니(Genie)는 온톨로지, 즉 회사 안의 사람·정보·업무 관계를 연결한 그래프를 활용한다. 누가 누구에게 보고하는지, 무엇을 만드는지, 어떤 회의에서 무슨 결정을 했는지를 연결한다. 이메일과 슬랙, 회의록, 문서와 스프레드시트도 그 대상이다.
그의 설명에 따르면 지니는 질문이 들어올 때마다 자료를 검색하는 데 그치지 않는다. 회사의 관계와 지식을 계속 축적하고 밤낮으로 백그라운드 작업을 수행해 필요한 분석을 준비한다. 정보를 확인하려고 사람을 부르고 회의를 반복하는 시간을 줄이는 것이 목표다.
직원 설문과 개발 성과에서 드러난 차이
그는 1만 명 넘는 직원이 응답한 사내 설문을 분석한 사례를 보여줬다. 특히 직원이 낸 의견을 회사가 행동으로 옮기는지에 관한 평가가 해마다 낮다는 점을 문제로 삼았다.
회의에서는 일과 삶의 균형에 대한 불만이 그 평가를 낮췄을 가능성이 제기됐다. 그는 곧바로 두 항목의 관계를 살펴봤다. 시연에서는 일과 삶의 균형 평가가 44점이지만 의견 반영 평가는 77%인 관리자의 사례가 나왔다. 업무 부담이 크더라도 직원의 요구에 대응하는 조직이 있음을 확인했다.
부서별로 불만의 내용도 달랐다. 제품 관리 조직은 의사결정에 관여하는 사람이 너무 많다는 점을, 개발 조직은 도구와 시스템을, 영업 운영 조직은 경력 성장을 문제로 꼽았다. 그는 데이터팀에 맡기면 일주일쯤 걸렸을 분석을 회의 중에 진행할 수 있었다고 말했다.
약 2,000명의 엔지니어가 실제 서비스에 반영한 코드와 변경 요청을 비교한 사례도 소개했다. 상위 일부가 훨씬 많은 결과물을 내고 있었고 살펴보니 이들은 자동화된 개발 체계를 운영하고 있었다고 했다. 비용을 함께 비교하자 성과가 높은 사람이 반드시 토큰 비용도 많이 쓰는 것은 아니었다. 그에게 중요한 것은 AI 사용량 자체보다 그 비용으로 얼마나 많은 결과를 내는가였다.
고객 요구에서 개발까지, 사람을 기다리는 시간 줄이기
고객 회의 기록도 같은 방식으로 활용한다. 그는 특정 회의가 어땠는지 물었을 때 지니가 회의가 좋지 않게 끝났다고 답하고 누가 어떤 말을 했으며 어떤 기능이 필요한지 정리한 사례를 들었다.
여러 고객 회의에서 나온 기능 요청을 자동으로 모아 개발 조직에 전달하고 개발 조직의 자동화 체계가 기능을 만들도록 연결하고 있다고 밝혔다. 고객의 말이 여러 사람을 거치면서 늦게 전달되거나 달라지는 문제를 줄이려는 시도다.
이 과정에서 그는 사람의 판단이나 승인을 기다리느라 업무가 어느 지점에서 멈추는지 측정한다. 법무 검토, 예산 승인, 마케팅과의 조율, 인접 조직과의 합의가 여기에 해당한다. 합의가 안 돼 회의를 다시 잡고 관리자에게 올리는 시간이 업무를 늦춘다고 설명했다.
그는 회의 기록을 바탕으로 부서별로 어떻게 의사결정을 내리는지, 실제 조직문화는 어떤지도 살펴본다고 했다. 회사가 내세운 원칙과 특정 조직의 행동이 다르면 그 차이를 확인할 수 있다. 차이가 있다는 이유만으로 해당 조직이 틀렸다고 보지는 않는다. 그 조직이 옳고 자신을 포함한 나머지가 틀렸을 수도 있으므로 먼저 차이를 파악하는 데 의미가 있다고 설명했다.
코드를 쓰는 AI와 스스로 발전하는 AI는 다르다
그는 AI가 코드 대부분을 작성한다는 사실만으로 재귀적 자기개선이 시작됐다고 볼 수는 없다고 말했다. 재귀적 자기개선은 AI가 자신을 개선하고 더 나아진 AI가 다시 다음 개선을 가속하는 반복 과정이다.
그가 제시한 조건은 네 가지다. 다음 모델의 학습 시간이 크게 짧아져야 하고 필요한 자원도 줄어야 한다. 성능 향상은 수학처럼 특정 분야에만 머물지 않고 여러 과제에 걸쳐 나타나야 한다. 마지막으로 시간 단축·자원 절감·성능 향상이 다음 세대에서도 계속 반복돼야 한다.
그는 현재 상황이 이 조건과 다르다고 봤다. 모델 학습에는 더 많은 자원과 데이터 정리가 필요하고 숙련된 사람에게서 데이터를 모으거나 분야별로 성능을 보완하는 수작업도 남아 있다. 코딩의 마지막 몇 퍼센트를 자동화하는 일과 모델 개발 전체가 스스로 가속하는 일은 구분해야 한다고 말했다.
그는 사이버 공격을 현실적인 위험으로 꼽았다. 공격자는 수많은 시도 중 한 번만 성공해도 되지만 방어자는 모든 시도를 막아야 한다는 비대칭이 있기 때문이다. 기존 코드의 취약점을 찾아 수정하면서 대응할 수 있다고 낙관했지만 실제 피해가 발생할 가능성도 인정했다.
기업 전체의 변화에는 시간이 걸린다
그는 데이터브릭스처럼 앞서 적용하는 기업이 경쟁 우위를 얻을 수 있다고 봤다. 다만 기업 전반의 맥락 부족을 해결하고 AI의 가치를 널리 실현하는 데는 10~15년이 걸릴 수 있으며 국내총생산도 천천히 움직일 것이라고 전망했다.
그는 회의 녹음조차 허용하지 않는 은행의 사례를 근거로 들었다. 모델이 더 똑똑해져도 회사가 정보를 제공하고 안전하게 연결하며 의사결정 절차를 바꾸는 속도까지 자동으로 빨라지지는 않는다. 이 대담에서 그가 강조한 기업 AI의 과제는 이미 확보한 지능이 조직 안에서 실제로 일할 수 있게 만드는 일이었다.
댓글 0
첫 댓글을 남겨 주세요.