# IBM CEO가 말한 AI의 비용 문제와 100억 달러 양자컴퓨팅 투자

> 2026-06-23 · Masters of Scale · 큐레이션 김태우
> https://challengekim.com/insights/ibm-ceo가-말한-ai의-비용-문제와-100억-달러-양자컴퓨팅-투자
> 원문: https://www.youtube.com/watch?v=9YoyMz28ojA

## 핵심 요약

- 아르빈드 크리슈나 IBM 회장은 기업이 모든 작업에 큰 AI 모델을 쓰는 방식을 비용에 맞게 바꿔야 한다고 주장했다.
- 그는 AI를 소규모로 계속 시험하기보다 3\~5개 업무에 적용해 데이터 정리와 업무 절차 변경까지 익힐 것을 제안했다.
- IBM의 AI 도입도 첫 6개월에서 1년 동안은 절감액보다 비용이 컸을 것으로 봤다. 비용과 성과를 판단하려면 적용 범위를 넓힌 뒤의 결과까지 봐야 한다는 설명이다.
- 크리슈나는 100억 달러 규모의 양자컴퓨팅 투자를 장기적인 기술 선점 시도로 설명했다. 단백질 분석 가능성은 제시했지만, 실제 활용에 이르렀다고 말하지는 않았다.

## IBM이 보는 AI 시장의 자리

크리슈나는 IBM이 초대형 클라우드 사업자나 범용 AI 모델 제공자가 되려는 것은 아니라고 말했다. 그가 내다보는 변화는 기업이 여러 모델을 작업에 맞춰 고르고, 비용과 안전성을 함께 관리하는 것이다.

그는 범용 모델 사이의 전환 비용이 낮아지면서 모델이 상품처럼 거래될 것으로 예상했다. 동시에 막대한 설비투자를 회수하려면 모델 사용료인 토큰 가격이 오를 것으로 봤다. 이는 확정된 가격 전망이 아니라 그의 시장 판단이다. 그는 지난 6개월간 GPU의 시간당 가격이 두 배가 됐다고 언급하며 사용 비용에 주목했다.

크리슈나는 모든 용도에 대형 모델을 쓰는 상황을 아이를 학교에 데려다줄 때마다 대형 화물차를 쓰는 일에 비유했다. 이사할 때는 적합한 차여도 일상적인 이동에는 비효율적이라는 뜻이다. 그는 기업이 작업별로 적절한 모델을 선택하는 변화가 24개월 안에 일어날 것으로 예상했지만, 12개월 안에 이뤄질지는 확신하지 않았다.

## 작은 실험보다 몇 가지 업무의 본격 적용

크리슈나가 AI 혁명의 ‘첫날’이라고 표현한 것은 도입을 미뤄도 된다는 뜻이 아니었다. 그는 AI가 마케팅, 코드 작성, 영업, 기업 운영의 생산성을 높일 것으로 봤다. 다만 기업이 한꺼번에 100개 과제를 벌이기보다 3\~5개를 골라 충분한 규모로 적용해야 한다고 말했다.

그 과정에서 데이터 정리, 업무 절차 변경, 직원의 참여를 익힌 뒤 10개, 다시 20개 업무로 넓히는 순서를 제시했다. AI를 개발할 박사급 연구자만 찾기보다 자기 분야의 일을 알고 새로운 방식에 관심이 있는 실무자를 참여시키는 편이 도입에 도움이 된다는 주장도 덧붙였다.

이 접근은 IBM의 과거 경험과도 연결된다. 크리슈나는 왓슨이 퀴즈쇼 제퍼디에서 성과를 낸 뒤 IBM이 재사용할 수 있는 기술 구성요소보다 산업별 완성형 솔루션을 너무 빨리 만들려 했다고 돌아봤다. 특히 의료 분야를 택하면서 의사와 규제기관을 상대해 본 경험이 부족했던 점을 전략적 실수로 꼽았다.

## 절감액에는 초기 비용과 기준 시점이 있다

AI 도입의 경제성을 설명하며 크리슈나는 IBM도 첫 6개월에서 1년 동안은 절감액보다 지출이 컸을 것이라고 말했다. 엔지니어 수백 명의 인건비와 모델 사용에 필요한 기반 비용이 늘었고, 그 인력이 다른 일을 했다면 얻었을 수익도 포기해야 했기 때문이다.

그는 방법을 익혀 적용 업무를 2\~3개에서 10\~20개로 늘린 뒤 수익이 개선됐다고 설명했다. 그의 말에 따르면 2년이 지난 시점에는 지출 대비 수익이 10배였으며, 4년 차에는 **2022년 말 지출 수준을 기준으로 한 절감액**이 50억 달러를 넘을 것으로 예상했다. 이는 전년보다 50억 달러를 추가로 아낀다는 뜻이 아니다.

오류를 고치는 비용도 따져야 한다. 크리슈나는 잘못된 결과 때문에 수개월의 작업을 되돌려야 하는 용도보다, 고객 응대처럼 오류의 범위를 제한할 수 있는 용도에서 AI를 쓰는 방식을 제시했다. 답변을 내보내기 전 다른 모델로 확인하고, 확신하기 어려운 경우 사람에게 넘기는 절차가 필요하다는 설명이다.

## 생산성 향상과 인력 감축을 같은 말로 볼 수 없는 이유

크리슈나에 따르면 IBM의 소프트웨어 개발자는 지난 2년 사이 생산성이 약 40% 높아졌다. 그러나 IBM은 올해 대학 졸업 수준의 신규 채용을 지난해의 세 배로 늘렸다. 그는 개발 비용이 낮아지면 이전에는 채산성이 맞지 않았던 제품도 만들 수 있어 개발 인력 수요가 늘 수 있다고 설명했다.

반면 규정 준수, 매입채무, 조달처럼 회사를 운영하는 부문은 다르게 봤다. 그는 몇 년 안에 이 분야 전체 인력의 약 30%가 필요하지 않게 될 수도 있다고 전망했다. 전체 일자리 수요는 늘 것으로 예상하면서도 일부 직무의 대체와 그에 따른 어려움은 인정했다. 기업은 직원에게 재교육과 다른 직무의 기회를 제공해야 한다는 것이 그의 입장이다.

## 양자컴퓨팅에 100억 달러를 투자한 판단

대담 진행자는 IBM이 미국 정부와 양자컴퓨터 관련 사업을 추진하며 100억 달러를 투자한다고 소개했다. 크리슈나는 이 투자를 어려운 기술에서 몇 년 앞설 수 있다면 고객과 기업 모두 큰 성과를 얻을 수 있다는 판단의 결과로 설명했다.

그는 분자 계산 사례로 진전과 한계를 함께 말했다. 그의 설명에 따르면 2025년 여름에는 원자 5개로 이뤄진 분자를, 그해 11\~12월에는 원자 300개 규모를 계산했다. 후자는 일반 슈퍼컴퓨터로도 비교적 쉽게 처리할 수 있다고 했다. 이후 4월에는 트립신이라는 단백질의 일부에 해당하는 원자 1만 2,000개 규모를 다뤘다고 설명했다.

크리슈나는 한두 달 안에 그 두 배 규모에 도달해 트립신 전체를 계산할 수 있을 것으로 예상했다. 단백질의 성질을 빠르게 파악하면 결합할 약물 후보를 이해하는 데 도움이 될 수 있다는 것이 그가 제시한 가능성이다. 미래의 계산 규모와 의약 분야의 성과는 아직 전망으로 남아 있다.

## 투자를 지속하면서 실패를 점검하는 방식

크리슈나는 기술 전환기에 위험을 전혀 감수하지 않는 것이 오히려 가장 위험한 선택이라고 주장했다. 기존 사업의 이익에만 의존하면 다른 기업이 수익성 높은 부분부터 잠식할 수 있다는 논리다. 그렇다고 모든 투자가 성공할 것으로 보지는 않았다. 충분한 이익으로 여러 시도를 감당하되 일부는 실패할 수 있음을 전제로 삼아야 한다고 말했다.

그는 IBM의 디지털 판매 채널이 자신의 재임 중 네 번째 시도에 이르렀다고 밝혔다. 시도가 뜻대로 되지 않을 때는 단순히 더 밀어붙이기보다 내부 구조에 문제가 있는지, 시장에 대한 가정이 틀렸는지 살펴야 한다는 설명이다. AI 도입과 양자컴퓨팅 투자에 관한 그의 발언도 결국 비용, 적용할 업무, 아직 검증되지 않은 가정을 구분해 판단해야 한다는 데 맞닿아 있다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://www.youtube.com/watch?v=9YoyMz28ojA)