# 퍼플렉시티 CEO가 설명한 AI 검색의 작동 방식과 창업 과정

> 2024-06-20 · Lex Fridman · 큐레이션 김태우
> https://challengekim.com/insights/퍼플렉시티-ceo가-설명한-ai-검색의-작동-방식과-창업-과정
> 원문: https://lexfridman.com/aravind-srinivas-transcript

## 핵심 요약

- 퍼플렉시티는 검색으로 찾은 문단을 대규모 언어 모델에 전달하고, 답변의 문장마다 출처를 붙이는 **답변 엔진**을 지향한다.
- 출처를 제시해도 오류가 사라지지는 않는다. 모델의 이해력뿐 아니라 검색 결과의 관련성·최신성·분량이 답변 품질에 영향을 준다.
- 초기에는 트위터 데이터를 자연어로 검색하는 제품을 만들었다. 이후 링크를 찾아 요약하는 일반 웹 검색에 집중했다.
- 스리니바스는 특정 모델을 소유하는 것보다 사용자가 좋은 답을 얻는 것이 중요하다고 설명했다. 동시에 검색과 화면 구성에는 모델 개선만으로 해결되지 않는 과제가 있다고 봤다.

## 출처를 답변의 일부로 만든 이유

퍼플렉시티 공동창업자이자 CEO인 아라빈드 스리니바스는 회사를 준비하던 시절 첫 직원의 건강보험 질문에 답하지 못했던 경험을 들었다. 구글 검색에서는 필요한 설명을 찾기 어려웠고, GPT-3.5를 연결한 슬랙 봇은 틀린 답도 내놓았다. 그는 학술 논문에서 문장의 근거를 밝히던 방식에 착안해, 챗봇의 답변도 검색한 자료로 뒷받침하도록 설계했다고 말했다.

작동 순서는 질문과 관련된 검색 결과를 찾고, 링크에서 필요한 문단을 추출한 뒤, 이를 대규모 언어 모델(LLM)에 전달하는 것이다. 모델은 그 자료를 바탕으로 답변을 쓰고 출처를 표시한다. 스리니바스는 이를 **검색 증강 생성(RAG**)이라고 설명하면서, 퍼플렉시티에는 검색한 자료에 없는 내용을 말하지 말라는 원칙도 적용한다고 했다. 자료가 부족하면 충분한 답을 할 수 없다고 밝혀야 한다는 뜻이다.

다만 그는 이 방식이 완벽하지 않다고 인정했다. 모델이 질문이나 문단의 뜻을 잘못 이해할 수 있고, 검색한 문서가 오래됐거나 세부 정보가 부족할 수도 있다. 반대로 문서 전체처럼 너무 많은 내용을 넣으면 무관한 정보가 답변을 흐릴 수 있다. 관련 없는 문서를 가져오는 경우도 있다. 따라서 출처 표시만큼 검색과 자료 선별의 품질이 중요하다는 설명이다.

## 검색 인프라는 모델 바깥에 있다

스리니바스에 따르면 웹 검색은 페이지를 수집하는 단계부터 선택의 연속이다. 어떤 주소를 얼마나 자주 방문할지 정하고, 자바스크립트로 표시되는 페이지에서 실제 내용을 추출해야 한다. 사이트가 지정한 수집 허용 범위와 방문 간격도 고려해야 한다. 수집한 내용은 다시 색인으로 만들고, 질문에 맞는 문서를 순위에 따라 골라야 한다.

그는 이 순위를 벡터 표현 한 가지로 해결할 수 없다고 봤다. 단어에 기반한 검색 방식과 의미에 기반한 방식, 문서의 신뢰도를 판단하는 신호, 최신성 등을 함께 써야 하며 중요도는 질문의 종류에 따라 달라진다는 것이다. 대규모 언어 모델이 검색 결과 중 뒤쪽에 놓인 관련 문서를 찾아낼 수는 있지만, 그 능력이 정확한 검색 결과의 필요성을 없애지는 않는다.

사용자가 정보를 받는 방식도 과제로 꼽았다. 날씨 질문에는 시간대별 정보가, 주가 질문에는 과거 가격이 유용할 수 있다. 스리니바스는 이런 화면과 사용자의 다음 의도를 고려하는 일이 더 똑똑한 모델만으로 끝나지 않는다고 말했다. 당시 대화에서 그는 링크를 곧바로 보여주는 구글이 퍼플렉시티보다 빠르며, 특정 사이트로 이동하려는 검색에도 더 효율적이라고 인정했다.

## 트위터 검색에서 일반 웹 검색으로

퍼플렉시티의 첫 구상은 일반 웹 검색이 아니었다. 창업팀은 자연어 질문을 데이터베이스 질의어인 SQL로 바꿔, 트위터 데이터에서 관계와 게시물을 찾는 검색 경험을 만들었다. 스리니바스는 정형화된 SQL이 일반 코드보다 다루기 쉬울 것이라고 예상했지만, 그 판단은 틀렸다고 회고했다. 팀은 질의 예시를 직접 만들고 오류가 나면 다시 시도하는 장치를 구현했다.

첫 제품을 공개했을 때 이용자들은 자신의 소셜미디어 계정을 검색하고 결과 화면을 공유했다. 당시 답변에는 환각도 있었지만, 이 반응은 링크를 모아 요약하는 경험에 대한 관심을 보여줬다고 스리니바스는 말했다. 다만 자기 계정을 검색하는 일은 반복 사용으로 이어지기 어렵고, 당시의 트위터 데이터 수집 방식도 확장하기 어려웠다. 팀은 일반 웹 검색에 집중했다.

스리니바스에 따르면 2022년 12월 공개한 초기 웹 검색은 한 번의 질문에 출처를 단 답을 주는 형태였다. 새해가 지난 뒤 대화 기능과 관련 질문 제안을 추가했고, 그는 이후 사용량이 빠르게 늘었다고 설명했다. 관련 질문을 누르는 이용자들의 행동은 회사가 검색 결과 한 번으로 끝나지 않는 지식 탐색을 목표로 삼는 계기가 됐다.

## 특정 모델보다 답변 품질

퍼플렉시티는 자체적으로 조정한 모델과 외부 모델을 함께 사용한다. 스리니바스는 당시 라마 3를 요약·출처 표시 등의 작업에 맞게 추가 학습시킨 소나를 소개하면서도, 복잡한 추론이 필요한 일부 질문에서는 GPT-4o보다 뒤처진다고 평가했다. 그의 기준은 어느 회사의 모델이 기본값이 되느냐가 아니라 어떤 모델이 사용자에게 더 나은 답을 주느냐였다.

속도 역시 제품 품질에 포함된다. 그는 평균적인 응답만 보지 않고 느린 쪽에 속하는 요청의 지연 시간까지 추적한다고 했다. 자체 운영 모델은 처리량과 첫 글자가 나오기까지의 시간을 개선할 수 있지만, 외부 모델을 쓸 때는 해당 제공자의 인프라에도 의존한다. 이용자가 늘면 GPU 용량을 늘릴지, 모델 제공자로부터 처리 용량을 더 확보할지도 결정해야 한다.

## AI 검색의 범위와 한계

스리니바스는 답변 뒤에 관련 질문을 제시하는 기능을 지식 발견의 출발점으로 봤다. 이용자가 질문과 답변을 정리해 공유하는 퍼플렉시티 페이지도 같은 방향의 시도라고 설명했다. 다만 이는 그가 제시한 제품 방향이지, AI가 스스로 새로운 지식을 만들어 낼 수 있다는 증거는 아니다.

그는 AI가 어려운 질문을 오랫동안 연구해 새로운 답을 내놓는 가능성을 논의하면서, 현재 시스템은 그런 수준에 이르지 못했다고 말했다. 수학이나 코드처럼 정답을 확인하기 쉬운 과제와 달리, 열린 문제에서는 개선 여부를 판별할 신호도 마련해야 한다. 더 많은 연산을 투입하는 방식이 큰 성과로 이어질지도 아직 풀리지 않은 문제라는 설명이다.

퍼플렉시티 사례에서 스리니바스가 강조한 것은 모델 하나의 성능이 아니라 검색한 근거, 답변의 구성, 속도, 사용자의 후속 탐색이 함께 작동하는 제품이다. 그가 인정한 오류와 검색상의 한계 역시 이 요소들을 계속 개선해야 하는 이유로 남아 있다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://lexfridman.com/aravind-srinivas-transcript)