핵심 요약

  • 노션은 AI 글쓰기 도구를 시작으로 작업공간 검색과 에이전트를 구축했다. 사이먼 라스트는 검색 품질을 높이는 데 데이터 원천별 반복 실험이 필요했다고 설명했다.
  • 개인 에이전트는 사용자가 접근할 수 있는 정보와 도구를 활용한다. 맞춤형 에이전트는 처음에는 접근 권한이 없으며, 권한을 부여받으면 백그라운드에서 작업할 수 있다.
  • 노션은 에이전트가 페이지를 읽고 쓰기 쉽도록 마크다운 형식을 확장하고, 데이터베이스 작업에는 SQLite를 사용한다.
  • 라스트에 따르면 코딩 에이전트가 개발자의 작업 범위를 넓혔지만, 변경 사항을 검증하고 안전하게 배포하는 설계는 여전히 중요하다.

글쓰기 보조에서 작업공간 검색으로

노션 공동창업자 사이먼 라스트는 GPT-4를 사용해 본 뒤 복잡한 지시를 따르고 글을 작성·수정하는 능력, 폭넓은 지식에 주목했다고 말했다. 당시 노션은 두 방향을 구상했다. 당장 구현할 수 있는 것은 문서 안에서 글을 작성하거나 선택한 문장을 고치는 보조 도구였다. 장기적으로는 사람이 노션에서 쓰는 도구를 AI에도 제공해 문서와 데이터베이스를 만들고 수정하며 여러 단계의 작업을 수행하게 하는 것이었다.

먼저 나온 AI Writer는 검색 없이 한 단계에서 글을 쓰거나 편집하는 기능이었다. 라스트에 따르면 첫 AI 기능은 2023년 2월 출시됐다. 다음 과제는 작업공간 전체를 의미에 따라 검색할 수 있도록 색인하고, 질문에 대해 근거 자료를 바탕으로 답하는 Q&A였다. 이 기능은 색인을 계속 갱신해야 했고 품질 평가에도 더 많은 작업이 필요했다. 라스트는 정식 출시 시점을 2023년 10월로 기억했다. 이후 노션은 Slack과 Google Drive 등으로 색인 대상을 넓혔다.

검색 품질은 데이터마다 다르게 다듬었다

라스트는 Slack의 대화와 Google Drive의 문서를 같은 방식으로 검색해서는 충분하지 않다고 설명했다. 팀은 실제 질문을 던져 보고, 검색 결과가 어떤 내용을 놓치는지 살피며, 텍스트를 나누는 크기와 검색 단계들을 반복해서 조정했다.

그의 설명에 따르면 AI가 필요한 문장과 맥락을 찾아낼 수 있다면 사용자가 작업공간을 어떤 폴더 구조로 정리했는지는 이전만큼 중요하지 않다. 다만 이는 검색 시스템의 설계가 중요하지 않다는 뜻은 아니다. 내용을 어떻게 나누고 찾아낼지는 여전히 성능에 큰 영향을 준다고 라스트는 강조했다.

권한이 다른 개인 에이전트와 맞춤형 에이전트

라스트는 범용 에이전트를 구현하기까지 몇 년 동안 서너 차례 시도했다고 말했다. 초기 버전은 어느 정도 작동했지만 유용성이 부족했다. 이후 출시한 개인 에이전트는 사용자가 접근할 수 있는 노션의 정보와 도구를 활용해 문서와 데이터베이스를 만들거나 업데이트하고, 검색과 조사를 수행한다.

새로 출시한 맞춤형 에이전트는 권한 구조가 다르다. 처음에는 어떤 정보에도 접근할 수 없고, 사용자가 권한을 부여해야 한다. 권한을 받은 뒤에는 백그라운드에서 작업할 수 있다. 라스트는 데이터베이스와 Slack 채널에 연결해 요청에 응답하고 업무를 기록하는 사례를 들었다. 주간 보고서 데이터베이스를 읽고 작업공간이나 웹을 검색하도록 설정할 수도 있다.

라스트가 앞으로 바라는 기능은 에이전트가 필요한 능력을 스스로 갖추는 것이다. 그는 지원되지 않는 연동이 필요하면 에이전트가 코드를 작성해 연동을 만들고 사용하는 방식을 예로 들었다. 이는 그가 제시한 개발 방향이지, 현재 모든 맞춤형 에이전트에서 가능한 기능이라는 설명은 아니다.

에이전트가 쓰기 쉬운 도구를 만들다

사람이 쓰던 노션의 구성 요소는 에이전트에도 유용했지만, 접근 방식에는 손질이 필요했다. 라스트에 따르면 기존 블록 API의 JSON 형식은 에이전트에 지나치게 길고 다루기 어려웠다. 노션은 일반 마크다운에 노션 블록을 표현할 수 있는 요소를 더해 에이전트가 페이지를 읽고 쓰도록 했고, 데이터베이스 작업에는 SQLite를 사용했다.

설계 과정은 실험적이었다. 팀은 에이전트가 어려워하는 작업과 토큰이 과도하게 드는 표현을 찾아 줄였다. 모델이 이미 익숙한 형식이 무엇인지도 고려했다. 라스트는 모델과 기술의 상태가 바뀌면 이를 둘러싼 실행 체계도 다시 설계해야 한다며, 노션의 AI 실행 체계를 대략 6개월마다 재작성한다고 말했다.

코딩 에이전트와 검증 방식의 변화

라스트는 코딩 에이전트가 작업을 끝까지 구현하고 검증할 수 있게 되면서 자신이 구상하는 개발 작업의 범위가 커졌다고 말했다. 동시에 이를 잘 활용하려면 소프트웨어 구조와 검증 절차를 신중하게 설계해야 한다고 했다. 노션에서는 에이전트가 작성한 풀 리퀘스트도 모두 리뷰한다. 변경 범위가 커지고 복잡해지는 부담이 있지만, 필요한 경우 더 철저한 테스트를 요구할 수 있다는 설명이다.

그는 자신이 만드는 풀 리퀘스트는 전체 과정을 테스트한 뒤 제출한다고 말했다. 원하는 변경을 정의하는 일부터 검증과 안전한 배포 방법을 생각하고, 그 과정에 에이전트를 투입한다. 디자인팀이 간소화한 노션을 담은 자체 저장소에서 실제 작동하는 시제품을 만들어 URL로 공유하는 것도 변화의 한 사례다. 라스트는 생산성이 크게 높아질 수 있다고 보면서도 도구를 잘못 사용하면 결과물의 품질이 떨어진다고 인정했다.

작은 업무부터 자율 작업으로

라스트는 자신의 맞춤형 에이전트가 이메일을 분류하는 사례를 소개했다. 처음에는 에이전트가 보관할 메일을 제안하면 자신이 수정했고, 그 판단을 에이전트가 편집할 수 있는 메모 페이지에 규칙으로 쌓았다. 몇 주 뒤에는 승인 단계를 없애고 자동 보관하도록 했다. 이는 라스트 개인의 사용 방식과 판단에 관한 사례다.

다른 에이전트는 사내 Slack 채널에 올라오는 제품 의견과 버그를 담당 팀으로 보낸다. 시간이 지나며 분류 규칙을 쌓아, 예를 들어 모바일 앱 버그를 모바일팀의 작업 데이터베이스에 기록한다. 라스트는 이런 자동화도 처음에는 시제품과 승인 단계에서 지켜보다가 반복 실행을 통해 신뢰가 쌓이면 자율성을 높인다고 설명했다.

라스트가 설명한 노션의 목표는 사람이 직접 작업하는 도구에서, 사람이 에이전트의 작업을 관리하는 공간으로 확장하는 것이다. 그에게 문서는 자유로운 기록 공간으로, 데이터베이스와 칸반 보드는 여러 작업을 함께 조율하는 구조로 계속 쓰인다.