컨텍스트 윈도우 문서 수 계산기

컨텍스트 윈도우 문서 수 계산기 사용법

이 계산기는 모델의 컨텍스트 윈도우 안에 문서를 몇 개까지 함께 넣을 수 있는지 추정합니다. 컨텍스트 윈도우 길이, 시스템 프롬프트와 질문에 필요한 토큰, 문서 한 개의 평균 토큰 수를 입력하면 문서 수를 계산해요.

검색 증강 생성, 문서 요약, 여러 파일 비교처럼 한 번에 여러 문서를 모델에 전달해야 할 때 활용할 수 있습니다. 문서당 토큰 수는 실제 문서의 평균값에 가깝게 입력할수록 결과가 정확해집니다.

계산 방법

먼저 전체 컨텍스트에서 시스템 프롬프트와 사용자의 질문에 필요한 토큰을 뺍니다.

사용 가능한 토큰을 문서당 토큰으로 나눈 뒤 소수점 이하는 버립니다.

예를 들어 컨텍스트 길이가 128,000토큰이고 시스템·질문에 4,000토큰, 문서당 2,000토큰이 필요하면 사용 가능한 토큰은 124,000토큰입니다. 따라서 124,000을 2,000으로 나눈 62개 문서를 넣을 수 있습니다.

계산 예시

• 문서 검색 결과 정리: 컨텍스트 128,000토큰, 시스템·질문 4,000토큰, 문서당 2,000토큰이면 최대 62개 문서를 입력할 수 있습니다.
• 긴 보고서 비교: 컨텍스트 32,000토큰, 시스템·질문 2,000토큰, 문서당 1,000토큰이면 최대 30개 문서를 입력할 수 있습니다.

사용 시 주의사항 및 활용 팁

• 본 계산기 결과는 단순 추정 참고용 수치입니다.
• 실제 토큰 수는 언어, 문서 형식, 표와 코드, 특수문자에 따라 달라질 수 있습니다.
• 모델이 답변을 생성할 공간도 같은 컨텍스트 윈도우를 사용하므로 결과보다 여유 있게 문서 수를 정하세요.
• 대화 기록, 도구 호출, 메타데이터가 포함되는 API 환경에서는 해당 토큰도 예약해야 합니다.
• 문서 전체를 넣기보다 필요한 부분을 검색하고 중복 내용을 제거하면 같은 컨텍스트에서도 더 많은 정보를 활용할 수 있습니다.