Калькулятор контекстного окна ИИ
Узнайте, какую часть контекстного окна модели использует ваш промпт и что в него помещается
Используется для оценки, сколько элементов такого размера помещается.
Количество токенов оценочное; оставьте запас для ответа модели.
О Калькулятор контекстного окна ИИ
Калькулятор контекстного окна ИИ показывает, сколько из контекстного окна модели занимает ваш запрос и сколько места остается. Выберите модель — размеры окон для популярных моделей ИИ встроены — или введите пользовательское окно, затем установите токены системного запроса, входные/диалоговые токены и выходные токены, которые вы резервируете для ответа.
Индикатор использования визуализирует разделение между системой, вводом, зарезервированным выходом и свободным пространством, с точным количеством использованных и оставшихся токенов. Введите типичный размер документа или сообщения в токенах, и калькулятор скажет, сколько еще таких элементов поместится — или на сколько токенов вы превысили лимит.
Он отвечает на повседневные вопросы RAG и чат-ботов: сколько статей поддержки поместится рядом с системным запросом, или когда историю разговора нужно урезать. Инструмент бесплатный и мгновенный; цифры токенов являются оценкой, поэтому оставляйте разумный запас для ответа модели.
Как использовать Калькулятор контекстного окна ИИ
- Выберите модель, чтобы загрузить ее контекстное окно, или введите пользовательский размер окна в токенах.
- Введите токены вашего системного запроса и входные или диалоговые токены.
- Установите выходные токены, которые вы хотите зарезервировать для ответа модели.
- При желании введите количество токенов на документ или сообщение, чтобы увидеть, сколько элементов поместится.
- Прочитайте индикатор использования, количество использованных и оставшихся токенов, а также вердикт о том, помещается ли всё в лимит или он превышен.