Калькулятор контекстного вікна ШІ
Дізнайтеся, яку частину контекстного вікна моделі використовує ваш промпт і що в нього вміщується
Використовується для оцінки, скільки елементів такого розміру вміщується.
Кількість токенів оцінна; залиште запас для відповіді моделі.
Про Калькулятор контекстного вікна ШІ
Калькулятор контекстного вікна ШІ показує, скільки контекстного вікна моделі займає ваш запит і скільки місця залишається. Оберіть модель — розміри вікон популярних моделей ШІ вбудовані — або введіть власне вікно, потім задайте токени системного запиту, вхідні/діалогові токени й токени виводу, які ви резервуєте для відповіді.
Смуга використання візуалізує розподіл між системою, вводом, зарезервованим виводом і вільним місцем, із точними значеннями використаних і залишкових токенів. Введіть типовий розмір токенів документа чи повідомлення, і калькулятор скаже, скільки ще таких елементів поміститься — або на скільки токенів ви перевищили ліміт.
Він відповідає на повсякденні питання RAG і чат-ботів: скільки статей підтримки поміститься поряд із системним запитом, або коли історію розмови потрібно скоротити. Інструмент безкоштовний і миттєвий; цифри токенів є оцінками, тож залишайте розумний запас для відповіді моделі.
Як використовувати Калькулятор контекстного вікна ШІ
- Оберіть модель, щоб завантажити її контекстне вікно, або введіть власний розмір вікна в токенах.
- Введіть токени системного запиту та вхідні або діалогові токени.
- Задайте кількість вихідних токенів, які ви хочете зарезервувати для відповіді моделі.
- За бажанням введіть кількість токенів на документ чи повідомлення, щоб побачити, скільки елементів поміститься.
- Перегляньте смугу використання, значення використаних і залишкових токенів, а також висновок про відповідність чи перевищення ліміту.