Calculadora de janela de contexto de IA
Veja quanto da janela de contexto de um modelo o seu prompt usa e o que cabe
Usado para estimar quantos itens deste tamanho cabem.
As contagens de tokens são estimativas; reserve margem para a resposta do modelo.
Sobre Calculadora de janela de contexto de IA
A calculadora de janela de contexto de IA mostra quanto da janela de contexto de um modelo o seu prompt consome e quanto espaço resta. Escolha um modelo, os tamanhos de janela dos modelos de IA populares já estão incluídos, ou digite uma janela personalizada, depois defina os tokens do seu prompt de sistema, os tokens de entrada/conversa e os tokens de saída reservados para a resposta.
Uma barra de uso visualiza a divisão entre sistema, entrada, saída reservada e espaço livre, com contagens exatas de usado e restante. Digite o tamanho típico em tokens de um documento ou mensagem e a calculadora informa quantos itens desse tamanho ainda cabem: ou por quantos tokens você está acima do limite.
Ela responde às perguntas cotidianas de RAG e chatbot: quantos artigos de suporte cabem junto com o prompt de sistema, ou quando um histórico de conversa precisa ser cortado. A ferramenta é gratuita e instantânea; os números de tokens são estimativas, então mantenha uma margem sensata para a resposta do modelo.
Como usar Calculadora de janela de contexto de IA
- Selecione um modelo para carregar sua janela de contexto, ou digite um tamanho de janela personalizado em tokens.
- Digite os tokens do seu prompt de sistema e os tokens de entrada ou conversa.
- Defina os tokens de saída que deseja reservar para a resposta do modelo.
- Opcionalmente, digite os tokens por documento ou mensagem para ver quantos itens cabem.
- Leia a barra de uso, as contagens de usado e restante, e o veredito de encaixe ou excesso de limite.