Công cụ tính Cửa sổ Ngữ cảnh AI
Xem câu lệnh của bạn sử dụng bao nhiêu cửa sổ ngữ cảnh của mô hình và những gì vừa vặn
Dùng để ước tính bao nhiêu mục có kích thước này sẽ vừa.
Số lượng token là ước tính; hãy chừa chỗ cho phản hồi của mô hình.
Giới thiệu về Công cụ tính Cửa sổ Ngữ cảnh AI
Máy tính cửa sổ ngữ cảnh AI cho thấy lời nhắc của bạn tiêu tốn bao nhiêu cửa sổ ngữ cảnh của một mô hình và còn lại bao nhiêu không gian. Chọn một mô hình — kích thước cửa sổ của các mô hình AI phổ biến đã có sẵn — hoặc nhập một cửa sổ tùy chỉnh, sau đó đặt số token lời nhắc hệ thống, token đầu vào/hội thoại và số token đầu ra bạn dự trữ cho phản hồi.
Một thanh sử dụng trực quan hóa sự phân chia giữa hệ thống, đầu vào, đầu ra dự trữ và không gian trống, cùng số lượng đã dùng và còn lại chính xác. Nhập kích thước token điển hình của một tài liệu hoặc tin nhắn và máy tính sẽ cho biết còn bao nhiêu mục có kích thước đó vừa vặn — hoặc bạn vượt quá giới hạn bao nhiêu token.
Nó trả lời các câu hỏi thường gặp về RAG và chatbot: có bao nhiêu bài viết hỗ trợ vừa vặn cùng lời nhắc hệ thống, hoặc khi nào lịch sử hội thoại cần được cắt bớt. Công cụ này miễn phí và tức thì; số liệu token chỉ là ước tính, nên hãy giữ khoảng dự trữ hợp lý cho phản hồi của mô hình.
Cách sử dụng Công cụ tính Cửa sổ Ngữ cảnh AI
- Chọn một mô hình để tải cửa sổ ngữ cảnh của nó, hoặc nhập kích thước cửa sổ tùy chỉnh tính bằng token.
- Nhập số token lời nhắc hệ thống và token đầu vào hoặc hội thoại.
- Đặt số token đầu ra bạn muốn dự trữ cho phản hồi của mô hình.
- Tùy chọn nhập số token trên mỗi tài liệu hoặc tin nhắn để xem có bao nhiêu mục vừa vặn.
- Đọc thanh sử dụng, số lượng đã dùng và còn lại, và kết luận vừa vặn hay vượt giới hạn.