Okno kontekstowe

Definicja

Okno kontekstowe to maksymalna ilość tekstu, którą model może uwzględnić w jednej odpowiedzi. Obejmuje polecenie, historię rozmowy i treści źródłowe. Jest to techniczne ograniczenie modelu.

Co to w zasadzie jest?

Model „pamięta” tylko tyle, ile zmieści się w oknie.
Długi kontekst oznacza wyższe koszty i ryzyko pominięć.
Gdy limit jest przekroczony, część treści wypada.
Dlatego trzeba dzielić dokumenty i streszczać.

Praktyczne zastosowania (konkretne scenariusze)

Scenariusz 1: Analiza długiego raportu

Cel: analiza długiego raportu.
Wejście: raport PDF.
Kroki: podział na części → analiza → synteza.
Rezultat: spójne podsumowanie.
Zabezpieczenie: kontrola kompletności.

Scenariusz 2: Obsługa rozmowy z klientem

Cel: obsługa rozmowy z klientem.
Wejście: historia czatu.
Kroki: streszczenie → kontynuacja → weryfikacja.
Rezultat: spójny dialog.
Zabezpieczenie: zapis kluczowych ustaleń.

Scenariusz 3: RAG z wieloma źródłami

Cel: RAG z wieloma źródłami.
Wejście: wiele dokumentów.
Kroki: selekcja fragmentów → odpowiedź → cytaty.
Rezultat: zwięzła odpowiedź.
Zabezpieczenie: ograniczenie liczby fragmentów.

Typowe błędy i pułapki

Wklejanie całych dokumentów bez selekcji.
Zbyt długie prompty systemowe.
Brak streszczeń między turami.

Ryzyka i jak je ograniczać

Ryzyko 1: Ucięte informacje

Ryzyko: Ucięte informacje.
Jak ograniczać: podział i streszczenia.

Ryzyko 2: Wysokie koszty

Ryzyko: Wysokie koszty.
Jak ograniczać: kontrola długości odpowiedzi.

Ryzyko 3: Niespójność

Ryzyko: Niespójność.
Jak ograniczać: przypominanie kluczowych punktów.

Checklista “zanim użyjesz”

Czy znasz limit kontekstu modelu?
Czy dokumenty są podzielone na fragmenty?
Czy masz streszczenia kluczowych punktów?
Czy odpowiedź zawiera najważniejsze informacje?
Czy kontrolujesz długość odpowiedzi?

Diagram

flowchart LR
    A[Długi materiał]
    B[Podział lub streszczenie]
    C[Wybrany kontekst]
    D[Model]
    E[Odpowiedź]
    A --> B --> C --> D --> E

Diagram pokazuje, że ograniczenie kontekstu wymusza selekcję treści przed wysłaniem jej do modelu.