Przejdź do treści

Grounding (ugruntowanie odpowiedzi)

Definicja

Grounding to technika, w której model odpowiada na podstawie wskazanych źródeł, a nie tylko „z pamięci modelu”.

Co to w zasadzie jest?

  • Chodzi o to, by odpowiedź miała „podparcie” w dokumentach.
  • Model dostaje fragmenty tekstu i ma się na nich oprzeć.
  • Dzięki temu łatwiej ograniczyć halucynacje i podać cytaty.

Praktyczne zastosowania (konkretne scenariusze)

Scenariusz 1: Komunikat do klientów z regulaminy

  • Cel: komunikat do klientów z regulaminy.
  • Wejście: regulamin.
  • Kroki: wybierz fragmenty → generuj → dodaj cytaty.
  • Rezultat: czytelny komunikat.
  • Zabezpieczenie: weryfikacja prawnika.

Scenariusz 2: Odpowiedź na zgłoszenie o informację

  • Cel: odpowiedź na zgłoszenie o informację.
  • Wejście: procedura + wzór.
  • Kroki: RAG → odpowiedź → źródła.
  • Rezultat: spójna odpowiedź.
  • Zabezpieczenie: usunięcie PII.

Scenariusz 3: Streszczenie regulaminu

  • Cel: streszczenie regulaminu.
  • Wejście: regulamin.
  • Kroki: grounding → plain language.
  • Rezultat: skrót z odnośnikami.
  • Zabezpieczenie: brak zmian sensu.

Typowe błędy i pułapki

  • Podanie źródeł nie na temat.
  • Brak cytowania fragmentów (tylko „link ogólny”).
  • Mieszanie wersji dokumentów.

Ryzyka i jak je ograniczać

Ryzyko 1: Błędne źródła

  • Ryzyko: Błędne źródła: zły dokument w bazie.
  • Jak ograniczać: whitelist + wersjonowanie.

Ryzyko 2: Nadinterpretacja

  • Ryzyko: Nadinterpretacja: model dopowiada.
  • Jak ograniczać: polecenie: „tylko na podstawie cytatów”.

Ryzyko 3: Ukryte wstrzyknięcia

  • Ryzyko: Ukryte wstrzyknięcia: złośliwy fragment w źródle.
  • Jak ograniczać: skan + review.

Checklista “zanim użyjesz”

  • Czy źródła są oficjalne i aktualne?
  • Czy odpowiedź zawiera cytaty/linki?
  • Czy w treści nie ma dopowiedzeń poza źródłem?
  • Czy wersje dokumentów są zgodne?
  • Czy jest akceptacja człowieka?

Diagram

flowchart LR
    A[Pytanie]
    B[Dobór źródeł]
    C[Model]
    D[Odpowiedź oparta na źródłach]
    E[Cytaty]
    A --> B --> C --> D --> E

Diagram pokazuje, że grounding polega na osadzeniu odpowiedzi w konkretnych materiałach źródłowych.

Dalsza lektura

Miejsce w mapie

Powiązane hasła