Przejdź do treści

Tool calling (wywoływanie narzędzi)

Definicja

Tool calling to sytuacja, gdy model nie tylko pisze tekst, ale też uruchamia narzędzia, np. wyszukiwarkę, bazę danych, API, kalkulator, edytor plików albo system ticketów.

Co to w zasadzie jest?

Model staje się dyspozytorem. Może zlecić zadanie innemu systemowi, odebrać wynik i ułożyć z tego odpowiedź.

To ważny krok od czatu do realnych zastosowań: automatyzacji, agentów i integracji z danymi. Dzięki temu AI nie musi zgadywać. Może sprawdzić źródło, policzyć, pobrać dokument albo uruchomić proces.

Jednocześnie to obszar, w którym bezpieczeństwo jest kluczowe. Jeśli model może wykonać akcję, trzeba jasno ograniczyć, co wolno, kiedy i komu.

Praktyczne zastosowania (konkretne scenariusze)

Scenariusz 1: Pobranie danych przez API

  • Cel: odpowiedź na podstawie aktualnych danych.
  • Wejście: pytanie użytkownika.
  • Kroki: wybór narzędzia -> wywołanie API -> odpowiedź.
  • Rezultat: mniej zgadywania.
  • Zabezpieczenie: walidacja parametrów i logowanie.

Scenariusz 2: Wyszukiwanie w dokumentach

  • Cel: odpowiedź oparta na plikach organizacji.
  • Wejście: pytanie i dostępny zbiór dokumentów.
  • Kroki: retrieval -> wynik narzędzia -> odpowiedź z kontekstem.
  • Rezultat: lepsze grounding.
  • Zabezpieczenie: kontrola źródeł i uprawnień.

Scenariusz 3: Utworzenie zgłoszenia

  • Cel: automatyzacja prostego procesu.
  • Wejście: opis problemu.
  • Kroki: klasyfikacja -> utworzenie ticketu -> zapis w logu.
  • Rezultat: szybsza obsługa.
  • Zabezpieczenie: potwierdzenie człowieka przy akcjach krytycznych.

Ryzyka i jak je ograniczać

Ryzyko 1: Nieautoryzowane akcje

  • Ryzyko: Nieautoryzowane akcje.
  • Jak ograniczać: role, uprawnienia i tryb tylko do odczytu tam, gdzie to możliwe.

Ryzyko 2: Prompt injection wymusza złe użycie narzędzia

  • Ryzyko: Prompt injection wymusza złe użycie narzędzia.
  • Jak ograniczać: filtr poleceń, separacja instrukcji od danych i walidacja przed akcją.

Ryzyko 3: Pętle wywołań i koszty

  • Ryzyko: Pętle wywołań i koszty.
  • Jak ograniczać: limity, timeouty, rate limiting i budżety tokenów.

Checklista “zanim użyjesz”

  • Czy narzędzia mają minimalne uprawnienia?
  • Czy parametry wywołania są walidowane?
  • Czy akcje krytyczne wymagają potwierdzenia?
  • Czy każde wywołanie jest logowane?
  • Czy są limity kosztów i czasu?

Diagram

flowchart LR
    A[Prompt]
    B[LLM]
    C[Wybór narzędzia]
    D[Wynik narzędzia]
    E[Odpowiedź]
    F[Log i kontrola]
    A --> B --> C --> D --> E
    C --> F
    D --> F

Diagram pokazuje, że model może zlecić użycie narzędzia, ale wykonanie musi być kontrolowane i logowane.

Dalsza lektura

Miejsce w mapie

Powiązane hasła