Tool Calling (Function Calling)
Zuletzt aktualisiert:
Was Tool Calling ist
Ein Sprachmodell allein kann nur Text erzeugen. Es kann weder den aktuellen Lagerbestand prüfen noch eine Buchung nachschlagen. Tool Calling schließt diese Lücke. Der Entwickler beschreibt dem Modell die verfügbaren Werkzeuge: Name, Zweck und benötigte Eingaben. Verlangt eine Frage danach, antwortet das Modell statt mit normalem Text mit einer strukturierten Anfrage, etwa dem Werkzeugnamen und den Parametern im JSON-Format.
So funktioniert es
Ein typischer Tool-Aufruf läuft in vier Schritten ab:
- Die Anwendung schickt die Nachricht des Nutzers und die Werkzeugbeschreibungen an das Modell.
- Das Modell entscheidet, ob ein Werkzeug nötig ist, und gibt gegebenenfalls Name und Argumente zurück.
- Die Anwendung, nicht das Modell, führt den Aufruf aus, zum Beispiel eine HTTP-Anfrage an eine API.
- Das Ergebnis geht zurück an das Modell, das daraus die endgültige Antwort formuliert.
Beispiel
Ein Kunde fragt den Chatbot eines Fahrradladens: „Habt ihr das Trail 500 in Rahmengröße M?“ Das Modell ruft ein Produktsuche-Werkzeug mit Produktname und Größe auf. Das System des Ladens liefert Verfügbarkeit und aktuellen Preis zurück, und der Chatbot antwortet mit diesen Live-Informationen, statt anhand einer alten Produktseite zu raten.
Warum das für Business-Chatbots wichtig ist
Mit Tool Calling wird aus einem Chatbot, der Dokumente liest, ein Assistent, der mit Live-Systemen arbeitet: Produktkatalogen, Verfügbarkeiten, Kontodaten oder internen Werkzeugen. Gleichzeitig steigt die Verantwortung. Weil die Anwendung jeden Aufruf ausführt, bestimmt sie, welche Werkzeuge es gibt, welche Zugangsdaten genutzt werden und welche Teile einer Antwort das Modell sieht. Werkzeuge sollten auf das Nötige beschränkt, möglichst nur lesend und so abgesichert sein, dass eine geschickt formulierte Nachricht keine unerwünschten Aktionen auslöst. Dieses Risiko heißt Prompt Injection.
Tool Calling bei intoCHAT
Bei intoCHAT steht Tool Calling über Aktionen zur Verfügung:
- Eigene API-Aktionen lassen den Agenten während eines Chats deine HTTP-API aufrufen, mit beliebiger Methode und Authentifizierung per Bearer-Token, Basic Auth, API-Schlüssel oder eigenen Headern. Du kannst einen cURL-Befehl importieren, Eingaben festlegen, die der Agent aus dem Gespräch füllt, auswählen, welche Antwortfelder das Modell sieht, und jede Aktion testen. Bis zu 25 Aktionen pro Agent.
- Clientseitige Aktionen führen JavaScript-Funktionen auf deiner eigenen Seite aus.
- „Shop verbinden“ erkennt anhand einer Shop-URL Shopify, WooCommerce, Magento, VTEX, WordPress oder eine eigene Website und erstellt aus den öffentlichen Shopdaten Live-Aktionen für die Produktsuche. Die Ergebnisse erscheinen als Produktkarten.