Home

/

Glossary

/

Was ist Tool Calling (Function Calling)?

Tool Calling, auch Function Calling genannt, lässt ein LLM Software zum Handeln auffordern. Funktionsweise, Begriffsunterschiede und Einsatz bei Anrufen.

Tool Calling, auch Function Calling genannt, beschreibt, wie ein Large Language Model (LLM) Aufgaben außerhalb seines eigenen Textes erledigt. Das Modell gibt den Namen eines Tools und strukturierte Argumente zurück, und die Anwendung führt das Tool aus.

Das Modell führt selbst nie etwas aus. Es fordert an, und die Software handelt. Genau das ermöglicht es einem KI-Agenten, eine Bestellung zu prüfen, einen Termin zu buchen oder einen Anruf weiterzuleiten, statt nur darüber zu sprechen.

Ist Tool Calling dasselbe wie Function Calling?

Im alltäglichen Sprachgebrauch ja. Die Modellanbieter behandeln beide Begriffe als Namen für denselben Mechanismus. Der Leitfaden von OpenAI beginnt mit „Function Calling (auch bekannt als Tool Calling)“. Die Dokumentation von Anthropic beginnt mit „Tool Use (auch Function Calling genannt)“. IBM schreibt „Tool Calling, manchmal auch als Function Calling bezeichnet“.

Wo eine Unterscheidung getroffen wird, ist „Tool“ der weiter gefasste Begriff. Im Leitfaden von OpenAI heißt es: „Eine Funktion ist eine bestimmte Art von Tool, definiert durch ein JSON-Schema.“

BegriffWo Sie ihn findenWas er umfasst
Function CallingTitel des Leitfadens von OpenAI, Dokumentation von RetellDas Modell füllt Argumente für eine Funktion aus, die Sie mit einem JSON-Schema beschrieben haben, und Ihr Code führt sie aus
Tool CallingOpenAI, IBM, der Retell vCX BenchmarkDerselbe Mechanismus für jedes Tool: Ihre Funktionen, integrierte Tools einer Plattform, Tools auf einem MCP-Server
Tool UseDokumentation von AnthropicDie Bezeichnung von Anthropic für denselben Mechanismus
MCP (Model Context Protocol)modelcontextprotocol.io„Ein Open-Source-Standard zur Verbindung von KI-Anwendungen mit externen Systemen“. Er stellt Tools bereit. Das Modell entscheidet weiterhin, wann eines davon aufgerufen wird

Wie funktioniert Tool Calling?

Der Leitfaden von OpenAI beschreibt Tool Calling als „mehrstufige Konversation zwischen Ihrer Anwendung und einem Modell“ mit fünf Schritten:

  1. Tools anbieten. Die Anwendung sendet dem Modell die Konversation und eine Liste der Tools, die es aufrufen könnte.
  2. Tool-Aufruf empfangen. Wird ein Tool benötigt, antwortet das Modell mit dem Namen des Tools und den Argumenten.
  3. Ausführen. Die Anwendung führt den Code oder die API-Anfrage aus.
  4. Ergebnis zurückgeben. Die Anwendung sendet die Ausgabe des Tools zurück an das Modell.
  5. Antwort erhalten. Das Modell formuliert seine Antwort auf Basis des Ergebnisses oder fordert ein weiteres Tool an.

Der Aufruf selbst besteht nur aus wenigen Zeilen JSON. Dieses Beispiel stammt aus der Function-Calling-Dokumentation von Retell:

{"function": "book_appointment", "arguments": {"date": "2024-03-15", "time": "14:00", "customer_name": "John Smith"}}

Diagramm eines Tool-Aufrufs während eines Telefonanrufs in sechs Schritten. Der Anrufer nennt die Bestellnummer 78542. Das LLM gibt einen Tool-Aufruf zurück, der get_order_status mit der Bestellnummer als Argument benennt. Retell sendet eine Anfrage an Ihre API und wartet; der Agent kann währenddessen "Einen Moment, ich sehe kurz für Sie nach" sagen. Ihre API gibt den Status und das Lieferdatum zurück. Das Ergebnis geht zurück an das LLM. Der Agent sagt "Ihre Bestellung wurde gestern versandt und kommt am Donnerstag an." Das Modell fordert an, und die Anwendung handelt.
Ein Tool-Aufruf während eines Telefonanrufs: eine Abfrage des Bestellstatus über eine benutzerdefinierte Funktion, nach dem Beispiel in der Dokumentation von Retell. Diagramm von Retell AI, November 2026.

Wovon hängt ab, ob ein Tool-Aufruf gelingt oder scheitert?

Zwei Dinge müssen stimmen. Das Modell muss im richtigen Moment das richtige Tool wählen, und es muss gültige Argumente übergeben.

  • Beschreibungen steuern die Auswahl. Laut der Dokumentation von Anthropic entscheidet Claude „auf Grundlage der Anfrage des Nutzers und der Beschreibung des Tools“, wann ein Tool aufgerufen wird. Die Dokumentation zu benutzerdefinierten Funktionen von Retell nennt vage Beschreibungen „den häufigsten Grund, warum eine Funktion nie ausgelöst wird“.
  • Schemas begrenzen die Argumente. Der Strict Mode von OpenAI sorgt dafür, dass Funktionsaufrufe „sich zuverlässig an das Funktionsschema halten, statt nur nach bestem Bemühen“.
  • Benchmarks bewerten es gesondert. Tool Calling ist eine von vier Testreihen im Retell vCX Benchmark, neben Instruction Following, Grounding und umgangssprachlicher Sprache. Sie prüft, „ob das Modell die richtige Aktion wählt und gültige Argumente übergibt“. Tell-1, das eigene LLM von Retell, besteht 95,4 % der Tool-Calling-Fälle (Rang 5 in dieser Testreihe) und belegt Platz 1 im Gesamtdurchschnitt, Stand November 2026 (Rangliste abgerufen am 13. November 2026). Der technische Beitrag zum Retell LLM erläutert, wie das Modell trainiert und bewertet wird.

Wie funktioniert Tool Calling bei einem Telefonanruf?

Bei einem Anruf wartet der Anrufer, während das Tool läuft, daher ist das Timing Teil des Designs. Die Dokumentation von Retell listet die Tools auf, die ein KI-Sprachagent während eines Anrufs aufrufen kann:

  • Vorgefertigte Funktionen: End Call, Transfer Call, Press Digits und Send SMS.
  • Integrations-Tools: Aktionen bei einem verbundenen Anbieter wie HubSpot, Salesforce, Zendesk oder Cal.com, ohne dass Sie einen Endpoint hosten müssen.
  • Benutzerdefinierte Funktionen: Der Agent ruft Ihre eigene API auf und nutzt die Antwort.
  • Code-Tool: JavaScript, das in der Sandbox von Retell ausgeführt wird.
  • MCP-Tools: Tools auf einem Remote-MCP-Server, den Sie verbinden.

Bei einer benutzerdefinierten Funktion „sendet Retell eine Anfrage mit den Argumenten der Funktion an Ihre URL und wartet auf Ihre Antwort, bevor es weitergeht“. Das Timeout beträgt standardmäßig 120 Sekunden, und standardmäßig erfolgt kein erneuter Versuch. Schlägt die Anfrage fehl, erhält der Agent den Fehler und fährt auf Grundlage Ihres Prompts fort. Der Prompt sollte daher festlegen, was dem Anrufer gesagt wird. Der Agent kann sprechen, während er wartet, oder die Funktion kann im Hintergrund laufen.

In einem Conversation Flow führt ein Function Node sein Tool jedes Mal aus, wenn der Flow ihn erreicht. Ein Subagent Node überlässt dem LLM die Entscheidung, ob und wann es die einzelnen Tools aufruft.

Verwandte Begriffe: API-Integration und Webhook. Einen umfassenderen Überblick bietet der Beitrag zu Sprach-KI-Integrationen mit Ihrem CRM und Ihrem Telefonie-Stack.

Häufig gestellte Fragen zu Tool Calling

Ist Function Calling dasselbe wie Tool Calling?

Im alltäglichen Sprachgebrauch ja. OpenAI, Anthropic und IBM führen jeweils den einen Begriff als andere Bezeichnung für den anderen an. Genau genommen ist eine Funktion eine bestimmte Art von Tool.

Führt das LLM das Tool selbst aus?

Nein. Das Modell gibt den Namen des Tools und die Argumente zurück. Die Anwendung oder Plattform führt das Tool aus und sendet das Ergebnis zurück.

Was ist der Unterschied zwischen Tool Calling und MCP?

Tool Calling beschreibt, wie ein Modell eine Aktion anfordert. MCP ist ein Open-Source-Standard, der KI-Anwendungen mit den Systemen verbindet, die Tools bereitstellen.

Was passiert, wenn ein Tool-Aufruf während eines laufenden Anrufs fehlschlägt?

Bei Retell erhält der Agent den Fehler und setzt das Gespräch auf Grundlage Ihres Prompts fort. Eine benutzerdefinierte Funktion wird nur dann erneut versucht, wenn Sie eine Anzahl von Wiederholungsversuchen festlegen.

Warum überspringt ein Agent ein Tool, das er hätte aufrufen sollen?

Meist liegt es an der Beschreibung. Das Modell entscheidet anhand des Tool-Namens, der Beschreibung und des Prompts. Beschreiben Sie also, was das Tool tut und wann es verwendet werden soll.

Verbinden Sie einen KI-Sprachagenten mit Ihren Systemen

Die Retell AI ist eine Plattform für KI-Sprachagenten für Contact Center. Ihre Agenten rufen während eines laufenden Anrufs vorgefertigte, Integrations- und benutzerdefinierte Tools auf. Integrationen der Retell AI ansehen. Wie Sie diese Tools auf dem eigenen LLM von Retell ausführen, erfahren Sie unter Tell-1.

Security & compliance for regulated deployments

How Retell handles audits, data retention and access control.

Add Retell AI as a preferred source on Google

Further Reading

Related terms

No items found.

Table of contents

Revolutionieren Sie Ihren Anrufbetrieb mit Retell