Gemini API erhält Tool Retrieval und lädt Agenten-Tools nur bei Bedarf

Google hat Tool Retrieval in der Gemini API gestartet, als Vorschau in der Interactions API. Die Funktion lässt KI-Agenten eine Bibliothek mit Dutzenden oder sogar Hunderten Tools in Bereitschaft halten und das Parameterschema jedes Tools erst laden, wenn die Aufgabe es erfordert — statt bei jeder Anfrage alle vollständigen Definitionen zu senden.

Laut der Ankündigung, die am 19. November 2026 von Lucia Loher, Produktmanagerin der Gemini API, und Nora Kassner, Forschungswissenschaftlerin bei Google DeepMind, veröffentlicht wurde, bläht das Senden aller Schemas bei jedem Aufruf die Zahl der Eingabe-Token auf, erhöht die Latenz und senkt die Genauigkeit der Tool-Auswahl, je länger die Liste wird.

So funktioniert es

Zum Aktivieren fügt der Entwickler ein tool_search-Tool zur Anfrage hinzu und markiert die Tools, die zurückgehalten werden sollen, mit defer_loading: true. Das Modell sieht weiterhin Name und Beschreibung jedes zurückgehaltenen Tools und weiß also, was verfügbar ist, doch die Parameterschemas bleiben bis zur Anfrage außerhalb des Kontexts. Wenn das Modell ein Tool braucht, fordert es dieses namentlich an, die API lädt das vollständige Schema, und das Modell löst den Funktionsaufruf aus — alles innerhalb derselben Anfrage.

Googles Beispiel ist ein Kundenservice-Agent: Ein Kunde meldet, dass die Bestellung A-1042 beschädigt angekommen ist, und bittet um eine Erstattung von 40 Dollar. Das Modell sucht die Funktion issue_refund, die API lädt ihr Schema, und der Aufruf erfolgt. Alle drei Schritte — tool_search_call, tool_search_result und function_call — erscheinen in interaction.steps, was das Debuggen erleichtert, welche Tools das Modell in Betracht gezogen hat.

Es muss kein Index gebaut oder gehostet werden: Die Suche läuft auf Googles Server. Die am häufigsten genutzten Tools können von Anfang an geladen bleiben, nur der „Long Tail" wird zurückgehalten. Die Funktion arbeitet auch mit Prefix-Caching: Zurückgehaltene Schemas bleiben außerhalb des Prompt-Anfangs, sodass der zwischengespeicherte Prefix von Aufruf zu Aufruf gleich bleibt.

Preise, Modelle und MCP

Tool Retrieval kostet nichts extra: Eingabe- und Ausgabe-Token werden zu den Standardtarifen des aufgerufenen Modells abgerechnet. Das Aktivieren von tool_search fügt einen kleinen, festen Block an Eingabe-Token hinzu, und jedes geladene Schema wird für den Rest des Gesprächs als Eingabe berechnet. Einsparungen entstehen, wenn die nie geladenen Schemas die geladenen überwiegen — laut Google der übliche Fall bei großen Bibliotheken.

Die Funktion arbeitet mit Gemini 3.6 und neueren Modellen, einschließlich aller Gemini-4-Modelle, und nur in der Interactions API. Sie funktioniert auch mit Remote-MCP-Servern: Wird ein mcp_server-Tool mit defer_loading: true markiert, werden alle Tools, die der Server bereitstellt, bei Bedarf geladen. Es gibt außerdem eine clientseitige Retrieval-Variante für Entwickler mit eigener Tool-Registry — in diesem Modus fügt jede Suche einen Roundtrip hinzu, und neue Tools können mitten im Gespräch bereitgestellt werden.

Die Idee ist nicht neu: Anthropic brachte im November 2025 eine Tool-Suchfunktion heraus, OpenAI im März 2026, mit ähnlichem Design. Google nannte keine gemessenen Zahlen zu Token-Einsparung, Latenz oder Genauigkeit der Tool-Auswahl und kein Datum für die allgemeine Verfügbarkeit — als Vorschau kann sich die Schnittstelle vor dem stabilen Release noch ändern.

Die Funktion erscheint in derselben Woche, in der Google die Genie-4-API für Entwickler geöffnet hat: Update: Google öffnet die Genie-4-API für Entwickler.

Bildnachweis: Google / Wikimedia Commons

Quellen

Transparenz: Dieser Artikel wurde mit Hilfe künstlicher Intelligenz erstellt, auf Grundlage öffentlicher Beiträge auf X und Quellen aus dem Internet. Bitte prüfen Sie die Informationen in den Originalquellen.

Von Muse