Tool use (function calling)

Hvad er tool use?

Tool use, også kaldet function calling, er AI-modellers evne til at kalde eksterne funktioner og værktøjer. I stedet for blot at generere tekst, kan modellen sige “Jeg har brug for at søge på nettet” eller “Jeg skal kalde vejr-API’en” og generere et struktureret funktionskald som det omgivende system udfører.

Det er den kapabilitet der gør springet fra chatbot til agent. Uden tool use kan en AI-model kun generere tekst. Med tool use kan den interagere med den virkelige verden: hente data, udføre beregninger, sende emails, opdatere databaser.

Tool use blev bredt tilgængeligt i 2023 da OpenAI introducerede function calling i GPT-4. Anthropic, Google og andre fulgte hurtigt efter. I dag er tool use en standard-kapabilitet i alle store AI-modeller.

Hvordan fungerer tool use?

1. Definer værktøjer. Du definerer en liste af tilgængelige værktøjer med deres navne, beskrivelser og parametre i et struktureret format (JSON Schema).
2. Modellen ræsonnerer. Når modellen beslutter at den har brug for et værktøj, genererer den et struktureret funktionskald med de rette parametre.
3. Systemet udfører. Dit system modtager funktionskaldet, udfører den faktiske handling (API-kald, database-forespørgsel) og returnerer resultatet.
4. Modellen fortsætter. Modellen modtager resultatet og bruger det til at formulere sit svar eller beslutte næste handling.

Eksempler på tool use

1. Vejr. Bruger spørger: “Hvad er vejret i København?” → Modellen kalder get_weather(city="Copenhagen") → Systemet kalder vejr-API → Modellen svarer med aktuelle vejrdata.
2. Database. Bruger spørger: “Hvor mange kunder har vi?” → Modellen kalder query_database(sql="SELECT COUNT(*) FROM customers") → Systemet udfører forespørgslen → Modellen svarer med tallet.
3. Email. Bruger siger: “Send en påmindelse til teamet.” → Modellen kalder send_email(to="team@firma.dk", subject="Påmindelse", body="...") → Systemet sender emailen.
4. Kodekørsel. Modellen har brug for at beregne noget → Kalder run_code(language="python", code="2**100") → Systemet kører koden → Modellen bruger resultatet.

Tool use i forskellige API’er

1. OpenAI. Definerer tools som JSON-objekter med function name, description og parameters. Modellen returnerer tool_calls i sit svar.
2. Anthropic (Claude). Lignende tilgang med tools-array i API-kaldet. Claude er særligt stærk til kompleks tool use med flere værktøjer.
3. Google Gemini. Understøtter function declarations med lignende format.

Hvorfor er tool use vigtigt?

1. Fundamentet for agenter. Uden tool use er AI begrænset til at generere tekst. Med tool use kan den handle: søge, kode, kommunikere, datahåndtere.
2. Aktuel information. Modellen kan hente aktuelle data i stedet for at stole på potentielt forældet træningsdata.
3. Præcise beregninger. Modellen kan delegere matematiske beregninger til en kodefortolker i stedet for at gætte.
4. System-integration. Tool use er broen mellem AI og eksisterende systemer: CRM, ERP, databaser, API’er.
5. Struktureret output. Funktionskald producerer struktureret data (JSON) der er nemt at integrere i software.

Tool use i praksis

1. AI-assistenter. ChatGPT kan søge på nettet, køre kode og generere billeder. Alt via tool use.
2. Enterprise-integrationer. AI-chatbots der kan slå ordrer op, oprette tickets og opdatere CRM-data.
3. AI-agenter. Hele det agentic AI-paradigme bygger på tool use. Agenter er i bund og grund modeller med adgang til værktøjer i en loop.
4. MCP. Model Context Protocol standardiserer hvordan AI-modeller forbindes med værktøjer via en fælles protokol.