LLM og priser - det koster mindre end du tror

LLM og priser kan virke uigennemskueligt, men for ledere og beslutningstagere er det afgørende at fokusere på de enkle økonomiske realiteter: drift koster primært modelkald (tokens/compute), mens software, integration og tilpasning ofte udgør de største poster. Start bagfra: begynd med at forstå, hvad drift koster, før du lader dig friste af fancy funktioner eller dyre nye modeller.

Den kerneomkostning, du vil møde i drift, er modelkald. Hvis du kalder store cloud-udbydere direkte, betaler du udbyderens "kostpris" pr. token/compute. Nye modeller er ofte dyrere pr. token, men det betyder ikke automatisk, at de er nødvendige; gennemprøvede ældre modeller er ofte tilstrækkelige og betydeligt billigere til mange forretningssituationer.

Hoster du modeller lokalt, kan selve licensen være gratis (open source), men reelle omkostninger kommer fra hardware, strøm og vedligehold. Til et internt proof-of-concept anbefales en lille opsætning — typisk en PC med et kraftigt grafikkort — og det er realistisk at holde investeringen under ca. 35.000 kr. i 2026-prisniveau. Køb ikke hardware "til fremtiden"; køb kun kapacitet til det konkrete behov nu.

Hvis du køber gennem en leverandør, betaler du ofte udbyderens pris plus leverandørens margin. Det kan gøre driftsomkostningerne dyrere og mindre gennemsigtige. Derfor er det vigtigt at kræve opdeling af priser og at forstå, hvad du faktisk betaler for.

Softwaren oven på modellen spænder fra gratis open source-rammer til store licensudgifter. I mange PoC-projekter kan man starte med gratis eller lave softwareomkostninger. Men i praksis bliver software, integration og løbende vedligehold ofte de største omkostningsposter — ikke selve tokenforbruget.

En simpel connector eller container-opsætning tager i praksis kun få timer at etablere og du bør derfor være billig:-) Realistisk etableringspris for mindre integrationer ligger typisk under 20.000 kr. Et simpelt prototypeprojekt — primært prompting og let integration — kan ofte etableres for et sted mellem 10–20.000 kr. Hvis du, eller din samarbejdspartner, begynder at bygge komponenter eller funktionalitet udover de muligheder som allerede findes som standard hos de store udbydere, så kan det hurtigt blive meget dyrt.

RAG-data i PoC kan ofte etableres for 3.000–20.000 kr., afhængig af scope. Her taler vi om et begrænset datasæt eller fiktive data, der er tilstrækkeligt til at dokumentere værdi i en pilot. Når værdien er bevist, kan du investere mere i skalerbar datainfrastruktur.

Eftertræning (finetuning) af egne modeller giver mening kun i særlige tilfælde: når du både har krav om lokal databehandling og kan formulere opgaver som et begrænset sæt af forventede udfald. Finetuning kan være dyrt og kræver modenhed i projekterne — overvej det først, når flere PoC'er er succesfulde.

Vær varsom med leverandører, der tilbyder "prototypeprojekter" uden at garantere resultater eller beskrive klare delleverancer der kan evalueres. Aftal altid specificerede succeskriterier, timeestimat og en klar aftale. Langt de fleste projekter bør kunne gennemføres for et budget til den eksterne part på et sted mellem 40–50.000 kr, betaler du mere, så værd opmærksom på, om det er udgifter til projektet du betaler - eller om det er for "indpakningen".

Pas på, at du ikke betaler for løsninger, der grundlæggende "bare" er standardcontainer-løsninger. En typisk container er i praksis en vektorstore med dine dokumenter og en prompt-løsning — noget en teknisk interesseret studentermedhjælper ofte kan sætte op. Spørg leverandøren, hvad der er standardfunktionalitet der bruges transpoerent af denne fra modelleverandøren - og hvad leverandøren har tilført af værdi via eget software.

Kort takeaway: LLM-projekter behøver ikke være dyre, ikke i etableringen - og slet ikke i den efterfølgened drift. Men de kan kræve, at du i driften er parat til at justere på din organisation, de kompetencer interne medarbejder har, samt den arebjdsgang der bruges i din opgaveløsning.