TCO staat voor Total Cost of Ownership: alle kosten die je maakt over de volledige levensduur van een systeem, niet alleen de aanschafkosten. Bij traditionele software zijn dat licenties, hardware en support. Bij AI-systemen is de kostenstructuur anders: de initiële bouwkosten zijn soms laag, maar de operationele en onderhoudskosten kunnen fors zijn. Een eerlijke TCO-berekening begint bij het in kaart brengen van alle kostenposten.

De eerste kostenpost is de initiële ontwikkeling. Wie bouwt het systeem: interne developers, een externe partner zoals Mach8, of een combinatie? Hoeveel tijd kost het ontwerpen, bouwen, testen en uitrollen? Denk ook aan de kosten van het definiëren van de use case, het opstellen van evaluatiecriteria en het trainen van medewerkers die met het systeem gaan werken. Deze initiële kosten worden vaak onderschat, zeker als er meerdere iteraties nodig zijn.

De meest zichtbare kostenpost zijn de kosten voor het gebruik van het AI-model zelf. Bij grote taalmodellen gaat het om kosten per input- en outputtoken. Hoeveel queries verwerk je per dag, per week, per maand? Hoe lang zijn de gemiddelde prompts en antwoorden? Deze kosten schalen direct mee met gebruik. Bij hoge volumes kunnen ze snel oplopen: en bij lage volumes lijken ze verwaarloosbaar maar zijn ze dat soms niet als je de kostenpost per uitgevoerde taak berekent.

Naast modelkosten zijn er infrastructuurkosten: de servers waarop je applicatie draait, de database voor het opslaan van logs en resultaten, de API-gateway, monitoring-tools, en eventueel een vector database voor RAG-toepassingen. Voor eenvoudige systemen zijn deze kosten beperkt; bij schaal of bij self-hosted modellen kunnen ze dominant worden.

Goede AI-systemen vereisen continue evaluatie. Dat vraagt om testdata, tijd van medewerkers of evaluatoren die de kwaliteit beoordelen, en eventueel geautomatiseerde evaluatietools. Hoe groter het systeem en hoe hoger de kwaliteitseisen, hoe meer die kosten wegen. Bij fine-tuning komen hier ook de kosten van dataverzameling, labeling en training bij.

Een AI-systeem is niet gebouwd en klaar. Modellen worden bijgewerkt, prompts moeten worden aangepast, bugs moeten worden opgelost, nieuwe use cases vragen om uitbreiding. Tel ook mee: monitoring, incidentrespons, periodieke audits en compliance-checks. Deze kosten zijn structureel en lopen door zolang het systeem in productie is.

Een kostenpost die zelden in TCO-berekeningen verschijnt, is de tijd die medewerkers investeren in het werken met en beheren van het systeem. Wie beoordeelt de AI-output? Wie behandelt escalaties? Wie verzamelt feedback en vertaalt dat in verbeteringen? Deze menselijke uren zijn reële kosten, ook als ze verborgen zijn in bestaande functies.

Een TCO-berekening is pas zinvol als je hem afzet tegen de waarde die het systeem creëert. Hoeveel uur bespaar je per week, hoeveel fouten verminder je, hoeveel sneller worden klanten geholpen? Als de TCO lager is dan de gecreëerde waarde, is de business case positief. Maar wees eerlijk: veel organisaties overschatten de waarde en onderschatten de kosten. Een realistische inschatting van beide kanten is de basis voor een solide investeringsbeslissing.

De TCO van een AI-systeem bestaat uit ontwikkelkosten, modelgebruik, infrastructuur, data, evaluatie, onderhoud en menselijke tijd. Wie al deze posten meeneemt, maakt een eerlijkere afweging. Wil je een realistische TCO-inschatting voor jouw AI-project? Neem contact op met Mach8 en we rekenen het samen door.