Zonder AI-gateway geen grip op AI

De essentie in één minuut

AI wordt zo vanzelfsprekend binnen organisaties dat werken zonder AI straks ondenkbaar is. Maar wie houdt eigenlijk de regie over welke AI-modellen worden gebruikt, waar gegevens terechtkomen en welke veiligheidsregels gelden?

Ik ben ervan overtuigd dat iedere organisatie een AI-gateway zou moeten hebben: één centrale toegangspoort waarmee je zelf bepaalt welke AI-modellen en aanbieders beschikbaar zijn, onder welke voorwaarden en tegen welke kosten.

Daarbij horen centraal beheerde guardrails, gekoppeld aan de intended purpose: het doel waarvoor je AI inzet, niet aan een individueel model.

Zo combineer je veiligheid en beheersbaarheid met de vrijheid om per toepassing de juiste AI-modellen te kiezen.

Want AI ontwikkelt zich razendsnel. Juist daarom is centrale regie essentieel om wildgroei aan AI-toepassingen binnen de organisatie te voorkomen.

De verdieping – Waarom een AI-gateway essentieel wordt

1. Van versnippering naar centrale regie

AI ontwikkelt zich razendsnel. Afdelingen experimenteren met ChatGPT, medewerkers gebruiken Copilot en ontwikkelteams integreren AI-modellen rechtstreeks in bedrijfsapplicaties.

Iedere toepassing heeft eigen instellingen, contracten, kosten en beveiligingsmaatregelen. Voor je het weet, ontstaat er een wirwar aan verbindingen met verschillende AI-aanbieders.

Maar wie houdt dan nog het overzicht?

Een AI-gateway brengt die verbindingen samen via één centrale toegangspoort. Applicaties en AI-agents communiceren via deze gateway met de beschikbare AI-modellen.

Hierdoor kan een organisatie centraal beheren welke modellen zijn toegestaan, wie toegang heeft, welke kosten worden gemaakt en welke beleidsregels gelden.

Niet om innovatie af te remmen, maar juist om deze veilig en beheersbaar op te schalen.

2. Guardrails beginnen bij het doel, niet bij het model

Een belangrijke functie van een AI-gateway is het centraal beheren van guardrails: de veiligheidsregels en controles die verantwoord AI-gebruik ondersteunen.

Maar ik vind dat we daarbij anders moeten denken.

Guardrails zouden niet primair gekoppeld moeten worden aan individuele AI-modellen, maar aan de zogenaamde intended purpose: het beoogde gebruik van AI binnen een organisatie.

Neem bijvoorbeeld het automatisch afhandelen van binnenkomende e-mails. Daarvoor kan een AI-agent verschillende modellen gebruiken: één voor classificatie, één voor het ophalen en interpreteren van informatie en een ander voor het formuleren van antwoorden.

Al die modellen werken samen binnen dezelfde intended purpose.

De organisatie moet daarom op het niveau van die toepassing kunnen vastleggen welke gegevens mogen worden verwerkt, welke modellen zijn toegestaan en welke controles noodzakelijk zijn.

De gateway kan vervolgens de relevante regels centraal toepassen op het modelverkeer. Controles die inzicht in het volledige proces vereisen, blijven onderdeel van de AI-flow of agent.

Zo bepaal je de spelregels op basis van wat je met AI wilt bereiken, onafhankelijk van de modellen die daarvoor worden gebruikt.

3. Het juiste AI-model voor de juiste taak

Veel organisaties stellen zichzelf de vraag: welk AI-model moeten we kiezen?

Volgens mij is dat de verkeerde vraag. Je zou moeten vragen: welke modellen stellen we beschikbaar en welk model past het beste bij welke taak?

Dat vraagt om twee perspectieven.

Top-down bepaalt de organisatie welke modellen zijn toegestaan. Daarbij spelen onder andere informatiebeveiliging, privacy, kwaliteit, bias, transparantie en licentievoorwaarden een rol.

Bottom-up bepaal je vervolgens vanuit de intended purpose welk toegestaan model de beste resultaten levert.

Een model dat uitstekend juridische documenten analyseert, is niet automatisch de beste of voordeligste keuze voor het classificeren van e-mails.

Bovendien kan één AI-flow meerdere modellen combineren, ieder met eigen sterke eigenschappen.

Een centrale AI-gateway maakt het eenvoudiger om modellen te vergelijken, te vervangen en gericht in te zetten.

Zo ontstaat geen afhankelijkheid van één alleskunner, maar een beheerd aanbod van AI-modellen.

4. Digitale autonomie begint bij keuzevrijheid

Naast de keuze voor een AI-model speelt nog een andere vraag: waar draait dat model eigenlijk?

Bij een Amerikaanse leverancier? Binnen Europa? Bij een Nederlandse aanbieder? Of volledig op eigen infrastructuur?

Die keuze kan belangrijk zijn vanwege privacy, wetgeving, datasoevereiniteit en strategische onafhankelijkheid.

Vooral bij open-weightmodellen is het interessant dat hetzelfde model bij verschillende aanbieders kan draaien.

Een organisatie moet dus niet alleen kunnen bepalen welk model wordt gebruikt, maar ook welke aanbieder dat model mag uitvoeren.

Een AI-gateway helpt om die keuzes centraal te organiseren. Daarbij blijven ook de contractuele afspraken en daadwerkelijke verwerkingslocaties van belang.

Zo voorkom je dat iedere applicatie afzonderlijk afhankelijk wordt van een specifieke leverancier.

Digitale autonomie betekent voor mij niet dat je alles zelf moet doen, maar dat je zelf kunt blijven kiezen.

5. Van visie naar praktijk

Het mooie is dat organisaties hiervoor niet vanaf nul hoeven te beginnen.

Er bestaan inmiddels open-sourcetechnologieën, zoals LiteLLM, waarmee je een centrale AI-gateway kunt realiseren.

Binnen TrueLime gebruiken we deze technologie ook als onderdeel van ons Limescape-platform.

Daarmee kunnen we verschillende AI-modellen en aanbieders via één centrale infrastructuur beschikbaar stellen en het gebruik daarvan beheren.

Natuurlijk vraagt een volwassen inrichting meer dan alleen een gateway. Denk aan beleidsbeheer, monitoring, autorisaties en integratie met bestaande applicaties en AI-agents.

Maar juist door die voorzieningen centraal te organiseren, hoeven organisaties niet voor iedere AI-toepassing opnieuw het wiel uit te vinden.

Mijn overtuiging

AI-modellen worden beter, goedkoper en veelzijdiger. Nieuwe aanbieders verschijnen en bestaande modellen verdwijnen of worden vervangen.

Niemand weet welke modellen over twee jaar dominant zullen zijn.

Daarom zou ik organisaties willen adviseren om hun AI-strategie niet afhankelijk te maken van één model of leverancier.

Investeer liever in de infrastructuur waarmee je zelf kunt bepalen welke AI je waarvoor inzet, welke regels daarbij gelden en waar je gegevens worden verwerkt.

Want de toekomst van AI draait niet alleen om toegang tot de beste modellen. Het draait vooral om de vrijheid om zelf te blijven kiezen.

En precies daarom gun ik iedere organisatie een AI-gateway.