Aanbesteding AI

Aanbestedingen en AI: kansen, risico’s en aandachtspunten

Kunstmatige intelligentie (AI) ontwikkelt zich razendsnel en vindt steeds vaker zijn weg naar de publieke sector. Overheden, zorginstellingen en andere aanbestedende diensten zetten AI in voor uiteenlopende toepassingen, van voorspellend onderhoud tot chatbots en data-analyse. Dat biedt grote kansen, maar het vraagt ook om een zorgvuldige aanpak bij aanbestedingen.

In dit artikel bespreken we wat AI betekent voor het aanbestedingsproces en waar je op moet letten om zowel juridisch als praktisch de juiste keuzes te maken.

1. Begrijp wat je inkoopt

AI is geen standaardsoftware. Het is vaak dynamisch, lerend en afhankelijk van data. Dit betekent dat het resultaat niet altijd vooraf 100% voorspelbaar is. Bij aanbestedingen moet je daarom extra aandacht besteden aan:

  • Functionele beschrijving: formuleer niet alleen wat het systeem moet doen, maar ook de kaders waarbinnen het mag werken.
  • Trainingsdata: bepaal of de leverancier eigen data gebruikt, of dat jouw organisatie data aanlevert, en leg afspraken hierover vast.
  • Evolutie van het systeem: beschrijf hoe updates, hertraining en onderhoud plaatsvinden, en wie verantwoordelijk is.

2. Let op juridische kaders en compliance

Bij AI spelen specifieke juridische aandachtspunten:

  • AVG/GDPR: veel AI-modellen verwerken persoonsgegevens. Zorg voor dataminimalisatie, pseudonimisering en duidelijke grondslagen voor verwerking.
  • AI Act (komende Europese regelgeving): houd rekening met classificaties (bijvoorbeeld “hoog-risico”-systemen) en de bijbehorende verplichtingen.
  • Auteurs- en databankrechten: check wie de intellectuele eigendomsrechten bezit op het AI-model, de broncode en de data.

3. Transparantie en uitlegbaarheid

Een aanbestedende dienst moet kunnen uitleggen hoe beslissingen tot stand komen, zeker bij overheidsgebruik. Let daarom op:

  • Explainability: vraag om methoden waarmee beslissingen inzichtelijk worden gemaakt.
  • Documentatie: eis technische en functionele documentatie die begrijpelijk is voor zowel IT als juridische teams.
  • Auditmogelijkheden: leg vast dat er onafhankelijke audits mogen plaatsvinden op het model en de datasets.

4. Contractuele afspraken

Bij AI-aanbestedingen is het verstandig extra bepalingen op te nemen in het contract:

  • Prestatiegaranties: definieer KPI’s, nauwkeurigheidseisen of foutmarges.
  • Continuïteit: afspraken voor het geval de leverancier stopt of failliet gaat (escrow-regelingen, overdracht van broncode).
  • Ethiek en bias: verplichtingen om bias te meten, rapporteren en mitigeren.

5. Risicobeheersing

AI kan onbedoelde effecten hebben, zoals discriminatie, verkeerde voorspellingen of datalekken. Neem daarom in het aanbestedingsproces op:

  • Risicoanalyse vooraf: laat de leverancier een impactanalyse maken (bijv. Data Protection Impact Assessment).
  • Testfases: bouw pilots of proof-of-concepts in voordat grootschalige implementatie plaatsvindt.
  • Exitstrategie: bepaal hoe je overstapt op een andere leverancier zonder lock-in.

6. Marktconsultatie loont

Omdat AI zo’n nieuwe en snel veranderende markt is, is een marktconsultatie vooraf vaak verstandig. Daarmee krijg je inzicht in:

  • De actuele stand van techniek
  • Mogelijke prijsmodellen (licentie, pay-per-use, maatwerk)
  • Innovatieve oplossingen die je misschien niet zelf had bedacht