Algoritmische toepassingen. 13.1 In aanvulling op het bepaalde in artikel 12 garandeert Leverancier bij een Algoritmische toepassing dat:
Algoritmische toepassingen. Gemeenten zien steeds meer gebruik van algoritmen en de maatschappelijk vragen over dergelijk gebruik neemt ook toe. Er is ook allerlei (concept)wetgeving over het onderwerp in aantocht. Vandaar dat de GIBIT enkele (minimale) eisen stelt aan dergelijke toepassingen. Het is denkbaar – en onder omstandig- heden ook wenselijk – dat in het bovenliggende contract de eisen nader worden uitgewerkt. De eisen beperken zich vooralsnog tot de volgende basis-/kerneisen. In het eerste lid zijn eisen gesteld aan (de kwaliteit van) de Algoritmische toepassing: een rechtmatige dataverwerking, gestructureerde en neutrale dataverwerking en nauwkeurigheid. In het tweede lid is een gebruiksbeperking op de verwerkte data opgenomen: geen gebruik voor eigen doeleinden, tenzij volledig geanonimiseerd. Hiermee wordt enerzijds bedrijfs- vertrouwelijke en privacygevoelige infor- matie beschermd, doch anderzijds erkend dat een algoritme ‘input’ nodig heeft om verrijkt te worden. Aangezien een algoritme in de praktijk regelmatig een ‘black box’ is, terwijl de gemeente als actor in een democratische rechtstaat het eigen handelen juist zal moeten kunnen verantwoorden is aan lid 3 toegevoegd dat leverancier zowel in algemene zin als in een specifiek geval moet kunnen uitleggen/ver- antwoorden hoe het algoritme werkt of waarom het tot een bepaalde beslissing is gekomen. Dat hoeft niet zo ver te gaan dat leverancier het algoritme prijs hoeft te geven (het belang van bescherming van bedrijfsvertrouwelijke informatie wordt onderkend), maar wel zo ver dat in voorkomend geval de be- slissing in rechte toetsbaar wordt. Dat laatste is immers een basisbeginsel van de democratische rechtstaat. Gelet daarop is ook in lid 4 opgenomen dat de gemeente de informatie over de werking met derden (zoals de rechtbank) mag delen. Om diezelfde reden is ook in artikel 13.5 opgenomen dat het bestaande controle-/auditrecht ook van toepassing is op de Algoritmische toepassing (strikt genomen is de bepaling welhaast overbodig, want dat controlerecht zag toch al op nakoming van alle verplichtingen).