de grondrechten van personen
Module bij de Modelovereenkomst ARBIT-2022
voor de levering van een AI-systeem met een hoog risico voor de gezondheid en veiligheid of
de grondrechten van personen
Instructie
• Deze AI-module is bedoeld om te worden gebruikt in aanvulling op de modelovereenkomst ARBIT (vergelijk artikel 10.7 modelovereenkomst).
• De module is bedoeld voor de inkoop van AI-systemen die volgens de AI-verordening kwalificeren als hoog risico-AI. Het stellen van hoge eisen wordt in die gevallen gerechtvaardigd door de risico’s voor de gezondheid en veiligheid of de grondrechten van personen.
• De uitgangspunten en resultaten van een AI Impact Analyse zijn medebepalend voor de invulling van de module en de opdrachtspecifieke beoordeling van de passendheid van de artikelen, waaronder begrepen:
o de proportionaliteit van de artikelen, en;
o de mate waarin de module waarborgt dat het AI-systeem voldoet aan de daaraan gestelde wettelijke en opdrachtgeverspecifieke vereisten.
• Vanwege de ontwikkelingen op het terrein van AI en de regelgeving daaromtrent moet de passendheid van de AI-module in een concreet geval van geval tot geval worden beoordeeld.
Afdeling A — Definities
Artikel 1. Definities
In de Overeenkomst wordt een aantal begrippen met een hoofdletter geschreven. Aan deze begrippen komt de betekenis toe die hieraan is gegeven in de Voorwaarden en de Verwerkersovereenkomst. Specifieke begrippen ten behoeve van de contractering van AI- systemen zijn in de volgende artikelleden opgenomen.
1.1 AI-systeem: het AI-systeem of de AI-systemen als bedoeld in Bijlage A, met inbegrip van eventuele nieuwe versies daarvan;
1.2 AI-module: deze module voor de inkoop van een AI-systeem door Opdrachtgever;
1.3 Datareeksen: alle datareeksen die voor de ontwikkeling van het AI-systeem worden gebruikt, met inbegrip van de in Bijlage B beschreven datareeks of datareeksen;
1.4 Datareeksen van de Opdrachtgever: de Datareeksen (of delen daarvan)
i) die de Opdrachtgever in het kader van de uitvoering van de Overeenkomst aan de Wederpartij verstrekt of
ii) die als onderdeel van de Overeenkomst (moeten) worden gecreëerd of verzameld, met inbegrip van gewijzigde of uitgebreide versies van de Datareeksen als bedoeld onder i) en ii) (bijvoorbeeld door annotatie, etikettering, opschoning, verrijking of aggregatie);
1.5 Datareeksen van de Wederpartij en Datareeksen van derden: de Datareeksen (of delen daarvan) die niet kunnen worden aangemerkt als Datareeksen van Opdrachtgever.
1.6 Ingrijpende wijziging: een verandering aan een AI-systeem na de Oplevering van het AI- systeem, die gevolgen heeft voor de overeenstemming van het AI-systeem met de voorschriften van deze AI-module of die resulteert in een wijziging van het Beoogde doel;
1.7 Redelijkerwijs te voorzien misbruik: het gebruik van een AI-systeem op een wijze die niet in overeenstemming is met het beoogde gebruik, maar die kan voortvloeien uit redelijkerwijs te voorzien menselijk gedrag of de redelijkerwijs te voorziene interactie met andere systemen;
Afdeling B — Essentiële voorschriften met betrekking tot het AI- systeem
Artikel 2. Risicobeheersysteem
2.1 De Wederpartij zorgt ervoor dat een risicobeheersysteem met betrekking tot het AI- systeem wordt opgesteld en uitgevoerd voordat Oplevering van het AI-systeem plaatsvindt.
2.2 Het risicobeheersysteem omvat ten minste de volgende stappen:
a. identificatie, inschatting en evaluatie van de gekende en redelijkerwijs te voorziene risico’s voor gezondheid, veiligheid en grondrechten van de Europese Unie die zich mogelijk voordoen in het licht van het beoogde doel van het AI-systeem en Redelijkerwijs te voorzien misbruik;
b. evaluatie van andere risico’s die zich kunnen voordoen;
c. vaststelling van passende en doelgerichte risicobeheersingsmaatregelen om de
xxxxxx’x als bedoeld in de punten a) en b) van dit lid te mitigeren, overeenkomstig de AI- module van de volgende leden.
2.3 De in lid 2.2, punt c), bedoelde risicobeheersingsmaatregelen zijn zodanig dat relevante restrisico’s in verband met elk gevaar en het totale restrisico van het AI-systeem door de Wederpartij redelijkerwijs aanvaardbaar worden geacht, mits het AI-systeem wordt gebruikt in overeenstemming met het beoogde doel ervan of in een situatie van Redelijkerwijs te voorzien misbruik.
2.4 Bij het vaststellen van de meest passende risicobeheersingsmaatregelen als bedoeld in lid 2.2, punt c), wordt het volgende gewaarborgd:
a. de geïdentificeerde risico’s worden, voor zover dit technisch haalbaar is, uitgesloten of beperkt door middel van een adequaat ontwerp en adequate ontwikkeling van het AI-systeem;
b. waar passend worden adequate maatregelen voor beperking en controle genomen in
verband met risico’s die niet kunnen worden uitgesloten;
c. er wordt passende informatie aan de Opdrachtgever verstrekt.
2.5 De Wederpartij zorgt ervoor dat het AI-systeem voorafgaand aan de Oplevering wordt getest om na te gaan of het voldoet aan de AI-module en of de risicobeheersingsmaatregelen als bedoeld in lid 2.2, punt c), doeltreffend zijn in het licht van het beoogde doel en Redelijkerwijs te voorzien misbruik. Als de Opdrachtgever dit vraagt, moet de Wederpartij het AI-systeem testen in de omgeving van de Opdrachtgever.
2.6 Alle risico’s die zijn geïdentificeerd, maatregelen die zijn genomen en tests die zijn uitgevoerd in het kader van de naleving van dit artikel, moeten door de Wederpartij worden gedocumenteerd. De Wederpartij moet deze Documentatie uiterlijk bij de Oplevering van het AI-systeem ter beschikking stellen van de Opdrachtgever. Deze Documentatie mag deel uitmaken van de technische Documentatie en/of de gebruiksinstructies.
2.7 Het risicobeheersysteem bestaat uit een doorlopend en iteratief proces tijdens de gehele levensduur van de Overeenkomst. Na de Oplevering van het AI-systeem moet de Wederpartij dan ook: a. het risicobeheerproces regelmatig herzien en actualiseren om te waarborgen dat het doeltreffend blijft; b. de in artikel 2.6 beschreven Documentatie actueel houden; en c. elke nieuwe versie van de in artikel 2.6 beschreven Documentatie onverwijld ter beschikking stellen van de Opdrachtgever.
2.8 Wanneer dit redelijkerwijs vereist is voor de goede uitvoering van het risicobeheersysteem door de Wederpartij, verstrekt de Opdrachtgever de Wederpartij op verzoek informatie die Wederpartij redelijkerwijs nodig heeft voor de goede uitvoering van het risicobeheersysteem. Opdrachtgever kan het verstrekken van informatie weigeren vanwege de vertrouwelijkheid van de informatie.
2.9 Als de Opdrachtgever het AI-systeem na afloop van de looptijd van de Overeenkomst blijft gebruiken, verstrekt de Wederpartij de Opdrachtgever aan het einde van de looptijd van de Overeenkomst de informatie die hij nodig heeft om het risicobeheersysteem zelf, eventueel met hulp van een derde, in stand te houden.
Artikel 3. Data en databeheer
<Artikel 3 is alleen van toepassing op AI-systemen waarbij gebruik wordt gemaakt van technieken die training van modellen met data inhouden. Voor artikel 3 wordt verondersteld dat de Wederpartij (of zijn onderaannemers) volledige toegang heeft (hebben) tot de Datareeksen. Als de Datareeksen exclusief eigendom zijn van de Opdrachtgever, moeten andere regelingen worden getroffen.>
3.1 De Wederpartij waarborgt dat de Datareeksen die bij de ontwikkeling van het AI- systeem worden gebruikt, met inbegrip van training, validatie en tests, zijn en worden onderworpen aan databeheer dat passend is voor de gebruikscontext alsook het beoogde doel van het AI-systeem. Die maatregelen hebben met name betrekking op:
a. transparantie betreffende het oorspronkelijke doel van de dataverzameling;
b. de relevante ontwerpkeuzes;
c. de procedures voor dataverzameling;
d. datavoorbereiding voor verwerkingsactiviteiten, zoals annotatie, etikettering,
opschoning, verrijking en aggregatie;
e. het opstellen van relevante aannames, met name met betrekking tot de informatie die de data moeten meten en vertegenwoordigen;
f. een beoordeling met het oog op mogelijke vertekeningen die de gezondheid en de veiligheid van natuurlijke personen kunnen schaden of die kunnen leiden tot discriminatie die bij wet verboden is in de Europese Unie;
g. passende maatregelen voor de opsporing, preventie en mitigatie van mogelijke vertekeningen; h. het identificeren van relevante leemten of tekortkomingen die naleving van deze AI-module verhinderen, en de manier waarop deze leemten en tekortkomingen kunnen worden aangepakt.
3.2 De Wederpartij waarborgt dat de Datareeksen die bij de ontwikkeling van het AI- systeem worden gebruikt, relevant, representatief en in de mate van het mogelijke foutenvrij en zo volledig mogelijk zijn, gelet op het beoogde doel. De Wederpartij waarborgt dat Datareeksen de passende statistische kenmerken hebben, onder meer, waar van toepassing, met betrekking tot de personen of groepen personen voor wie het AI-systeem moet worden gebruikt. Deze kenmerken van de Datareeksen worden op het niveau van de afzonderlijke Datareeksen of een combinatie daarvan verwezenlijkt.
3.3 De Wederpartij waarborgt dat ten aanzien van de Datareeksen die voor de ontwikkeling van het AI-systeem worden gebruikt, voor zover vereist gezien het beoogde doel of het redelijkerwijs te voorziene misbruik hiervan, rekening wordt gehouden met de eigenschappen of elementen die specifiek zijn voor een bepaalde geografische, functionele of gedragsomgeving waarin het AI-systeem moet worden gebruikt.
3.4 De verplichtingen in het kader van dit artikel gelden niet alleen voor de ontwikkeling van het AI-systeem voorafgaand aan de Oplevering, maar ook voor elk gebruik van Datareeksen door de Wederpartij dat de werking van het AI-systeem op elk ander ogenblik tijdens de looptijd van de Overeenkomst kan beïnvloeden.
Artikel 4. Technische Documentatie en gebruiksinstructies
4.1 Wanneer de Wederpartij het AI-systeem levert, overhandigt hij ook de technische Documentatie en gebruiksinstructies.
4.2 Aan de hand van de technische Documentatie moet de Opdrachtgever of een derde kunnen beoordelen of het AI-systeem in overeenstemming is met de voorschriften in deze AI-module. De Documentatie moet ten minste voldoen aan de voorwaarden in Bijlage C.
4.3 De gebruiksinstructies bevatten beknopte, volledige, correcte en duidelijke informatie die relevant, toegankelijk en begrijpelijk is voor de Opdrachtgever. De gebruiksinstructies moeten ten minste voldoen aan de voorwaarden in Bijlage D.
4.4 De Wederpartij moet deze Documentatie ten minste bij elke ingrijpende wijziging tijdens de looptijd van de Overeenkomst actualiseren en vervolgens ter beschikking stellen van de Opdrachtgever.
4.5 De technische Documentatie en gebruiksinstructies worden in het Engels opgesteld.
4.6 De Opdrachtgever mag kopieën van de technische Documentatie en gebruiksinstructies maken voor zover dit nodig is voor intern gebruik binnen de Opdrachtgever,
onverminderd het bepaalde in de artikelen 6 en 13.
Artikel 5. Registratie
5.1 De Wederpartij ziet erop toe dat het AI-systeem is en wordt ontworpen en ontwikkeld met capaciteiten die de automatische registratie van gebeurtenissen (hierna “logs” genoemd) tijdens de werking van het AI-systeem mogelijk maken. Deze logcapaciteiten moeten in overeenstemming zijn met geavanceerde en, indien beschikbaar, erkende normen of gemeenschappelijke specificaties.
5.2 De logcapaciteiten waarborgen een mate van traceerbaarheid van de werking van het AI-systeem tijdens de levensduur ervan, die passend is voor het beoogde doel van het systeem en het redelijkerwijs te voorziene misbruik. Zij moeten met name de registratie mogelijk maken van gebeurtenissen die relevant zijn voor de identificatie van situaties die: a. ertoe kunnen leiden dat het AI-systeem een risico vormt voor de gezondheid of veiligheid of voor de bescherming van grondrechten van personen; of b. kunnen leiden tot een Ingrijpende wijziging.
5.3 De Wederpartij geeft de Opdrachtgever ook toegang tot de logs die het AI-systeem automatisch in realtime genereert.
5.4 De Wederpartij houdt de logs die het AI-systeem automatisch genereert bij, voor zover die logs onder zijn controle vallen op basis van de Overeenkomst, gedurende de looptijd van de Overeenkomst. Aan het einde van de looptijd van de Overeenkomst overhandigt de Wederpartij deze logs onverwijld aan de Opdrachtgever.
Artikel 6. Transparantie van het AI-systeem
6.1 De Wederpartij waarborgt dat het AI-systeem zodanig is en wordt ontworpen en ontwikkeld dat de werking van het AI-systeem voldoende transparant is om de Opdrachtgever in staat te stellen de werking van het systeem op redelijke wijze te begrijpen.
6.2 Om passende transparantie te waarborgen, voert de Wederpartij voorafgaand aan de Oplevering van het AI-systeem ten minste de technische en organisatorische maatregelen uit die beschreven staan in Bijlage E. Deze maatregelen moeten ertoe leiden dat de Opdrachtgever het AI-systeem op passende wijze kan begrijpen en gebruiken door te begrijpen hoe het AI-systeem werkt en welke data het verwerkt, waardoor de Opdrachtgever de beslissingen die het AI-systeem neemt, kan uitleggen aan de personen of groepen personen voor wie het AI-systeem wordt (of moet worden) gebruikt.
Artikel 7. Menselijk toezicht
7.1 De Wederpartij waarborgt dat het AI-systeem zodanig is en wordt ontworpen en ontwikkeld, met inbegrip van passende mens-machine-interface-instrumenten, dat hierop op doeltreffende wijze toezicht kan worden uitgeoefend door natuurlijke personen op een wijze die passend is, gelet op het beoogde doel van het AI-systeem en Redelijkerwijs te voorzien misbruik.
7.2 De Wederpartij waarborgt dat voorafgaand aan de Oplevering passende maatregelen in
het AI-systeem worden verwerkt en genomen om menselijk toezicht mogelijk te maken. Deze maatregelen, die onder meer training van werknemers van de Opdrachtgever kunnen inhouden, stellen de personen die verantwoordelijk zijn voor het menselijk toezicht in staat om het volgende te doen, zoals passend gezien de omstandigheden:
a. zich bewust zijn van en voldoende inzicht hebben in de relevante capaciteiten en beperkingen van het AI-systeem en de werking ervan naar behoren kunnen monitoren, zodat tekenen van onregelmatigheden, storingen en onverwachte prestaties zo snel mogelijk kunnen worden gedetecteerd en aangepakt;
b. zich bewust blijven van de mogelijke neiging om automatisch of te veel te vertrouwen op de output van een AI-systeem (de zogenaamde “automation bias”), met name wanneer het AI-systeem wordt gebruikt om informatie of aanbevelingen te verstrekken voor beslissingen die door natuurlijke personen moeten worden genomen;
c. de output van het AI-systeem juist interpreteren, in het bijzonder rekening houdend met de kenmerken van het systeem en de beschikbare instrumenten en methoden voor interpretatie;
d. in alle specifieke situaties kunnen besluiten om het AI-systeem niet te gebruiken of de output van het AI-systeem op andere wijze te negeren, terzijde te schuiven of terug te draaien;
e. ingrijpen in de werking van het AI-systeem of het systeem onderbreken door middel van een stopknop of een vergelijkbare procedure.
7.3 Om passend menselijk toezicht te waarborgen, voert de Wederpartij vóór de Oplevering van het systeem ten minste de technische en organisatorische maatregelen uit die beschreven staan in Bijlage F.
Artikel 8. Nauwkeurigheid, robuustheid en cyberbeveiliging
8.1 De Wederpartij waarborgt dat het AI-systeem is en wordt ontworpen volgens het beginsel van beveiliging door ontwerp en door standaardinstellingen. Het AI-systeem moet, met het oog op het beoogde doel, een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging bieden, alsook consistente prestaties gedurende de levensduur ervan met betrekking tot deze aspecten.
8.2 De niveaus van nauwkeurigheid en de relevante maatstaven voor de nauwkeurigheid van het AI-systeem worden vermeld in Bijlage G.
8.3 Om een passend niveau van robuustheid, veiligheid en cyberbeveiliging te waarborgen, voert de Wederpartij voorafgaand aan de Oplevering van het systeem ten minste de technische en organisatorische maatregelen uit die beschreven staan in Bijlage H.
Afdeling C — Verplichtingen van de Wederpartij met betrekking tot het AI-systeem
Artikel 9. Overeenstemming met afdeling B
De Wederpartij waarborgt dat het AI-systeem vanaf de Oplevering tot het einde van de looptijd van de Overeenkomst voldoet aan de voorschriften van afdeling B van deze AI- module.
Artikel 10. Kwaliteitsbeheersysteem
10.1 Alvorens het AI-systeem te leveren, voorziet de Wederpartij in een kwaliteitsbeheersysteem dat de naleving van deze AI-module waarborgt. Dit systeem wordt op systematische en ordelijke wijze gedocumenteerd in de vorm van schriftelijke beleidslijnen, procedures en instructies en omvat ten minste de volgende aspecten:
a. een strategie voor de naleving van de wet- en regelgeving;
b. technieken, procedures en systematische maatregelen die moeten worden toegepast voor het ontwerp, de controle van het ontwerp en de verificatie van het ontwerp van het AI-systeem;
c. technieken, procedures en systematische maatregelen die moeten worden toegepast voor de ontwikkeling, de kwaliteitscontrole en de kwaliteitsborging van het AI-systeem;
d. procedures voor het inspecteren, testen en valideren die vóór, tijdens en na de ontwikkeling van het AI-systeem moeten worden uitgevoerd en de regelmaat waarmee zij moeten worden uitgevoerd;
e. technische specificaties, met inbegrip van normen, die moeten worden toegepast en, wanneer de relevante geharmoniseerde normen niet volledig worden toegepast of geen betrekking hebben op alle relevante voorschriften, de middelen die worden gebruikt om ervoor te zorgen dat het AI-systeem in overeenstemming is met de voorschriften van afdeling B van deze AI-module;
f. systemen en procedures voor databeheer, met inbegrip van dataverzameling, - analyse, -etikettering, -opslag, -zuivering, -aggregatie en -behoud en datamining en eventuele andere operaties met betrekking tot de data die worden uitgevoerd voorafgaand aan de Oplevering van het AI-systeem;
g. het risicobeheersysteem zoals bedoeld in artikel 2;
h. procedures in verband met het melden van ernstige incidenten en van gebrekkig functioneren;
i. systemen en procedures voor de registratie van alle relevante Documentatie en informatie;
j. het beheer van hulpmiddelen, met inbegrip van maatregelen in verband met de voorzieningszekerheid;
k. een kader voor de verantwoording, waarin de verantwoordelijkheden van het management en ander Personeel uiteen worden gezet met betrekking tot alle aspecten van dit lid.
Artikel 11. Conformiteitsbeoordeling
11.1 De Wederpartij waarborgt dat het AI-systeem voorafgaand aan de Oplevering de volgende conformiteitsbeoordelingsprocedure ondergaat:
a. de Wederpartij verifieert dat het ingevoerde kwaliteitsbeheersysteem voldoet aan de in artikel 10 vastgestelde eisen;
b. de Wederpartij beoordeelt de in de technische Documentatie opgenomen informatie om te beoordelen of het AI-systeem voldoet aan de relevante essentiële eisen die zijn vastgesteld in afdeling B van deze AI-module;
c. de Wederpartij verifieert eveneens of het ontwerp- en ontwikkelingsproces van het AI-systeem overeenkomt met de technische Documentatie;
11.2 De Wederpartij waarborgt dat het AI-systeem een nieuwe conformiteitsbeoordelingsprocedure ondergaat telkens wanneer het AI-systeem tijdens de looptijd van de Overeenkomst wezenlijk wordt gewijzigd.
Artikel 12. Corrigerende maatregelen
Als de Wederpartij tijdens de looptijd van de Overeenkomst van mening is of redenen heeft om van mening te zijn dat het AI-systeem niet in overeenstemming met deze AI-module is, al dan niet als reactie op een opmerking van de Opdrachtgever, treft hij onmiddellijk de nodige corrigerende maatregelen om het systeem in overeenstemming te brengen. De Wederpartij brengt de Opdrachtgever hiervan op de hoogte.
Artikel 13. Verplichting om de werking van het AI-systeem op individueel niveau uit te leggen
13.1 Naast de in artikel 6 beschreven verplichtingen is de Wederpartij tijdens de looptijd van de Overeenkomst verplicht om Opdrachtgever op eerste verzoek uit te leggen hoe het AI-systeem tot een bepaald besluit of resultaat is gekomen aan de personen of groep personen waarvoor het AI-systeem wordt (of moet worden) gebruikt. Deze bijstand omvat ten minste een duidelijke indicatie van de belangrijkste factoren die ertoe hebben geleid dat het AI-systeem tot een bepaald resultaat kwam en de wijzigingen die moeten worden aangebracht aan de input, opdat het systeem tot een ander resultaat komt.
13.2 De in artikel 13.1 beschreven verplichting omvat de verstrekking aan de Opdrachtgever van alle technische en andere informatie die is vereist om uit te leggen hoe het AI- systeem tot een bepaalde beslissing of een bepaald resultaat is gekomen en om de personen of groep personen waarvoor het AI-systeem wordt (of moet worden) gebruikt, de mogelijkheid te bieden na te gaan hoe het AI-systeem tot een bepaalde beslissing of een bepaald resultaat is gekomen. De Wederpartij verleent de Opdrachtgever hiertoe het recht om deze informatie te gebruiken, te delen en openbaar te maken, indien en voor zover dit nodig is om de personen of groepen personen voor wie het AI-systeem wordt (of moet worden) gebruikt, te informeren over de werking van het AI-systeem en/of in het kader van eventuele gerechtelijke procedures.
13.3 De verplichtingen als bedoeld in artikel 13.1 en artikel 13.2 omvatten de Broncode van het AI-systeem, de technische specificaties die bij de ontwikkeling van het AI-systeem zijn gebruikt, de Datareeksen, technische informatie over de wijze waarop de Datareeksen die voor de ontwikkeling van het AI-systeem zijn gebruikt, werden verkregen en bewerkt, informatie over de gebruikte ontwikkelingsmethode en het uitgevoerde ontwikkelingsproces, staving van de keuze voor een bepaald model en de parameters daarvan, en informatie over de prestatie van het AI-systeem.
Afdeling D — Rechten om de Datareeksen te gebruiken
Artikel 14. Rechten op Datareeksen van Opdrachtgevers
14.1 Alle rechten, met inbegrip van eventuele intellectuele-eigendomsrechten, met
betrekking tot Datareeksen van Opdrachtgevers komen toe aan de Opdrachtgever of een derde die als dusdanig door de Opdrachtgever is aangewezen.
14.2 De Wederpartij mag Datareeksen van Opdrachtgevers niet gebruiken voor andere doelen dan de uitvoering van de Overeenkomst, tenzij anders bepaald in Bijlage B.
14.3 Op eerste verzoek van de Opdrachtgever moet de Wederpartij Datareeksen van de Opdrachtgever vernietigen, tenzij anders bepaald in Bijlage B. Als de Opdrachtgever dit vraagt, moet de Wederpartij passend bewijsmateriaal van de vernietiging van Datareeksen van de Opdrachtgever verstrekken.
Artikel 15. Rechten op Datareeksen van de Wederpartij en Datareeksen van derden
15.1 Alle rechten, met inbegrip van eventuele intellectuele-eigendomsrechten, met betrekking tot Datareeksen van de Wederpartij en Datareeksen van derden komen toe aan de Wederpartij of aan een derde.
15.2 De Wederpartij verleent de Opdrachtgever een niet-exclusief recht om Datareeksen van de Wederpartij en Datareeksen van derden te gebruiken dat in elk geval toereikend is voor de uitvoering van de AI-module van de Overeenkomst, tenzij anders vermeld in Bijlage B.
15.3 Het recht op gebruik als beschreven in artikel 15.2 omvat het recht om Datareeksen van de Wederpartij en Datareeksen van derden te gebruiken voor de verdere ontwikkeling van het AI-systeem, met inbegrip van eventuele nieuwe versies daarvan, door de Opdrachtgever of een derde.
Artikel 16. Overhandiging van de Datareeksen
16.1 Op eerste verzoek van de Opdrachtgever overhandigt de Wederpartij de meest recente versie van de Datareeksen van de Opdrachtgever aan de Opdrachtgever.
16.2 Op eerste verzoek van de Opdrachtgever overhandigt de Wederpartij de meest recente versie van de Datareeksen van de Wederpartij en de Datareeksen van derden aan de Opdrachtgever, tenzij anders vermeld in Bijlage B.
16.3 De Wederpartij overhandigt de Datareeksen aan de Opdrachtgever in een gangbare, door Opdrachtgever aan te wijzen bestandsformaat. De Datareeksen worden als volgt overhandigd: [bestandsopmaak].
Afdeling E — AI-register en audit
Artikel 17. AI-register
17.1 Op het eerste verzoek van de Opdrachtgever verstrekt de Wederpartij de Opdrachtgever de meest recente versie van de informatie die beschreven staat in de Bijlagen C en D.
17.2 De Opdrachtgever mag de in artikel 18.1 vermelde informatie delen met derden en bekendmaken, bijvoorbeeld in een register voor AI-systemen.
17.3 Als de Opdrachtgever dit vraagt, verstrekt de Wederpartij bijstand bij de registratie van de AI-systemen in relevante registers.
Artikel 18. Naleving en audit
18.1 Op het eerste verzoek van de Opdrachtgever stelt de Wederpartij alle informatie die nodig is om overeenstemming met deze AI-module aan te tonen, ter beschikking van de Opdrachtgever.
18.2 De Wederpartij is verplicht samen te werken aan audits of andere inspecties die door of in naam van de Opdrachtgever worden uitgevoerd om te beoordelen of de Wederpartij de in deze AI-module vermelde verplichtingen te allen tijde nakomt. Een dergelijke samenwerking omvat het verstrekken van alle informatie waar de Opdrachtgever verzoekt, het verstrekken van inzicht in het uitgevoerde risicobeheersysteem, het ter beschikking stellen van Personeel van de Wederpartij voor interviews en het verstrekken van toegang tot de locaties van de Wederpartij.
18.3 De Opdrachtgever stelt een verslag op of laat dit opstellen, waarin de conclusies van de audit worden opgenomen. In het verslag vermeldt de Opdrachtgever in welke mate de Wederpartij voldoet aan zijn verplichtingen in het kader van de Overeenkomst. Als de Opdrachtgever vaststelt dat de Wederpartij niet aan de verplichtingen in het kader van dit artikel voldoet, moet de Wederpartij de door de Opdrachtgever vastgestelde tekortkomingen herstellen binnen de redelijke termijn die de Opdrachtgever in het verslag vermeldt. Als de Wederpartij de door de Opdrachtgever vastgestelde tekortkomingen niet herstelt binnen de in het verslag vastgestelde termijn voor het herstellen van dergelijke tekortkomingen, blijft de Wederpartij volgens de wet in gebreke.
18.4 De Opdrachtgever mag de conclusies van het in artikel 19.3 bedoelde verslag bekendmaken.
18.5 De Opdrachtgever mag elk kalenderjaar of bij een ingrijpende wijziging een audit uitvoeren of laten uitvoeren.
18.6 De Opdrachtgever kan beslissen de audit of een deel ervan door een onafhankelijke auditor te laten uitvoeren.
18.7 De kosten van de auditor die de Opdrachtgever eventueel aanstelt, worden door de Opdrachtgever gedragen. De Opdrachtgever betaalt de Wederpartij een redelijke vergoeding voor de kosten die de Wederpartij in het kader van de audit maakt. In geen enkel geval geeft een geschil over het bedrag van die vergoeding de Wederpartij het recht zijn verplichtingen in het kader van deze AI-module op te schorten. De Opdrachtgever is geen vergoeding verschuldigd als uit de audit blijkt dat de Wederpartij zijn verplichtingen in het kader van deze AI-module niet is nagekomen.
Afdeling F — Kosten
Artikel 19. Kosten
Tenzij anders overeengekomen tussen de partijen of uitdrukkelijk vermeld in deze AI-module, is de Opdrachtgever geen bijkomende vergoeding aan Wederpartij verschuldigd voor de werkzaamheden die voortvloeien uit deze AI-module.
Bijlage A — Het AI-systeem en het beoogde doel
Beschrijving van het AI-systeem De volgende systemen of onderdelen van systemen vallen binnen het toepassingsgebied van deze AI-module: Geef een beschrijving van het (de) AI- systeem (-systemen). Dit mag ook een algoritme zijn dat niet in aanmerking komt als AI- systeem in het kader van de AI-verordening.
Beoogd doel: Geef een beschrijving van het gebruik waarvoor het AI-systeem is bedoeld.
Bijlage B — De Datareeksen
Geef een beschrijving van de Datareeksen die zijn gebruikt voor training (indien van toepassing), validatie en tests van het AI-systeem. Maak een onderscheid tussen Datareeksen van de Opdrachtgever enerzijds en Datareeksen van de Wederpartij en Datareeksen van derden anderzijds. Beschrijf in geval van Datareeksen van de Opdrachtgever de doelen waarvoor de Wederpartij de Datareeksen mag gebruiken (andere dan de uitvoering van de Overeenkomst) en of de Wederpartij de datareeks aan het einde van de looptijd van de Overeenkomst moet vernietigen. Beschrijf in geval van Datareeksen van de Wederpartij en Datareeksen van derden de doelen waarvoor de Opdrachtgever de Datareeksen mag gebruiken en of de Wederpartij de Datareeksen moet overhandigen.
Datareeksen van de Opdrachtgever De volgende Datareeksen worden door de Opdrachtgever aan de Wederpartij verstrekt in het kader van de Overeenkomst of worden aangemaakt of verzameld als onderdeel van de Overeenkomst: Beschrijving van de datareeks Gebruiksrechten van de Wederpartij Verplichting om de datareeks aan het einde van de looptijd van de Overeenkomst te vernietigen Ja/Nee Ja/Nee Ja/Nee Ja/Nee Datareeksen van de Wederpartij en Datareeksen van derden De volgende Datareeksen van de Wederpartij en Datareeksen van derden zijn of werden gebruikt voor training (indien van toepassing), validatie en tests van het AI-systeem: Beschrijving van de datareeks Gebruiksrechten van de Opdrachtgever Verplichting tot overhandiging1 Ja/Nee Ja/Nee Ja/Nee Ja/Nee 1 Een beperking van de verplichting om Datareeksen van de Wederpartij en Datareeksen van derden te overhandigen, doet geen afbreuk aan de verplichtingen van de Wederpartij zoals beschreven in de artikelen 6 en 13.
Bijlage C — Technische Documentatie
De technische Documentatie bevat ten minste de volgende informatie, zoals van toepassing op het betreffende AI-systeem:
1. een algemene beschrijving van het AI-systeem, met:
1.1. het beoogde gebruik, de naam van de Wederpartij, de datum en de versie van het systeem;
1.2. de aard van de data die waarschijnlijk door het systeem zullen worden verwerkt of die door het systeem moeten worden verwerkt en, in het geval van persoonsgegevens, de categorieën natuurlijke personen en groepen voor wie zij waarschijnlijk zullen worden verwerkt of voor wie zij moeten worden verwerkt;
1.3. hoe het AI-systeem kan interageren of kan worden gebruikt om te interageren met hardware of software die geen deel uitmaakt van het AI-systeem zelf, indien van toepassing;
1.4. de versies van de betreffende software of firmware en eventuele eisen met betrekking tot versie-updates;
1.5. de beschrijving van alle vormen waarin het AI-systeem in de handel wordt gebracht of in bedrijf wordt gesteld;
1.6. de beschrijving van de hardware waarop het AI-systeem moet worden uitgevoerd;
1.7. wanneer het AI-systeem een component vormt van producten, foto’s of illustraties waarop de externe kenmerken, markeringen en interne indeling van deze producten te zien is;
1.8. een gedetailleerde en gemakkelijk leesbare beschrijving van het belangrijkste doel/de belangrijkste doelen voor optimalisering van het systeem;
1.9. een gedetailleerde en gemakkelijk leesbare beschrijving van de verwachte output van het systeem en de verwachte outputkwaliteit;
1.10. gedetailleerde en gemakkelijk leesbare instructies voor de interpretatie van de output van het systeem;
1.11. voorbeelden van scenario’s waarvoor het systeem niet mag worden gebruikt;
2. een gedetailleerde beschrijving van de elementen van het AI-systeem en van het proces voor de ontwikkeling ervan, waaronder:
2.1. de methoden en uitgevoerde stappen voor de ontwikkeling van het AI-systeem, met inbegrip van, indien relevant, het gebruik van door derden geleverde vooraf getrainde systemen of hulpmiddelen en hoe deze zijn gebruikt, geïntegreerd of aangepast door de Wederpartij, met inbegrip van een beschrijving van eventuele licentie- of andere contractuele regelingen met betrekking tot die input van derden;
2.2. de ontwerpspecificaties van het systeem, met name de algemene logica van het AI-systeem en van de algoritmen; de belangrijkste ontwerpkeuzen, waaronder de motivering en de gedane aannamen, ook met betrekking tot personen of groepen personen waarvoor het systeem bedoeld is om te worden gebruikt; de belangrijkste classificatiekeuzen; voor welke optimalisatie het systeem is ontworpen en de relevantie van de verschillende parameters; de beslissingen PROCUREMENT OF AI
COMMUNITY DRAFT EU CLAUSES: AI (HIGH RISK) DUTCH 16 ten aanzien van
eventuele afwegingen met betrekking tot technische oplossingen die zijn vastgesteld om te voldoen aan de in deze AI-module vastgestelde voorschriften;
2.3. de beschrijving van de systeemarchitectuur met een toelichting op hoe softwarecomponenten op elkaar voortbouwen of elkaar informatie aanleveren en hoe de integratie in de algemene verwerking plaatsvindt; de rekenhulpmiddelen die zijn gebruikt voor het ontwikkelen, trainen, testen en valideren van het AI-systeem;
2.4. indien relevant, de datavereisten met betrekking tot informatiebladen waarop de trainingsmethoden en -technieken zijn beschreven en de gebruikte Datareeksen voor de training, waaronder informatie over de herkomst van deze Datareeksen, de reikwijdte ervan en de belangrijkste kenmerken; hoe de data zijn verkregen en geselecteerd; etiketteringsprocedures (bv. voor gecontroleerd leren), methoden voor dataopschoning (bv. opsporing van uitschieters);
2.5. indien van toepassing, een gedetailleerde beschrijving van vooraf bepaalde wijzigingen in het AI-systeem en de prestaties ervan, samen met alle relevante informatie die verband houdt met de technische oplossingen die zijn ingevoerd om de voortdurende naleving door het AI-systeem van de in deze AI-module vastgestelde voorschriften te waarborgen;
2.6. de gebruikte validatie- en testprocedures, waaronder informatie over de gebruikte validatie- en testdata en de belangrijkste kenmerken ervan; de statistieken die worden gebruikt voor het meten van de nauwkeurigheid, robuustheid, cyberbeveiliging en naleving van andere relevante voorschriften zoals vastgesteld in deze AI-module, evenals mogelijk discriminerende gevolgen; logbestanden over en alle verslagen van tests die zijn gedateerd en ondertekend door de verantwoordelijken, waaronder met betrekking tot vooraf vastgestelde wijzigingen als bedoeld in punt 2.5;
2.7. ingevoerde cyberbeveiligingsmaatregelen. Gedetailleerde informatie over de monitoring, werking en controle van het AI-systeem, met name in verband met: de mogelijkheden en beperkingen op het gebied van de prestaties van het systeem, waaronder de verschillende maten van nauwkeurigheid voor specifieke personen of groepen personen waarvoor het systeem bedoeld is om te worden gebruikt en het totale verwachte nauwkeurigheidsniveau in verhouding tot het beoogde doel; de voorzienbare onbedoelde resultaten en risicobronnen voor de gezondheid en veiligheid, de grondrechten en discriminatie gelet op het beoogde doel van het AIsysteem;
3. een gedetailleerde beschrijving van het risicobeheersysteem overeenkomstig artikel 2; 4. een beschrijving van relevante wijzigingen die de Wederpartij tijdens de levensduur van het systeem aanbrengt.
Bijlage D — Gebruiksinstructies
De gebruiksinstructies bevatten ten minste de volgende informatie, zoals van toepassing op het AI-systeem:
1. de identiteit en de contactgegevens van de Wederpartij en, in voorkomend geval, van zijn gemachtigden;
2. de kenmerken, capaciteiten en beperkingen van de prestaties van het AI-systeem, waaronder voorkomend geval:
2.1. het beoogde doel;
2.2. het niveau van nauwkeurigheid, robuustheid en cyberbeveiliging als bedoeld in artikel 8 waarop het AI-systeem is getest en gevalideerd en die kan worden verwacht, en eventuele duidelijk bekende en te voorziene omstandigheden die een effect kunnen hebben op dat verwachte niveau van nauwkeurigheid, robuustheid en cyberbeveiliging;
2.3. eventuele bekende of te voorziene omstandigheden in verband met het gebruik van het AI-systeem in overeenstemming met het beoogde doel ervan of in een situatie van Redelijkerwijs te voorzien misbruik, die kunnen leiden tot risico’s voor de gezondheid en veiligheid of de grondrechten;
2.4. de mate waarin het AI-systeem een verklaring kan geven voor beslissingen die het neemt;
2.5. de prestaties ervan met betrekking tot de personen of groepen personen voor wie het AI-systeem moet worden gebruikt;
2.6. relevante informatie over de handelingen van gebruikers die een invloed kunnen hebben op de prestaties van het systeem, waaronder soort of kwaliteit van de inputdata of eventuele andere relevante informatie met betrekking tot de gebruikte Datareeksen voor training, validatie en tests, rekening houdend met het beoogde doel van het AI-systeem;
3. de eventuele wijzigingen van het AI-systeem en de prestaties ervan die vooraf door de Wederpartij zijn bepaald;
4. de maatregelen voor menselijk toezicht als bedoeld in artikel 7, met inbegrip van de technische maatregelen die zijn getroffen om de interpretatie van de output van het AI- systeem door de Opdrachtgever te vergemakkelijken;
5. de verwachte levensduur van het AI-systeem en eventuele noodzakelijke maatregelen voor Onderhoud en verzorging om de goede werking van dat AI-systeem te waarborgen, ook in verband met software-updates;
6. een beschrijving van de in het AI-systeem opgenomen mechanismen die gebruikers in staat stellen de logs op passende wijze te verzamelen, op te slaan en te interpreteren.
Bijlage E — Maatregelen om transparantie te waarborgen
Geef hier een beschrijving van de technische en organisatorische maatregelen die de Wederpartij moet nemen om transparantie te waarborgen overeenkomstig artikel 6 van de AI-module.
Bijlage F — Maatregelen om menselijk toezicht te waarborgen
Geef hier een beschrijving van de technische en organisatorische maatregelen die de Wederpartij moet nemen om menselijk toezicht te waarborgen overeenkomstig artikel 7 van de AI-module.
Bijlage G — Niveaus van nauwkeurigheid
Beschrijf hier de vereiste niveaus van nauwkeurigheid.
Bijlage H — Maatregelen om een passend niveau van robuustheid, veiligheid en cyberbeveiliging te waarborgen
Geef hier een beschrijving van de technische en organisatorische maatregelen die de Wederpartij moet nemen om een passend niveau van robuustheid, veiligheid en cyberbeveiliging te waarborgen overeenkomstig artikel 8 van de AI-module. Deze maatregelen moeten waarborgen dat het AI-systeem zo goed mogelijk bestand is tegen fouten en onregelmatigheden die zich binnen het systeem of de omgeving waarin het systeem wordt gebruikt, kunnen voordoen, met name als gevolg van de interactie ervan met natuurlijke personen of andere systemen. AI-systemen zijn bestand tegen pogingen van ongeautoriseerde derden om het gebruik, de output of de prestaties ervan te wijzigen door gebruik te maken van de kwetsbaarheden van het systeem. De technische oplossingen voor het aanpakken van AI-specifieke kwetsbaarheden omvatten, waar passend, maatregelen voor het voorkomen en detecteren van, het reageren op en het beheersen van aanvallen waarmee een poging wordt gedaan tot het manipuleren van de datareeks voor de training (de zogenaamde “datavervuiling”), of van vooraf getrainde componenten die bij training
worden gebruikt (de zogenaamde “modelvervuiling”), van input die is gecreëerd om fouten
van het model te veroorzaken (zogenaamde “vijandige voorbeelden”) of van tekortkomingen
van het model, die kunnen leiden tot schadelijke besluitvorming