Procurement of AI
Community
Förslag till standardavtalsklausuler för Offentliga Organisationers upphandling av artificiell intelligens, version september 2023 – enkel version
DRAFT– Νοn High Risk version
Inledande kommentar
Dessa standardavtalsklausuler har utarbetats för offentliga organisationer som vill upphandla ett AI-system som utvecklats av en extern leverantör. Dessa standardklausuler är baserade på de standardklausuler för upphandling av algoritmiska system som utvecklades av Amsterdams stad 2018 (xxxxx://xxx.xxxxxxxxx.xx/xxxxxxxxx/xxxxxxxxxxxxxx-xxxxxxxxxxx/xxxxxxxxxx- ai/contractual-terms-for-algorithms/).
De standardavtalsklausuler som presenteras baseras i stor utsträckning på de krav och skyldigheter för AI-system med hög risk som ingår i avdelning III i förslaget till förordning om artificiell intelligens* (rättsakten om artificiell intelligens). Detta förslag är föremål för pågående förhandlingar, så klausulerna kommer att behöva ses över för att ta hänsyn till
Inledande kommentar
Dessa standardavtalsklausuler har utarbetats för offentliga organisationer som vill upphandla ett AI- system som utvecklats av en extern leverantör. Dessa standardklausuler är baserade på de standardklausuler för upphandling av algoritmiska system som utvecklades av Amsterdams stad 2018 (xxxxx://xxx.xxxxxxxxx.xx/xxxxxxxxx/xxxxxxxxxxxxxx-xxxxxxxxxxx/xxxxxxxxxx-xx/xxxxxxxxxxx- terms-for-algorithms/).
De standardavtalsklausuler som presenteras baseras i stor utsträckning på de krav och skyldigheter för AI-system med hög risk som ingår i avdelning III i förslaget till förordning om artificiell intelligens* (rättsakten om artificiell intelligens). Detta förslag är föremål för pågående förhandlingar, så klausulerna kommer att behöva ses över för att ta hänsyn till eventuella ändringar och helt anpassa dem till den slutliga förordning som antas av rådet och Europaparlamentet.
Med tanke på att den föreslagna rättsakten om artificiell intelligens fortfarande är under förhandling kan offentliga organisationer som beslutar att använda standardavtalsklausulerna göra detta på frivillig basis och från fall till fall bedöma om de olika delarna av dessa standardavtalsklausuler är tillräckliga och proportionella för att upphandla ett visst AI-system. Den fullständiga versionen av standardavtalsklausulerna riktar sig särskilt till AI-system som klassificeras som ”hög risk” i den mening som avses i artikel 6 och som förtecknas i något av de områden som omfattas av xxxxxxxxx XX och III till den föreslagna rättsakten om artificiell intelligens.
För AI som inte utgör hög risk är tillämpningen av dessa krav inte obligatorisk enligt rättsakten om artificiell intelligens, men rekommenderas för att förbättra tillförlitligheten hos AI-tillämpningar som upphandlas av offentliga organisationer. Denna förenklade version av standardavtalsklausulerna är inriktad på framför allt AI-system som inte utgör hög risk.
Där så är lämpligt och motiverat, beroende på systemets inverkan på enskilda och samhället, får offentliga organisationer också utvidga tillämpningen av dessa klausuler, antingen den fullständiga versionen eller denna förenklade version, till andra algoritmiska system som kanske inte
nödvändigtvis betecknas som ”AI” för att täcka även enklare regelbaserade system för programvara, med tanke på att deras användning inom den offentliga sektorn i vissa fall också kan kräva ökad ansvarsskyldighet, kontroll och transparens.
Standardavtalsklausulerna innehåller endast bestämmelser som är specifika för AI-system och för frågor som omfattas av den föreslagna rättsakten om artificiell intelligens, vilket utesluter andra skyldigheter eller krav som kan uppstå enligt relevant tillämplig lagstiftning, t.ex. den allmänna dataskyddsförordningen. Dessutom utgör dessa standardavtalsklausuler inte en fullständig avtalsuppgörelse. Dessa standardavtalsklausuler innehåller t.ex. inte några villkor för immateriella rättigheter, godtagande, betalning, leveranstider, tillämplig lag eller ansvar.
Standardavtalsklausulerna är utformade på ett sådant sätt att de kan bifogas som bilaga till ett avtal där sådana frågor redan har reglerats.
Förslag till Europaparlamentets och rådets förordning om harmoniserade regler för artificiell intelligens och om ändring av vissa unionslagstiftningsakter COM(2021) 206 final.
Avsnitt A – Definitioner
Article 1 Definitioner
1.1. De termer som har versal begynnelsebokstav och som används i dessa Klausuler har den betydelse som anges i denna artikel.
• Avtal: Hela det Avtal som Klausulerna, som ett schema, utgör en integrerad del av.
• AI-system: AI-system enligt bilaga A, inbegripet eventuella nya versioner av denna.
• Klausuler: dessa standardavtalsklausuler för Offentliga Organisationers upphandling av artificiell intelligens.
• Dataset från Offentliga Organisationer: (delar av) Dataset (i) som tillhandahålls av den Offentliga Organisationen till Leverantören enligt Avtalet eller (ii) som ska skapas eller samlas in som en del av Avtalet, inklusive alla ändrade eller utvidgade versioner av de Dataset som avses i (i) och (ii) (till exempel på grund av annotation, märkning, uppstädning, förädling eller aggregering).
• Dataset: alla Dataset som används vid utvecklingen av AI-systemet, inklusive det eller de Dataset som beskrivs i bilaga B.
• Leverans: den tidpunkt då Leverantören informerar den Offentliga Organisationen om att AI-systemet uppfyller alla överenskomna villkor och är färdigt att användas.
• Avsett Ändamål: den användning för vilken ett AI-system är avsett av den Offentliga Organisationen, inbegripet det specifika sammanhanget och de specifika användningsvillkoren, enligt specifikationerna i bilaga B, som tillhandahålls av Leverantören i bruksanvisningen, reklam- eller försäljningsmaterial och uttalanden samt i den tekniska dokumentationen.
• Rimligen Förutsebar Felaktig Användning: användning av AI-systemet på ett sätt som inte överensstämmer med dess Avsedda Ändamål, men som kan vara resultatet av rimligen förutsebart mänskligt beteende eller interaktion med andra system.
• Väsentlig Ändring: en förändring av AI-systemet efter Leveransen som påverkar AI- systemets överensstämmelse med de krav som anges i dessa Klausuler eller leder till en ändring av det Avsedda Ändamålet.
• Leverantör: den fysiska eller juridiska person, offentliga myndighet, byrå eller annat organ som tillhandahåller AI-systemet till den Offentliga Organisationen enligt Avtalet.
• Dataset från leverantörer och Dataset från tredjeparter: Dataset (eller delar av Dataset) som inte uppfyller kraven för att betecknas som Offentliga Organisationers Dataset.
Avsnitt B – Grundläggande krav avseende AI-systemet
Article 2 Riskhanteringssystem
2.1. Leverantören säkerställer att det, innan AI-systemet levereras, ska upprättas och genomföras ett riskhanteringssystem i förhållande till AI-systemet.
2.2. Riskhanteringssystemet ska omfatta minst följande steg:
a. Identifiering, uppskattning och utvärdering av de kända och rimligen förutsebara risker för hälsa, säkerhet och grundläggande rättigheter i Europeiska unionen som
sannolikt kommer att uppstå mot bakgrund av det Avsedda Ändamålet med AI- systemet och Rimligen Förutsebar Felaktig Användning.
b. Utvärdering av andra risker som kan uppstå.
c. Antagande av lämpliga och riktade riskhanteringsåtgärder för att hantera de risker som identifierats enligt leden a och b i denna punkt i enlighet med bestämmelserna i följande punkter.
2.3. De riskhanteringsåtgärder som avses i punkt 2.2 c ska vara sådana att relevanta
kvarvarande risker förknippade med varje fara samt den totala kvarvarande risken i AI- systemen bedöms vara acceptabla, förutsatt att AI-systemet används i enlighet med sitt Avsedda Ändamål eller under förhållanden där det kan förekomma Rimligen Förutsebar Felaktig Användning.
2.4. Vid fastställandet av de lämpligaste riskhanteringsåtgärderna, som avses i punkt 2.2 c, ska
följande säkerställas:
a. Eliminering eller minskning av identifierade risker i den mån det är tekniskt genomförbart genom lämplig konstruktion och utveckling av AI-systemet.
b. När det är lämpligt, genomförande av lämpliga åtgärder för att begränsa och bemästra risker som inte kan elimineras.
c. Tillhandahållande av lämplig information till den Offentliga Organisationen.
2.5. Leverantören säkerställer att AI-systemet, innan det levereras, testas för att verifiera om AI-systemet överensstämmer med Klausulerna och om de riskhanteringsåtgärder som avses i punkt 2.2 c är effektiva mot bakgrund av det Avsedda Ändamålet och Rimligen Förutsebar Felaktig Användning. På begäran av den Offentliga Organisationen är Leverantören skyldig att testa AI-systemet i den Offentliga Organisationens miljö.
2.6. Alla risker som identifieras, åtgärder som vidtas och tester som utförs i samband med efterlevnaden av denna artikel måste dokumenteras av Leverantören. Leverantören ska göra denna dokumentation tillgänglig för den Offentliga Organisationen åtminstone vid tidpunkten för Leveransen av AI-systemet. Denna dokumentation kan vara en del av den tekniska dokumentationen och/eller bruksanvisningen.
2.7. Riskhanteringssystemet ska bestå av en kontinuerlig och iterativ process som pågår under hela Avtalets löptid. Efter Leveransen av AI-systemet måste Leverantören därför
a. regelbundet se över och uppdatera riskhanteringsprocessen för att säkerställa dess fortsatta effektivitet,
b. hålla den dokumentation som beskrivs i artikel 2.6 uppdaterad, och
c. utan dröjsmål göra varje ny version av den dokumentation som beskrivs i artikel
2.6 tillgänglig för den Offentliga Organisationen.
2.8. Om det rimligen krävs för att Leverantören ska kunna genomföra riskhanteringssystemet på ett korrekt sätt, ska den Offentliga Organisationen på begäran förse Leverantören med information, förutsatt att denna inte är konfidentiell.
2.9. <Frivilligt> Om den Offentliga Organisationens användning av AI-systemet fortsätter
efter Avtalets löptid, ska Leverantören i slutet av Avtalets löptid förse den Offentliga Organisationen med den information som krävs för att upprätthålla riskhanteringssystemet på egen hand.
Article 3 < Artikel 3 är endast relevant för AI-system som använder tekniker som inbegriper träning av modeller med data. Artikel 3 förutsätter att Leverantören
(eller dess underleverantörer) har fullständig åtkomst till Dataseten. Om Dataseten uteslutande innehas av den Offentliga Organisationen är det nödvändigt att vidta andra åtgärder.> Data och dataförvaltning
3.1. Leverantören säkerställer att de Dataset som används vid utvecklingen av AI-systemet, inklusive träning, validering och testning, har varit och ska vara föremål för dataförvaltning som är lämplig för användningssammanhanget samt AI-systemets Avsedda Ändamål.
Dessa åtgärder ska särskilt omfatta
a. transparens när det gäller det ursprungliga syftet med datainsamlingen,
b. relevanta konstruktionsval,
c. datainsamlingsprocesser,
d. datapreparering för behandling, såsom annotation, märkning, uppstädning, förädling och aggregering,
e. formulering av relevanta antaganden, särskilt när det gäller den information som berörda data förväntas beskriva och representera,
f. undersökning av eventuella snedvridningar som kan påverka fysiska personers hälsa och säkerhet eller leda till diskriminering som är förbjuden enligt Europeiska unionens lagstiftning,
g. lämpliga åtgärder för att upptäcka, förebygga och mildra eventuella snedvridningar,
h. identifiering av relevanta dataluckor eller databrister som förhindrar efterlevnad av dessa Klausuler och hur dessa luckor och brister kan åtgärdas.
3.2. Leverantören säkerställer att de Dataset som används vid utvecklingen av AI-systemet är
relevanta, representativa och i största möjliga utsträckning fria från fel och så fullständiga som möjligt med tanke på det Avsedda Ändamålet. Leverantören säkerställer att Dataset har lämpliga statistiska egenskaper, däribland, i förekommande fall, vad gäller de personer eller grupper av personer som omfattas av den avsedda användningen av AI-systemet.
Dessa egenskaper hos dessa Dataset ska uppfyllas på nivån för enskilda Dataset eller en kombination av dessa.
3.3. Leverantören säkerställer att de Dataset som används vid utvecklingen av AI-systemet, i
den utsträckning som krävs för det Avsedda Ändamålet eller Rimligen Förutsebar Felaktig Användning, beaktar de egenskaper eller delar som är specifika för den särskilda geografiska, kontextuella eller funktionella inställning inom vilken AI-systemet är avsett att användas.
3.4. Skyldigheterna enligt denna artikel gäller inte bara utvecklingen av AI-systemet före
Leverans, utan även Leverantörens användning av Dataset som kan påverka AI-systemets funktion vid någon annan tidpunkt under Avtalets löptid.
Article 4 Teknisk dokumentation och bruksanvisning
4.1. Leverantörens Leverans av AI-systemet omfattar överlämnande av teknisk dokumentation och bruksanvisningar.
4.2. Den tekniska dokumentationen ska göra det möjligt för den Offentliga Organisationen eller en tredje part att bedöma AI-systemets överensstämmelse med bestämmelserna i kraven i dessa Klausuler och åtminstone uppfylla villkoren i Bilaga C.
4.3. Bruksanvisningen ska innehålla kortfattad, fullständig, korrekt och tydlig information som är relevant, tillgänglig och begriplig för den Offentliga Organisationen. Bruksanvisningen ska minst uppfylla villkoren i Bilaga D.
4.4. Leverantören måste uppdatera denna dokumentation åtminstone med varje Väsentlig
Ändring under Avtalets löptid och därefter göra den tillgänglig för den Offentliga Organisationen.
4.5. <frivilligt>Den tekniska dokumentationen och bruksanvisningen ska vara avfattade på
engelska.
4.6. <frivilligt>Den Offentliga Organisationen har rätt att göra kopior av den tekniska dokumentationen och bruksanvisningen i den utsträckning som krävs för intern användning inom organisationen, utan att det påverkar tillämpningen av bestämmelserna i artikel 6 och artikel 10.
Article 5 Arkivering
5.1. Leverantören säkerställer att AI-systemet har utformats och ska utformas och utvecklas med funktioner som möjliggör automatisk registrering av händelser (”loggar”) medan AI- systemet är i drift. Dessa loggningsmöjligheter ska överensstämma med den senaste tekniken och, i förekommande fall, erkända standarder eller gemensamma specifikationer.
<Frivilligt: lägg till, om möjligt, en specifik standard>
5.2. Loggningsfunktionerna ska säkerställa en spårbarhetsnivå som omfattar AI-systemets funktion under hela dess livscykel och som är lämplig för systemets Avsedda Ändamål och Rimligen Förutsebar Felaktig Användning. De ska särskilt göra det möjligt att registrera händelser som är relevanta för att identifiera situationer som kan
a. resultera i att AI-systemet utgör en risk för människors hälsa eller säkerhet eller för skyddet av grundläggande rättigheter, eller
b. leda till en Väsentlig Ändring.
5.3. <frivilligt>Leverantören kommer att tillåta den Offentliga Organisationen att komma åt de loggar som genereras automatiskt av AI-systemet i realtid.
5.4. Leverantören ska föra de loggar som genereras automatiskt av AI-systemet, i den utsträckning sådana loggar är under dess kontroll baserat på Avtalet, under Avtalets löptid. I slutet av Avtalets löptid kommer Leverantören att utan dröjsmål tillhandahålla dessa loggar till den Offentliga Organisationen.
Article 6 AI-systemets transparens
6.1. Leverantören säkerställer att AI-systemet har utformats och ska utformas och utvecklas på ett sådant sätt att driften av AI-systemet är tillräckligt transparent för att den Offentliga Organisationen rimligen ska kunna förstå systemets funktion.
6.2. För att säkerställa lämplig transparens ska Leverantören genomföra åtminstone de
tekniska och organisatoriska åtgärder som beskrivs i Bilaga E innan AI-systemet levereras. Dessa åtgärder bör leda till att den Offentliga Organisationen kan förstå och använda AI-systemet på lämpligt sätt genom att förstå hur AI-systemet fungerar och vilka uppgifter det behandlar, så att den Offentliga Organisationen kan förklara de beslut som
fattas av AI-systemet för de personer eller grupper av personer som AI-systemet används för (eller är avsett att användas för).
Article 7 Mänsklig tillsyn
7.1. Leverantören säkerställer att AI-systemet har utformats och ska utformas och utvecklas på ett sådant sätt, inklusive med lämpliga verktyg för användargränssnitt mellan människa och maskin, att det effektivt kan övervakas av fysiska personer i proportion till de risker som är förenade med systemet.
7.2. Leverantören säkerställer att lämpliga åtgärder före Leveransen ska ingå i AI-systemet och
vidtas för att säkerställa mänsklig tillsyn. Dessa åtgärder, som bland annat kan omfatta utbildning av anställda vid den Offentliga Organisationen, ska göra det möjligt för de personer som har tilldelats mänsklig tillsyn att göra följande, beroende på omständigheterna:
a. Vara medvetna om och tillräckligt förstå den relevanta kapaciteten och begränsningarna hos AI-systemet med hög risk och på vederbörligt sätt kunna övervaka dess drift, så att tecken på avvikelser, funktionsstörningar och oväntad prestanda kan upptäckas och åtgärdas så snart som möjligt.
b. Förbli medvetna om den möjliga tendensen att automatiskt eller i alltför hög grad lita på de utdata som produceras av AI-systemet (”automationssnedvridning”,
”automation bias”), särskilt när det gäller AI-system som används för att tillhandahålla information eller rekommendationer för beslut som ska fattas av fysiska personer.
c. Korrekt kunna tolka utdata från AI-systemet, särskilt med beaktande av systemets egenskaper och tillgängliga tolkningsverktyg och tolkningsmetoder.
d. I vissa situationer kunna besluta att inte använda AI-systemet eller på annat sätt bortse från, åsidosätta eller reversera de resultat som AI-systemet genererar.
e. Kunna ingripa i driften av AI-systemet eller stoppa systemet med en ”stoppknapp”
eller ett liknande förfarande.
7.3. <frivilligt> För att säkerställa lämplig mänsklig tillsyn ska Leverantören åtminstone genomföra de tekniska och organisatoriska åtgärder som beskrivs i Bilaga F före Leveransen av AI-systemet.
Article 8 Noggrannhet, robusthet och cybersäkerhet
8.1. Leverantören säkerställer att AI-systemet har utformats och ska utformas och utvecklas enligt principen om inbyggd säkerhet och säkerhet som standard. Mot bakgrund av det avsedda syftet bör det uppnå en lämplig nivå av noggrannhet, robusthet, säkerhet och cybersäkerhet, och fungera konsekvent i dessa avseenden under AI-systemets hela livscykel.
8.2. AI-systemets noggrannhetsnivåer och relevanta noggrannhetsmått beskrivs i Bilaga G.
8.3. För att säkerställa en lämplig nivå av robusthet, säkerhet och cybersäkerhet ska Leverantören åtminstone genomföra de tekniska och organisatoriska åtgärder som beskrivs i Bilaga H före Leveransen av AI-systemet.
Article 9 Efterlevnad
9.1. Leverantören måste se till att AI-systemet följer dessa Klausuler från Leveransen av AI- systemet till slutet av Avtalets löptid.
9.2. På första begäran av den Offentliga Organisationen ska Leverantörerna göra all information som krävs för att visa att dessa Klausuler efterlevs tillgänglig för den Offentliga Organisationen.
9.3. Om Leverantören under avtalstiden anser eller har anledning att anse att AI-systemet inte
överensstämmer med dessa Klausuler, oavsett om det är ett svar på en kommentar från den Offentliga Organisationen eller inte, ska Leverantören omedelbart vidta nödvändiga korrigerande åtgärder för att få systemet att överensstämma med dessa Klausuler.
Leverantören ska informera den Offentliga Organisationen om detta.
Article 10 Skyldighet att förklara hur AI-systemet fungerar på individuell nivå
10.1. Utöver de skyldigheter som beskrivs i artikel 6 är Leverantören under Avtalets löptid skyldig att bistå den Offentliga Organisationen på den Offentliga Organisationens första begäran att förklara hur AI-systemet kommit fram till ett särskilt beslut eller resultat för de personer eller grupper av personer som AI-systemet används på eller är avsett att användas på. Detta stöd ska åtminstone omfatta en tydlig angivelse av de nyckelfaktorer som ledde till att AI-systemet kom fram till ett visst resultat och de ändringar av indata som måste göras för att det ska kunna komma fram till ett annat resultat.
10.2. Den skyldighet som beskrivs i artikel 10.1 omfattar tillhandahållandet till den Offentliga Organisationen av all teknisk och annan information som krävs för att förklara hur AI- systemet kom fram till ett visst beslut eller resultat och att erbjuda de personer eller den
grupp av personer som AI-systemet används (är avsett att användas) på möjlighet att kontrollera det sätt på vilket AI-systemet kom fram till ett visst beslut eller resultat.
Leverantören ger härmed den Offentliga Organisationen rätt att använda, dela och lämna ut denna information, om och i den utsträckning det är nödvändigt för att informera de personer eller den grupp av personer som AI-systemet används (är avsett att användas) på om AI-systemets funktion och/eller i eventuella rättsliga förfaranden.
10.3. <frivilligt> De skyldigheter som avses i artikel 10.1 och 10.2 omfattar AI-systemets
källkod, de tekniska specifikationer som använts vid utvecklingen av AI-systemet, Dataseten, teknisk information om hur de Dataset som använts vid utvecklingen av AI- systemet har erhållits och redigerats, information om den utvecklingsmetod som använts och den utvecklingsprocess som genomförts, motivering av valet av en viss modell och dess parametrar samt information om AI-systemets prestanda.
Avsnitt C – Rättigheter att använda Dataset
Article 11 Rätt till Dataset från Offentliga Organisationer
11.1. Alla rättigheter, inklusive immateriella rättigheter, som rör Dataset från Offentliga Organisationer kommer att tillfalla den Offentliga Organisationen eller en tredje part som den Offentliga Organisationen har utsett som sådan.
11.2. Leverantören har inte rätt att använda Dataset från Offentliga Organisationer för något annat syfte än Avtalets fullgörande, om inte annat anges i bilaga B.
11.3. På den Offentliga Organisationens första begäran måste Leverantören förstöra Dataseten från den Offentliga Organisationen, om inte annat föreskrivs i bilaga B. Om den Offentliga Organisationen kräver det måste Leverantören tillhandahålla användbara bevis för att Datasetet från den Offentliga Organisationen har förstörts.
Article 12 Dataset från leverantörer och Dataset från Tredjeparter
12.1. Alla rättigheter, inklusive eventuella immateriella rättigheter, som avser Dataset från Leverantörer och Tredjeparter kommer att tillfalla Leverantören eller en tredje part.
12.2. Leverantören ger den Offentliga Organisationen en icke-exklusiv rätt att använda Dataset från Leverantörer och Tredjeparter som under alla omständigheter är tillräckliga för att fullgöra bestämmelserna i avtalet, inklusive Klausulerna, om inte annat föreskrivs i bilaga B.
12.3. <frivilligt> Den nyttjanderätt som beskrivs i artikel 12.2 omfattar rätten att använda
Dataset från Leverantörer och Tredjeparter för vidareutveckling av AI-systemet, inklusive eventuella nya versioner av detta, av den Offentliga Organisationen eller en tredje part.
Article 13 Överlämnande av Dataset
13.1. På den Offentliga Organisationens första begäran överlämnar Leverantören den senaste versionen av Dataset från den Offentliga Organisationen till den Offentliga Organisationen.
13.2. På den Offentliga Organisationens första begäran överlämnar Leverantören den senaste versionen av Dataseten från Leverantörer och Tredjeparter till den Offentliga Organisationen, om inte annat anges i bilaga B.
13.3. Dataseten måste överlämnas till den Offentliga Organisationen av Leverantören i ett
gemensamt filformat som ska anges av den Offentliga Organisationen. <frivilligt> Dataseten returneras enligt följande: [filformat]
Bilaga A – AI-systemet och det Avsedda Ändamålet
Beskrivning av AI-systemet
Inom tillämpningsområdet för dessa avsnitt finns följande system eller komponenter av system:
Beskriv AI-systemen. Detta kan också vara ett algoritmiskt system som inte uppfyller kraven för AI-system enligt rättsakten om artificiell intelligens.
Avsett Ändamål:
Beskriv den användning som AI-systemet är avsett för.
Bilaga B – Dataseten
Ge en beskrivning av de Dataset som används för träningen (om tillämpligt), valideringen och testningen av AI-systemet. Skilj mellan Dataset från Offentliga Organisationer och Dataset från Leverantörer och tredjeparter. När det gäller Dataset från Offentliga Organisationer, beskriv de ändamål för vilka Leverantören får använda Dataseten (förutom Avtalets prestanda) och om Leverantören är skyldig att förstöra Datasetet när Avtalets löptid löper ut. I fråga om Xxxxxxx från Leverantörer och Xxxxxxxxxxxx beskriv de Ändamål för vilka den Offentliga Organisationen får använda Dataseten och huruvida Leverantören är skyldig att lämna över Dataseten.
Dataset från Offentliga Organisationer
Följande Dataset tillhandahålls av den Offentliga Organisationen till Leverantören enligt Avtalet eller ska skapas eller samlas in som en del av Avtalet:
Beskrivning av Datasetet | Leverantörens nyttjanderätt | Skyldighet att förstöra Datasetet i slutet av Avtalets löptid |
Ja/Nej | ||
Ja/Nej | ||
Ja/Nej | ||
Ja/Nej |
Dataset från leverantörer och Xxxxxxx från tredjeparter
Följande Dataset från leverantörer och tredjeparter kommer att användas eller har använts för träning (om tillämpligt), validering och testning av AI-systemet:
Beskrivning av Datasetet | Den Offentliga Organisationens nyttjanderätt | Skyldighet att överlämna1 |
Ja/Nej | ||
Ja/Nej | ||
Ja/Nej | ||
Ja/Nej |
1 En begränsning av skyldigheten att överlämna Xxxxxxx från leverantörer och tredjeparter begränsar inte Leverantörens skyldigheter enligt artikel 6 och artikel 10.
Bilaga C Teknisk dokumentation
Den tekniska dokumentationen ska minst innehålla följande information, beroende på vad som är tillämpligt för det relevanta AI-systemet:
1. En allmän beskrivning av AI-systemet, inklusive
1.1. det avsedda syftet, Leverantörens namn, datum för och version av systemet,
1.2. beskaffenheten hos uppgifter som sannolikt kommer att eller som är avsedda att behandlas i systemet och, när det gäller personuppgifter, de kategorier av fysiska personer och grupper som sannolikt kommer att eller är avsedda att påverkas,
1.3. hur AI-systemet kan interagera eller kan användas för att interagera med maskinvara eller programvara som inte ingår i själva AI-systemet, i tillämpliga fall,
1.4. versioner av relevant programvara eller inbyggd programvara och eventuella krav med koppling till uppdateringen av versioner,
1.5. en beskrivning av alla format i vilka AI-systemet släpps ut på marknaden eller tas i bruk,
1.6. en beskrivning av den maskinvara som AI-systemet är avsett att köras på,
1.7. om AI-systemet är en produktkomponent, fotografier eller illustrationer där de yttre egenskaperna framgår, samt dessa produkters märkning och interna utformning,
1.8. en detaljerad och lättbegriplig beskrivning av systemets huvudsakliga optimeringsmål,
1.9. en detaljerad och lättbegriplig beskrivning av systemets förväntade resultat och förväntade resultatkvalitet,
1.10. detaljerade och lättbegripliga instruktioner för hur systemets utdata ska tolkas,
1.11. exempel på scenarier där systemet inte bör användas,
2. en utförlig beskrivning av komponenterna i AI-systemet och av processen för utveckling av detta, inklusive
2.1. metoder och steg som genomförts för utveckling av AI-systemet, inbegripet, i förekommande fall, användning av förtränade system eller verktyg som tillhandahålls av tredje part och hur dessa har använts, integrerats eller ändrats av Leverantören, inklusive en beskrivning av eventuella licensavtal eller andra avtalsarrangemang som rör sådana tredjepartsindata,
2.2. systemets konstruktionsspecifikationer, dvs. AI-systemets och algoritmernas allmänna logik, de viktigaste konstruktionsvalen, bl.a. den logiska grunden och de antaganden som gjorts, även med avseende på de personer eller grupper av personer som systemet är avsett att användas för; de viktigaste klassificeringsvalen; vad systemet har utformats för att optimera och de olika parametrarnas relevans; de beslut om eventuella avvägningar mellan de tekniska lösningarna som valts för att uppfylla kraven i dessa Klausuler,
2.3. en beskrivning av systemarkitekturen som förklarar hur programvarukomponenter bygger på eller matas in i varandra och integreras i den övergripande behandlingen, de dataresurser som används för att utveckla, träna, testa och validera AI-systemet,
2.4. i tillämpliga fall, uppgiftskraven i form av datablad som beskriver de träningsmetoder och -tekniker och de träningsdataset som används, inbegripet information om var dessa Dataset kommer från, deras omfattning och huvudsakliga egenskaper; hur uppgifterna inhämtades och valdes ut; informationsklassningsförfaranden (t.ex. för övervakad inlärning), datarensningsmetoder (t.ex. upptäckt av avvikande värden),
2.5. i tillämpliga fall, en utförlig beskrivning av förutbestämda ändringar av AI- systemet och dess prestanda, tillsammans med all relevant information om de tekniska lösningar som har valts för att säkerställa att AI-systemet kontinuerligt uppfyller de relevanta kraven i dessa Klausuler,
2.6. de validerings- och testförfaranden som används, inklusive information om de validerings- och testdata som har använts och deras huvudsakliga egenskaper; mått som används för att mäta noggrannhet, robusthet, cybersäkerhet och överensstämmelse med andra relevanta krav som anges i dessa Klausuler samt potentiellt diskriminerande effekter; testloggar och alla testrapporter, daterade och undertecknade av de ansvariga personerna, även med avseende på de förutbestämda ändringar som avses i led 2.5,
2.7. cybersäkerhetsåtgärder som införts.
Detaljerade uppgifter om övervakning, drift och kontroll av AI-systemet, särskilt med avseende på dess kapacitet och prestandabegränsningar, inbegripet graden av noggrannhet för specifika personer eller grupper av personer som systemet är avsett att användas för och den övergripande förväntade noggrannhetsnivån i förhållande till det Avsedda Ändamålet; förutsebara oavsiktliga resultat och källor till risker för hälsa och säkerhet, grundläggande rättigheter och diskriminering med tanke på AI-systemets avsedda syfte,
3. en utförlig beskrivning av riskhanteringssystemet i enlighet med artikel 2,
4. en beskrivning av alla relevanta ändringar som Leverantören gjort i systemet under dess livscykel.
Bilaga D Bruksanvisning
Bruksanvisningen ska minst innehålla följande information, beroende på vad som är tillämpligt för det relevanta AI-systemet:
1. Namn och kontaktuppgifter för Leverantören och i tillämpliga fall för dennes ombud.
2. AI-systemets egenskaper, kapacitet och begränsningar, inklusive, i förekommande fall,
2.1. Det Avsedda Ändamålet.
2.2. Den nivå avseende noggrannhet, robusthet och cybersäkerhet som avses i artikel 8 mot vilken AI-systemet har testats och validerats och som kan förväntas, samt alla välkända och förutsebara omständigheter som kan påverka den förväntade noggrannhets-, robusthets- och cybersäkerhetsnivån,
2.3. Varje välkänd eller förutsebar omständighet, som har samband med användningen av AI-systemet i enlighet med dess Avsedda Ändamål eller under förhållanden där det kan förekomma Rimligen Förutsebar Felaktig Användning, som kan leda till risker för hälsa och säkerhet eller grundläggande rättigheter.
2.4. I vilken utsträckning AI-systemet kan ge en förklaring till de beslut det fattar.
2.5. Dess prestanda vad gäller de personer eller grupper av personer som omfattas av den avsedda användningen av AI-systemet.
2.6. Relevant information om användaråtgärder som kan påverka systemets prestanda, inbegripet typ eller kvalitet på dataunderlaget, eller annan relevant information i fråga om de Dataset för träning, validering och testning som används, med beaktande av AI-systemets Avsedda Ändamål.
3. De eventuella ändringar av AI-systemet och dess prestanda som Leverantören har fastställt i förväg.
4. De åtgärder för mänsklig tillsyn som avses i artikel 7, inbegripet de tekniska åtgärder som införts för att underlätta den Offentliga Organisationerns tolkning av AI-systemets utdata.
5. Den förväntade livslängden för AI-systemet och alla nödvändiga underhålls- och omsorgsåtgärder för att säkerställa att AI-systemet fungerar korrekt, även när det gäller programvaruuppdateringar.
6. En beskrivning av mekanismerna i AI-systemet som gör det möjligt för användare att samla in, lagra och tolka loggarna på rätt sätt.
Bilaga E Åtgärder för att säkerställa transparens
Ge här en beskrivning av de tekniska och organisatoriska åtgärder som Leverantören ska vidta för att säkerställa transparens i enlighet med artikel 6 i Klausulerna.
Bilaga F Åtgärder för att säkerställa mänsklig tillsyn
Ge här en beskrivning av de tekniska och organisatoriska åtgärder som Leverantören ska vidta för att säkerställa mänsklig tillsyn i enlighet med artikel 7 i Klausulerna.
Bilaga G Noggrannhetsnivåer
Beskriv här de noggrannhetsnivåer som krävs.
Bilaga H Åtgärder för att säkerställa en lämplig nivå av robusthet, säkerhet och cybersäkerhet
Ge här en beskrivning av de tekniska och organisatoriska åtgärder som Leverantören ska vidta för att säkerställa en lämplig nivå av robusthet, säkerhet och cybersäkerhet i enlighet med artikel 8 i Klausulerna.
Dessa åtgärder måste säkerställa att AI-systemet ska vara så resilient som möjligt när mot felaktigheter, funktionsfel eller inkonsekvenser som kan uppstå i det system eller den miljö där systemet är i drift, särskilt på grund av deras interaktion med fysiska personer eller andra system.
AI-systemet ska vara resilient mot försök av obehöriga tredje parter att ändra sin användning, sitt beteende, sina resultat eller sin prestanda genom att utnyttja systemets sårbarheter. De tekniska lösningarna för att ta itu med AI-specifika sårbarheter kan, där så är lämpligt, omfatta åtgärder för att förebygga, upptäcka, reagera på, lösa och kontrollera attacker som försöker manipulera träningsDatasetet (”dataförgiftning”) eller förhandstränade komponenter som används i träningen (”modellförgiftning”), indata som är utformade för att få modellen att göra ett misstag (”antagonistiska exempel” eller ”modellflykt), sekretessattacker eller modellfel, vilket kan leda till skadligt beslutsfattande.