Systemy AI wysokiego ryzyka – klauzule umowne w zamówieniach publicznych

Rozwój technologii sztucznej inteligencji (AI) nieustannie przekształca wiele aspektów działalności gospodarczej i administracyjnej. W szczególności systemy AI stają się kluczowymi narzędziami w rękach organizacji publicznych, które dążą do efektywniejszego i dokładniejszego świadczenia usług. Jednakże, zwiększone zastosowanie tych technologii niesie ze sobą nie tylko możliwości, ale i znaczące ryzyka, zwłaszcza gdy mowa o systemach AI klasyfikowanych jako wysokiego ryzyka.

Na stronie internetowej Komisji Europejskiej ukazał się dokument dotyczący modelowych klauzul umownych, które powinny stosować podmioty publiczne w przypadku zawierania umów na wykonanie lub dostawę systemów sztucznej inteligencji wysokiego ryzyka w rozumieniu Aktu o sztucznej inteligencji. Klauzule i zasady te z powodzeniem mogą być także stosowane w zwykłych relacjach B2B pomiędzy przedsiębiorcami.

Zamów pakiet umów IT!

Definicja systemów AI o wysokim ryzyku

Systemy AI o wysokim ryzyku to takie, które mają istotny wpływ na bezpieczeństwo, zdrowie oraz podstawowe prawa i wolności obywateli. Z tego względu wymagają one szczególnej uwagi i regulacji, aby zapewnić ich bezpieczne i odpowiedzialne użytkowanie.

Klauzule umowne dla systemów AI o wysokim ryzyku

Przygotowanie umów na zakup systemów AI przez organizacje publiczne wymaga szczegółowych i przemyślanych klauzul, które adresują specyfikę technologiczną i potencjalne ryzyka związane z ich stosowaniem.

Zainspirowane standardami przyjętymi przez miasto Amsterdam i aktualnie negocjowanymi przepisami regulacji AI w Unii Europejskiej, klauzule te koncentrują się na kilku kluczowych aspektach:

1. System zarządzania ryzykiem: Dostawca systemu AI musi zapewnić, że przed dostarczeniem produktu zostanie opracowany i wdrożony system zarządzania ryzykiem. Powinien on obejmować identyfikację, oszacowanie oraz ocenę znanych i przewidywalnych ryzyk związanych z przeznaczeniem systemu AI.
2. Dokumentacja techniczna i instrukcje użytkowania: Dostarczenie systemu AI powinno być akompaniowane przez szczegółową dokumentację techniczną i instrukcje użytkowania, które umożliwią organizacji publicznej ocenę zgodności systemu z umową oraz jego bezpieczne użytkowanie.
3. Przejrzystość i nadzór ludzki: System AI powinien być zaprojektowany w taki sposób, aby jego działanie było przejrzyste dla organizacji publicznej, umożliwiając efektywny nadzór ludzki. To kluczowy element, który zapewnia, że decyzje podejmowane przez system można monitorować, weryfikować i w razie potrzeby korygować.
4. Zarządzanie danymi i ich bezpieczeństwo: Klauzule muszą szczegółowo regulować kwestie zarządzania danymi używanymi do treningu, walidacji i testowania systemów AI. Dostawca jest odpowiedzialny za zapewnienie, że dane są odpowiednie, reprezentatywne, jak najbardziej wolne od błędów i kompletne.
5. Audyt i zgodność z regulacjami: Organizacja publiczna powinna mieć możliwość przeprowadzania regularnych audytów w celu weryfikacji, czy dostawca spełnia obowiązki wynikające z umowy oraz czy system AI jest zgodny z ustalonymi wymogami.

Znaczenie odpowiedzialnego stosowania AI

Adopcja systemów AI o wysokim ryzyku przez sektor publiczny niesie za sobą odpowiedzialność za ich etyczne i prawnie zgodne stosowanie. Odpowiednio opracowane klauzule umowne są fundamentem, który zapewnia, że korzyści płynące z wykorzystania tych zaawansowanych technologii przynosi rzeczywiste korzyści dla społeczeństwa, jednocześnie minimalizując ryzyka związane z naruszeniem prywatności, dyskryminacją, błędami decyzyjnymi i innymi problemami etycznymi.

Dalsze kroki w integracji AI

Podczas gdy regulacje dotyczące AI wciąż ewoluują, publiczne organizacje muszą być aktywnie zaangażowane w proces ich kształtowania, aby zapewnić, że ostateczne przepisy będą adekwatnie odzwierciedlać potrzeby i realia wykorzystywania systemów AI. Współpraca między sektorami publicznym i prywatnym, jak również włączenie opinii ekspertów ds. etyki, prawa i technologii, będzie kluczowe w zapewnieniu, że AI będzie rozwijane i wdrażane w sposób odpowiedzialny i z korzyścią dla wszystkich.
___

Przemyślane podejście do zarządzania umowami AI, szczególnie w przypadku systemów o wysokim ryzyku, jest fundamentem dla zbudowania zaufania do technologii AI w sektorze publicznym. Jakość i przemyślenie standardowych klauzul umownych mają zasadnicze znaczenie dla zapewnienia, że systemy AI będą służyły publicznemu dobru, z odpowiednią uwagą na ochronę danych i etykę. Biorąc pod uwagę dynamiczny rozwój technologii, niezbędne jest ciągłe monitorowanie i dostosowywanie zarówno strategii zakupowych, jak i samych umów, aby były one zawsze aktualne i adekwatne do szybko zmieniającego się krajobrazu technologicznego.

Dzięki odpowiedzialnemu podejściu, zrozumieniu ryzyk i skutecznemu zarządzaniu nimi, organizacje publiczne mogą maksymalnie wykorzystać potencjał AI, jednocześnie chroniąc interesy i prawa obywateli.

Potrzebujesz wsparcia prawnika? Napisz do mnie!