AI Act, regulacje odpowiedzią na technologię

AI Act, czyli Akt w sprawie sztucznej inteligencji został w marcu zatwierdzony przez Parlament Europejski. Akt ten ma stworzyć kompleksowe ramy wykorzystywania sztucznej inteligencji w Unii Europejskiej przy zapewnieniu bezpieczeństwa oraz jednocześnie wspierając innowacje.

Przyczyną wprowadzenia AI Act jest szybki rozwój rozwiązań technologicznych bazujących na sztucznej inteligencji, który wiążę się z nowymi rodzajami ryzyka lub niekorzystnymi konsekwencjami odczuwanymi przez społeczeństwo. W związku z tym Unia Europejska wprowadziła ramy regulacyjne, pozwalające na rozwój sztucznej inteligencji z zagwarantowaniem bezpieczeństwa oraz przestrzeganiem praw podstawowych jej obywateli.

Akt o sztucznej inteligencji ma zastosowanie do:

a) dostawców wprowadzających do obrotu lub oddających do użytku systemy sztucznej inteligencji w Unii, niezależnie od tego, czy dostawcy ci mają siedzibę w Unii, czy w państwie trzecim;

b) użytkowników systemów sztucznej inteligencji, którzy znajdują się w Unii;

c) dostawców i użytkowników systemów sztucznej inteligencji, którzy znajdują się w państwie trzecim, jeżeli wyniki działania systemu są wykorzystywane w Unii.

Regulacje AI Act wprowadzają kategorie zakazanych praktyk w zakresie sztucznej inteligencji. Do tych kategorii zaliczono m.in.: stosowanie rozwiązań opartych na technikach podprogowych, będących poza świadomością danej osoby czy takich, które dyskryminują określone grupy osób. Niedozwolone będzie także stosowanie systemów AI do śledzenia stylu życia obywateli przez organy publiczne.

Wśród zakazanych zastosowań znalazły się zdalne systemy identyfikacji biometrycznej „w czasie rzeczywistym” w publicznie dostępnych przestrzeniach na potrzeby egzekwowania prawa, z wyjątkiem ograniczonej liczby przypadków.

Szczególne obowiązki określono również dla tzw. systemów sztucznej inteligencji wysokiego ryzyka. Systemy wysokiego ryzyka są związane m.in. z infrastrukturą krytyczną (ruch drogowy, zaopatrzenie w wodę, gaz, ciepło, energię elektryczną), edukacją i szkoleniem zawodowym, zatrudnieniem, podstawowymi usługami prywatnymi i publicznymi (np. opieka zdrowotna, bankowość). Opierają się też na nich niektóre systemy organów ścigania. Takie systemy muszą m.in. ustanawiać systemy zarządzania ryzykiem i prowadzić rejestry zdarzeń. Ponadto muszą być przejrzyste i dokładne oraz podlegać kontroli człowieka.

AI Act wprowadza również kary pieniężne za naruszenie jego wymogów m.in. karę w wysokości do 30 000 000 EUR lub w przypadku przedsiębiorstw do 6% rocznego globalnego obrotu danej firmy z poprzedniego roku za nieprzestrzeganie zakazu praktyk w zakresie sztucznej inteligencji.

Nowe rozporządzenie zakłada wyznaczenie Europejskiej Rady ds. Sztucznej Inteligencji oraz wyłonienie organów krajowych w poszczególnych państwach członkowskich. Ich zadaniem będzie zapewnienie skutecznego egzekwowania nowych przepisów na poziomie krajowym.

Rozporządzenie podlega dalszej weryfikacji i zatwierdzeniu przez Radę Unii Europejskiej.

Autor: Sandra Mościcka-Wójciak, Radca Prawny