UE uchwala przepisy dot. zgodności z AI

W Parlamencie Europejskim 523 europosłów głosowało za, 46 było przeciw, a 49 posłów wstrzymało się od głosu.

Unijna ustawa o sztucznej inteligencji jest punktem wyjścia dla nowego zarządzania opartego na technologii AI.

Nowe przepisy zakazują pewnych zastosowań sztucznej inteligencji, które zagrażają prawom obywateli.

Są to między innymi systemy kategoryzacji biometrycznej, które wykorzystują cechy wrażliwe, i nieukierunkowane pobieranie wizerunków twarzy z Internetu lub nagrań z telewizji przemysłowej, by stworzyć bazy danych służące rozpoznawaniu twarzy. Zakaz ma dotyczyć przetwarzania danych biometrycznych.

Systemy sztucznej inteligencji uważane za „wysokiego ryzyka”, np. wykorzystywane w infrastrukturze krytycznej, edukacji, opiece zdrowotnej, egzekwowaniu prawa, zarządzaniu granicami czy w wyborach, będą musiały spełniać rygorystyczne wymogi. Usługi niskiego ryzyka, takie jak filtry antyspamowe, będą podlegać najłagodniejszym regulacjom – UE oczekuje, że większość usług będzie należeć do tej kategorii.

Ustawa zawiera także przepisy mające na celu przeciwdziałanie zagrożeniom stwarzanym przez systemy stanowiące podstawę narzędzi generatywnych sztucznej inteligencji i chatbotów. 

To wymagałoby od producentów niektórych tzw. systemów sztucznej inteligencji ogólnego przeznaczenia, które można wykorzystać do szeregu zadań, przejrzystości w zakresie materiałów wykorzystywanych do szkolenia ich modeli oraz przestrzegania unijnego prawa autorskiego. Kilku firmom zajmującym się sztuczną inteligencją stoją w obliczu procesów sądowych w związku z wykorzystaniem danych do szkolenia modeli generatywnych.

Systemy sztucznej inteligencji ogólnego przeznaczenia i modele sztucznej inteligencji ogólnego przeznaczenia muszą spełniać określone wymogi przejrzystości i być zgodne z unijnym prawem autorskim. 

Wyjątki dla organów ścigania

Organom ścigania z reguły nie wolno korzystać z systemów identyfikacji biometrycznej. Są jednak pewne wyjątki, które wąsko zdefiniowano na zamkniętej liście. Organy te mogą wykorzystywać systemy identyfikacji biometrycznej w czasie rzeczywistym tylko wtedy, gdy spełniły ściśle określone warunki. Na przykład mogą je stosować w określonym czasie i w określonym położeniu geograficznym. Muszą też posiadać specjalne zezwolenie sądowe lub administracyjne. Mogą je wykorzystywać, by odnaleźć zaginioną osobę lub zapobiegać atakowi terrorystycznemu. Istnieją też tzw. systemy zdalnej identyfikacji biometrycznej post factum. Ich stosowanie wiąże się z wysokim ryzykiem i wymaga zezwolenia sądowego, ponieważ systemy takie wykorzystuje się do wyszukiwania w związku z przestępstwem.

Ustawa musi jeszcze przejść kilka etapów, zanim formalnie stanie się prawem.

Rozporządzenie muszą jeszcze ostatecznie zweryfikować prawnicy lingwiści. Ma ono zostać przyjęte przed końcem kadencji. Rozporządzenie musi też formalnie przyjąć Rada. Rozporządzenie wejdzie w życie 20 dni po publikacji w Dzienniku Urzędowym, a w pełni obowiązywać będzie 24 miesiące po jego wejściu w życie.

Przyjęcie ustawy o AI oznacza początek nowej ery sztucznej inteligencji - nie można przecenić jej znaczenia. Unijna ustawa o sztucznej inteligencji to pierwszy i jedyny na świecie zbiór wiążących wymogów mających na celu ograniczenie ryzyka związanego ze sztuczną inteligencją.

Przypomnieć warto, że Chiny wprowadziły już przepisy dotyczące sztucznej inteligencji. W 2023 r. prezydent USA Joe Biden ogłosił zarządzenie wymagające od twórców AI udostępniania danych rządowi USA. Ale to UE chce pójść jeszcze dalej.

• Wirusy rozprzestrzeniane przez AI
• Niechęć do wiadomości generowanych przez sztuczną inteligencję
• Google bawi się z AI i notuje spadki na giełdzie
• FCC zakazuje w USA rozmów generowanych przez AI