Zaznacz stronę
2021 05 24_Piotr Kaniewski_DGP_3

Piotr Kaniewski: Unia zamierza uregulować AI całościowo

Możliwości, jakie generuje sztuczna inteligencja są ogromne, ale wiążą się z tym również istotne ryzyka i pokusy, tak ze strony firm, jak i władz państwowych. W kwietniu br., Komisja Europejska przedstawiła projekt regulujący wykorzystanie systemów AI we wszystkich państwach członkowskich. O tym, jakie kwestie obejmuje, rozmawiał z Dziennikiem Gazetą Prawną Piotr Kaniewski.

Podejście rozporządzenia KE oparte jest na analizie ryzyka związanego z poszczególnymi systemami sztucznej inteligencji. To właśnie stopień ryzyka ma definiować, jakie obowiązki w zakresie wprowadzania, nadzoru oraz komercyjnego użytku, będzie nieść za sobą wykorzystanie danego systemu. Rozporządzenie wyróżnia 3 kategorie systemów odpowiadających stopniowi ryzyka, z jakim wiąże się posługiwanie nimi: nieakceptowalne, wysokie i niewielkie/minimalne  Systemy nieakceptowalnego ryzyka to takie, których wpływ na prawa i swobody obywatelskie jest tak duży, że ich używanie powinno zostać całkowicie zakazane. Dotyczy to m.in. wykorzystania technologii do manipulowania ludzkimi zachowaniami poprzez przekazy podprogowe czy stosowania systemów punktowej oceny obywateli przez rządy (social scoring).

W zakresie korzystania z systemów niewielkiego i minimalnego ryzyka, takich jak prosty asystent głosowy w telefonie czy system do rozpoznawania pogody, Komisja pozostawia producentom dużą swobodę. Unia Europejska chce zachęcać do przyjmowania przez firmy takich rozwiązań w ramach kodeksu dobrych praktyk i zastępowania systemami niskiego ryzyka tych, wiążących się z potencjalnie większą odpowiedzialnością.

Najwięcej uwagi poświęcono w rozporządzeniu wykorzystaniu systemów wiążących się z dużym, ale akceptowalnym ryzykiem.  Po pierwsze, Komisja Europejska wskazuje, jak ocenić czy mamy do czynienia z systemem wysokiego ryzyka, uwzględniając przy tym przykłady usług zaliczanych do tej kategorii. Wśród rozwiązań AI związanych z podwyższonym ryzykiem wymienia się m.in. diagnostykę medyczną opartą o sztuczną inteligencję, sterowanie pojazdami autonomicznymi, czy systemy obliczające zdolność kredytową.

Po drugie, rozporządzenie przewiduje szereg obowiązków związanych z umieszczeniem na rynku i wykorzystywaniem systemów AI wysokiego ryzyka. Co istotne, producenci i dystrybutorzy będą musieli zapewnić zgodność stosowanych rozwiązań z unijnymi i państwowymi standardami już na wczesnym etapie ich projektowania (by desing). Oznacza to, że prawnicy i specjaliści w zakresie bezpieczeństwa, zaangażowani będą w proces tworzenia koncepcji funkcjonowania systemu i budowania zbiorów danych już od samego początku.

KE stawia przed firmami i władzami państwowymi wymogi m.in. w zakresie data governance (zarządzania danymi), prowadzenia na bieżąco aktualizowanego systemu zarządzania ryzykiem, utrzymywania dokumentacji technicznej i compliance oraz tzw. record keeping, czyli czarnej skrzynki w systemie AI pozwalającej na prześledzenie, dlaczego system podjął daną decyzję. Rozporządzenie zwraca też uwagę na konieczność prowadzenia transparentnej komunikacji dotyczącej wykorzystania sztucznej inteligencji oraz konieczności ciągłego nadzoru ludzkiego nad jej działaniem oraz, w miarę potrzeb, korygowaniem systemu.

Wraz z wejściem w życie, rozporządzenie będzie miało istotny wpływ na funkcjonowanie klientów i dostawców systemów AI oraz firm, które chcą wykorzystać rozwiązania na szerszą skalę. Komisja Europejska przewiduje bowiem dotkliwe sankcje za niestosowanie się do unijnych przepisów. Kary za naruszenia w obszarze systemów nieakceptowalnych i data governance mają sięgnąć nawet 30 mln EUR lub 6% globalnego rocznego obrotu danego podmiotu.

Obok ograniczeń, w regulacjach zaproponowanych przez KE, zabrakło jednak inicjatyw legislacyjnych, będących pozytywnym bodźcem dla rozwoju AI na rynku europejskim. Taką zachętę mogłoby stanowić np. uregulowanie kwestii praw własności intelektualnej, w szczególności relacji między twórcą a utworem w kontekście ochrony modelu sztucznej inteligencji i efektów jego pracy. Inicjatywą stymulującą inwestycje w systemy AI byłoby też wdrożenie, na poziomie krajowym, odpowiednich rozwiązań podatkowych.

Pełny wywiad na stronie Dziennika Gazety Prawnej.


Zapraszamy do kontaktu: