Z dniem 2 lutego 2025 r. wchodzą w życie przepisy aktu o sztucznej inteligencji (AI Act), które wprowadzają zakazy dotyczące stosowania szczególnie niebezpiecznych systemów AI na terenie Unii Europejskiej. To kluczowa zmiana dla firm i organizacji wykorzystujących technologie oparte na AI. W artykule wyjaśniamy, jakie praktyki zostaną zakazane oraz co to oznacza dla przedsiębiorców.

Zakazane praktyki AI – czego dotyczy art. 5 AI Act?

AI Act precyzyjnie określa, które zastosowania sztucznej inteligencji są uznawane za zbyt ryzykowne i nie będą mogły być stosowane w UE. Wśród zakazanych praktyk znalazły się:

  • Manipulacja i techniki podprogowe – systemy AI wykorzystujące techniki manipulacyjne, wprowadzające w błąd lub działające poza świadomością użytkownika.
  • Wykorzystanie słabości osób fizycznych – zakaz dotyczy systemów AI wykorzystujących słabości wynikające z wieku, niepełnosprawności lub sytuacji społeczno-ekonomicznej.
  • Scoring społeczny – klasyfikowanie ludzi na podstawie ich zachowania, cech osobowościowych lub przewidywanych cech.
  • Profilowanie przestępcze – ocena ryzyka popełnienia przestępstwa przez osobę wyłącznie na podstawie jej profilu.
  • Nieukierunkowane pozyskiwanie danych biometrycznych – zakaz zbierania danych biometrycznych z internetu i monitoringu publicznego w celu budowania baz do rozpoznawania twarzy.
  • Analiza emocji w miejscu pracy i edukacji – systemy AI nie mogą być wykorzystywane do oceny emocji w pracy i instytucjach edukacyjnych, chyba że służą celom medycznym lub bezpieczeństwa.
  • Kategoryzacja biometryczna – zakaz systemów klasyfikujących ludzi na podstawie danych biometrycznych w celu określenia ich rasy, przekonań politycznych, przynależności do związków zawodowych, religii czy orientacji seksualnej (z wyjątkiem organów ścigania).
  • Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej – zakazane, chyba że wykorzystanie jest niezbędne do realizacji określonych celów, np. ścigania przestępstw.

AI Literacy – Nowy obowiązek dla firm

Oprócz zakazów, AI Act nakłada również obowiązki edukacyjne. Zgodnie z art. 4 AI Act, dostawcy i użytkownicy systemów AI są zobowiązani do zapewnienia swoim pracownikom odpowiedniego poziomu wiedzy i umiejętności w zakresie sztucznej inteligencji. To oznacza konieczność organizowania szkoleń i podnoszenia kompetencji osób pracujących z AI.

Co oznacza AI Act dla Twojej firmy?

Nowe przepisy dotyczą każdej firmy, która korzysta z systemów AI, wprowadza je do obrotu lub rozwija. Warto już teraz podjąć działania dostosowawcze, aby uniknąć potencjalnych sankcji i ryzyka prawnego.

  • Przeprowadzenie audytu systemów AI – identyfikacja potencjalnie ryzykownych zastosowań AI w organizacji.  
  • Szkolenie pracowników – zapewnienie zgodności z wymogiem AI Literacy.  
  • Dostosowanie polityk wewnętrznych – weryfikacja zgodności z nowymi regulacjami. 

Potrzebujesz wsparcia w dostosowaniu do AI Act? 

Eksperci Kancelarii Destrier pomagają firmom w dostosowaniu się do nowych przepisów AI Act. Skontaktuj się z nami, aby przeprowadzić audyt, opracować strategie zgodności i zapewnić bezpieczeństwo prawne Twojej organizacji. 

 

Skontaktuj się z nami już dziś!