Komisja Europejska opublikowała wytyczne dotyczące definicji systemu AI, aby ułatwić stosowanie przepisów AI Act. To kluczowy krok w kierunku uregulowania sztucznej inteligencji w UE.

Wdrażanie Aktu o sztucznej inteligencji (AI Act) nabiera tempa, a wraz z nim rośnie liczba pytań ze strony przedsiębiorców. Od 2 lutego 2024 roku obowiązują już pierwsze przepisy, w tym te dotyczące zakazanych praktyk AI oraz kluczowa dla całego rozporządzenia definicja systemu AI. Wiele firm zadaje sobie fundamentalne pytanie: czy oprogramowanie, z którego korzystamy lub które tworzymy, w ogóle podlega nowym regulacjom?  

Odpowiedź na to pytanie jest pierwszym i najważniejszym krokiem na drodze do zgodności z AI Act. Aby wesprzeć biznes w tej kluczowej ocenie, Komisja Europejska opublikowała projekt wytycznych dotyczących definicji systemu AI. Ten dokument, choć formalnie niewiążący, stanowi de facto instrukcję, która ma ułatwić zrozumienie i praktyczne stosowanie tego pojęcia. To od prawidłowej interpretacji definicji zależy, czy dana technologia zostanie objęta regulacjami, a jeśli tak, to jakim obostrzeniom będzie podlegać.

Dlaczego definicja systemu AI jest fundamentem całego AI Act?

Akt o sztucznej inteligencji opiera się na podejściu warstwowym, klasyfikując systemy AI według poziomu ryzyka, jakie stwarzają dla praw i bezpieczeństwa obywateli UE. To właśnie ta klasyfikacja determinuje zakres obowiązków nałożonych na dostawców i użytkowników technologii.  

Piramida ryzyka w AI Act obejmuje cztery główne poziomy:

  1. Ryzyko niedopuszczalne: Praktyki całkowicie zakazane, takie jak scoring społeczny czy manipulacja podprogowa.  
  2. Ryzyko wysokie: Systemy stosowane w krytycznych obszarach (np. rekrutacja, ocena zdolności kredytowej, infrastruktura krytyczna), które podlegają rygorystycznym wymogom dotyczącym m.in. zarządzania ryzykiem, jakości danych i nadzoru ludzkiego.
  3. Ryzyko ograniczone: Systemy podlegające obowiązkom transparentności, np. chatboty, które muszą informować użytkownika, że interakcja odbywa się z maszyną.
  4. Ryzyko minimalne lub jego brak: Większość systemów AI, które nie podlegają dodatkowym obowiązkom.

Definicja systemu AI jest „bramą” do tej klasyfikacji. Prawidłowa identyfikacja, czy dana technologia jest systemem AI w rozumieniu AI Act, jest absolutnie fundamentalna. Błędna ocena na tym etapie – na przykład uznanie, że system nie podlega regulacji, podczas gdy w rzeczywistości jest systemem wysokiego ryzyka – może prowadzić do poważnych konsekwencji prawnych i finansowych. Wytyczne Komisji mają pomóc firmom uniknąć takich pomyłek i dokonać właściwej oceny.

Co zawierają wytyczne KE i jak pomagają w praktyce?

Projekt wytycznych opublikowany przez Komisję Europejską ma na celu przełożenie skomplikowanego języka prawnego na praktyczne wskazówki dla biznesu. Dokument wyjaśnia, jak należy rozumieć poszczególne elementy definicji systemu AI zawartej w rozporządzeniu i jak stosować je w odniesieniu do konkretnych technologii.  

Kluczowe aspekty wytycznych:

  • Praktyczne podejście: Wytyczne prezentują praktyczne zastosowanie prawnego konceptu systemu AI, oferując swego rodzaju „checklistę” lub drzewo decyzyjne, które ma pomóc firmom w samodzielnej ocenie ich technologii.  
  • Charakter niewiążący: Należy podkreślić, że wytyczne nie są prawnie wiążące. Ostateczna i autorytatywna interpretacja przepisów AI Act należy do Trybunału Sprawiedliwości Unii Europejskiej (TSUE). Mimo to, stanowią one kluczowe źródło wiedzy o tym, jak organy regulacyjne będą podchodzić do egzekwowania prawa.  
  • Dynamiczny charakter: Komisja Europejska zaznacza, że dokument będzie aktualizowany wraz z postępem technologicznym i pojawianiem się nowych, nieprzewidzianych dziś zastosowań AI. Oznacza to, że zgodność z AI Act nie jest jednorazowym zadaniem, lecz ciągłym procesem wymagającym monitorowania zmian w otoczeniu regulacyjnym.

Jak przygotować firmę? Krok po kroku do zgodności z definicją AI

Publikacja wytycznych to wyraźny sygnał, że firmy powinny podjąć proaktywne działania. Poniższa checklista pomoże uporządkować ten proces:

  1. Inwentaryzacja Technologii: Przeprowadź szczegółowy audyt i stwórz mapę wszystkich systemów i narzędzi wykorzystywanych w organizacji, które mogą zawierać komponenty sztucznej inteligencji.
  2. Analiza z Użyciem Wytycznych: Dla każdego zidentyfikowanego systemu dokonaj oceny, czy spełnia on kryteria „systemu AI” określone w AI Act, posługując się ramami i przykładami zawartymi w wytycznych Komisji Europejskiej.
  3. Dokumentacja Procesu: Skrupulatnie dokumentuj cały proces analityczny oraz jego ostateczne wnioski dla każdego systemu. Taka dokumentacja będzie kluczowym dowodem należytej staranności w przypadku ewentualnej kontroli organu nadzoru.
  4. Dalsza Klasyfikacja Ryzyka: Jeżeli system zostanie zakwalifikowany jako system AI, przejdź do kolejnego etapu, czyli oceny jego poziomu ryzyka zgodnie z kategoryzacją AI Act.
  5. Monitoring Regulacyjny: Ustanów w organizacji proces stałego monitorowania zmian prawnych, w tym przyszłych aktualizacji wytycznych KE, aby zapewnić ciągłość zgodności.

Powiązane dokumenty i dalsze kroki

Opublikowane  wytyczne  uzupełniają  wcześniejsze  Wytyczne dotyczące zakazanych praktyk w zakresie sztucznej inteligencji.  Komisja  Europejska  zatwierdziła  projekt  wytycznych,  jednak  nie  zostały  one  jeszcze  formalnie  przyjęte.  Oczekuje  się,  że  w  niedalekiej  przyszłości  proces  ten  zostanie  sfinalizowany.

Znaczenie dla kancelarii prawnej

Dla kancelarii  prawnej  zrozumienie  i  bieżące  monitorowanie  wytycznych  dotyczących  definicji  systemu  AI  jest  kluczowe  dla  doradztwa  prawnego  w  zakresie  AI Act.  Kancelaria  powinna  być  przygotowana  na  wspieranie  klientów  w  procesie  wdrażania  przepisów  dotyczących  sztucznej  inteligencji,  w  tym  w  zakresie  identyfikacji  i  klasyfikacji  systemów  AI.

Podsumowanie

Publikacja  wytycznych  dotyczących  definicji  systemu  AI  to  istotny  krok  w  procesie  wdrażania  AI Act.  Dokument  ten  ma  na  celu  ułatwienie  zrozumienia  i  stosowania  przepisów  dotyczących  sztucznej  inteligencji,  w  szczególności  w  zakresie  identyfikacji  i  klasyfikacji  systemów  AI.  Dla  kancelarii  prawnej  jest  to  sygnał  do  intensyfikacji  działań  w  obszarze  doradztwa  prawnego  w  zakresie  technologii  AI.

Skontaktuj się z nami już dziś!