Dlaczego firmy potrzebują jasno określonej odpowiedzialności
Sztuczna inteligencja trafia do coraz większej liczby firm – często szybciej, niż udaje się stworzyć niezbędne ramy. Tymczasem dla zgodnego z prawem korzystania z AI kluczowe są jasno przypisane obowiązki, rzetelny przegląd używanych systemów i wiążące zasady dla pracowników. Na pierwszy plan wysuwa się więc rola pełnomocnika ds. sztucznej inteligencji (AI).
AI Act jako nowe ramy prawne
Welche Anforderungen Unternehmen nach der KI-Verordnung erfüllen müssen, hängt insbesondere davon ab, ob sie als Anbieter oder Betreiber eines KI-Systems auftreten und welche Funktionen beziehungsweise Risiken mit dem jeweiligen System verbunden sind.
Zu den möglichen Anforderungen gehören insbesondere:
Die Anforderungen sind daher für jedes eingesetzte KI-System unter Berücksichtigung der jeweiligen gesetzlichen Vorgaben zu prüfen.
Rola pełnomocnika ds. AI
Jednym ze sposobów koordynowania wykorzystania AI w firmie jest wyznaczenie pełnomocnika ds. sztucznej inteligencji (AI). Skupia on w jednym miejscu wymogi organizacyjne i prawne związane z wykorzystaniem AI i jest centralną osobą kontaktową dla zarządu, działów merytorycznych i pracowników.
Do jego typowych zadań należą w szczególności:
Ponadto pełnomocnik ds. AI pełni w firmie istotną funkcję koordynacyjną.
Der KI-Beauftragte als zentrale Schnittstelle im Unternehmen
Stosowanie AI zwykle dotyczy kilku obszarów firmy i różnych dziedzin wiedzy. Trzeba uwzględnić m.in. kwestie ochrony danych, wymogi bezpieczeństwa informacji oraz inne aspekty prawne, np. prawo autorskie. W zależności od obszaru zastosowania konieczny może być też udział rady zakładowej.
Dlatego o tym, czy i na jakich warunkach można wdrożyć daną aplikację AI, z reguły nie jest w stanie przesądzić jedna osoba. Konieczne jest zebranie i uzgodnienie ocen merytorycznych wszystkich zaangażowanych obszarów.
Genau hier setzt der KI-Beauftragte an. Er koordiniert den Abstimmungsprozess zwischen den betroffenen Fachbereichen – insbesondere IT, Datenschutz, Informationssicherheit, Recht und Compliance – und bindet, soweit erforderlich, auch den Betriebsrat frühzeitig ein. Damit unterstützt er das Unternehmen dabei, relevante Anforderungen frühzeitig zu berücksichtigen, Zuständigkeiten zu klären und Entscheidungen nachvollziehbar zu dokumentieren. Die Verantwortung der Geschäftsleitung und der jeweils zuständigen Fachbereiche bleibt davon unberührt.
Zasada: brak ustawowego obowiązku wyznaczenia
Trzeba wyraźnie podkreślić, że AI Act nie przewiduje obowiązku wyznaczenia pełnomocnika ds. AI. W przeciwieństwie do RODO, które w określonych przypadkach wymaga wyznaczenia inspektora ochrony danych (IOD), AI Act nie zawiera takiego przepisu. Firmy mogą więc co do zasady same zdecydować, jak organizacyjnie zapewnią przestrzeganie wymogów AI Act.
Podsumowanie
Kto chce zachować kontrolę nad stosowaniem AI, potrzebuje jasnych struktur i przypisanych obowiązków. Choć AI Act nie zobowiązuje firm do wyznaczenia pełnomocnika ds. AI, warto odpowiednio wcześnie powierzyć koordynację stosowania AI konkretnej osobie lub komórce.
Szczególnie dla małych i średnich firm zewnętrzny pełnomocnik ds. AI może być rozwiązaniem efektywnym i sprawdzającym się w praktyce. Pozwala skupić odpowiedzialność w jednym miejscu, ujednolicić procesy wewnętrzne i trwale wpisać wymogi AI Act w codzienne funkcjonowanie firmy.
Wskazówki praktyczne
FAQ
Co AI Act reguluje w odniesieniu do firm?
AI Act tworzy jednolite europejskie ramy prawne dla stosowania sztucznej inteligencji. Jest skierowany nie tylko do dostawców, lecz także do firm korzystających z systemów AI. To, jakie obowiązki mają zastosowanie, zależy przede wszystkim od roli danej firmy i od kategorii ryzyka systemu AI.
Jakie obowiązki mogą wynikać z AI Act?
Je nach Rolle des Unternehmens und Art des eingesetzten KI-Systems können sich unterschiedliche Pflichten ergeben. Dazu gehören insbesondere Maßnahmen zur Sicherstellung ausreichender KI-Kompetenz, bestimmte Transparenz- und Informationspflichten sowie bei Hochrisiko-KI-Systemen weitergehende Anforderungen an Risikomanagement, Dokumentation und menschliche Aufsicht. Nicht sämtliche Pflichten gelten für jedes KI-System gleichermaßen.
Jakie zadania ma pełnomocnik ds. AI?
Pełnomocnik ds. AI może centralnie koordynować stosowanie AI w firmie. Do jego typowych zadań należą prowadzenie rejestru AI, ocena wymogów regulacyjnych i ryzyk, tworzenie procesów zatwierdzania i kontroli, opracowywanie wewnętrznych zasad korzystania z AI oraz koordynacja szkoleń.
Dlaczego przy stosowaniu AI warto zapewnić centralną koordynację?
Aplikacje AI często dotyczą jednocześnie kilku działów. Oprócz ochrony danych i bezpieczeństwa informacji istotne mogą być np. kwestie prawne, autorskoprawne oraz związane z uprawnieniami rady zakładowej. Pełnomocnik ds. AI może koordynować pracę zaangażowanych komórek i dbać o to, by kompetencje były jasno określone, a decyzje udokumentowane.
Czy firmy muszą wyznaczyć pełnomocnika ds. AI?
Nie. AI Act nie przewiduje ogólnego obowiązku wyznaczenia pełnomocnika ds. AI. Firmy mogą co do zasady same zdecydować, jak organizacyjnie zapewnią spełnienie wymogów.
Jakie środki organizacyjne powinny podjąć firmy stosujące AI?
Firmy powinny prowadzić ewidencję używanych systemów AI, jasno przypisać odpowiedzialność, opracować wewnętrzne zasady korzystania z AI, szkolić pracowników, odpowiednio wcześnie angażować zainteresowane działy oraz w przejrzysty sposób dokumentować zatwierdzenia i oceny ryzyka.
