edulabAI Act w praktyce
Od ogólnych ram regulacyjnych do kwalifikacji systemu wspierającego diagnostykę
Plan wykładu
Część I – AI Act ogólnie
- Czym jest AI Act i po co powstał
- Definicja systemu AI
- Piramida ryzyka – cztery kategorie
- Role: dostawca vs podmiot stosujący
- Obowiązki przekrojowe (AI literacy, transparentność)
- Kalendarz stosowania, nadzór w Polsce, kary
Część II – Case: diagnostyka
- Subsumpcja: czy to system AI?
- Kwalifikacja ryzyka – krok po kroku
- Role i obowiązki w konkretnym wdrożeniu
- Wnioski i pułapki rekwalifikacji
💡Część II nie wprowadza nowych przepisów, tylko stosuje te z Części I do konkretnego produktu.
AI Act – ogólne ramy regulacyjne
Mapa regulacji: czym jest, jak klasyfikuje, kto za co odpowiada
Czym jest AI Act?
- Rozporządzenie UE, pierwszy na świecie kompleksowy reżim prawny dla AI
- Obowiązuje bezpośrednio we wszystkich państwach członkowskich (nie wymaga implementacji jak dyrektywa)
- Łączy bezpieczeństwo produktów i prawa podstawowe: reguluje ryzyko zastosowań, nie „AI jako taką"
Zasada
Podejście oparte na ryzyku
Im wyższe ryzyko dla zdrowia, bezpieczeństwa i praw podstawowych, tym surowsze obowiązki. Większość systemów AI podlega obowiązkom niewielkim albo żadnym.
Definicja systemu AI
System AI to system maszynowy, który:
- działa z różnym poziomem autonomii,
- może wykazywać adaptacyjność po wdrożeniu,
- wnioskuje z danych wejściowych, jak generować wyniki: przewidywania, treści, rekomendacje, decyzje,
- a wyniki wpływają na środowiska fizyczne lub wirtualne.
🔑Słowo „wnioskuje" (infers) odróżnia system AI od zwykłego oprogramowania regułowego.
Test praktyczny: 5 pytań
- system maszynowy?
- przetwarza wejście?
- generuje wynik (predykcja / treść / rekomendacja)?
- wynik wpływa na rzeczywistość?
- zawiera komponent uczący się / wnioskujący?
Piramida ryzyka – cztery kategorie
- Niedopuszczalne: praktyki zakazane (art. 5) → zakaz
- Wysokie: art. 6 + Zał. I i III → pełny reżim (art. 8–17, 72)
- Ograniczone (nazwa umowna): art. 50 → obowiązki transparentności
- Minimalne: reszta → brak obowiązków szczególnych
„Ograniczone ryzyko" to skrót dydaktyczny, nie kategoria ustawowa. Art. 50 kumuluje się z reżimem wysokiego ryzyka; art. 4 dotyczy wszystkich poziomów.
🎯Nasz case przejdzie tę piramidę od góry do dołu metodą eliminacji.
Praktyki zakazane
Bezwzględny zakaz, bo ryzyko dla godności, autonomii i praw podstawowych jest nieusuwalne. Uwaga na kwalifikatory: poza wąskim wariantem wiele z tych zastosowań to „tylko" wysokie ryzyko.
- techniki podprogowe / manipulacyjne powodujące poważną szkodę (a)
- wykorzystywanie szczególnej podatności osób (b)
- scoring społeczny prowadzący do nieproporcjonalnego traktowania (c)
- ocena ryzyka przestępstwa wyłącznie z profilowania / cech osobowości (d)
- bazy twarzy z nieukierunkowanego scrapowania (e)
- rozpoznawanie emocji w pracy i edukacji, poza celami medycznymi / bezpieczeństwa (f)
- kategoryzacja biometryczna wnioskująca o rasie, poglądach, wierze, orientacji (g); inna: wysokie ryzyko
- zdalna identyfikacja biometryczna w czasie rzeczywistym do celów ścigania (h); inna: wysokie ryzyko
- nowość 2026: generowanie treści intymnych bez zgody / CSAM (okres przejściowy do 2.12.2026)
🔑Wspólny mianownik: wszystkie dotyczą ludzi. W case'ie weterynaryjnym brak „człowieka jako przedmiotu oceny" będzie głównym argumentem. Interpretacja: Wytyczne Komisji ws. praktyk zakazanych, C(2025) 5052.
Systemy wysokiego ryzyka
System jest wysokiego ryzyka, gdy spełnia jedną z dwóch ścieżek:
Ścieżka 1 – Załącznik I · art. 6 ust. 1
Produktowa: dwa warunki łącznie
(a) system jest komponentem bezpieczeństwa produktu objętego prawem harmonizacyjnym z Zał. I (np. MDR 2017/745, IVDR 2017/746, maszyny) lub sam jest takim produktem, oraz (b) produkt podlega ocenie zgodności przez stronę trzecią (jednostkę notyfikowaną).
Ścieżka 2 – Załącznik III · art. 6 ust. 2
Obszarowa
System działa w obszarze wysokiego ryzyka dla osób fizycznych: biometria, infrastruktura krytyczna, edukacja, zatrudnienie, dostęp do świadczeń / kredytu / ochrony zdrowia, ściganie, migracja, sądownictwo, procesy demokratyczne. Filtr: art. 6 ust. 3 (brak znaczącego ryzyka, o ile nie profiluje osób).
🎯Obie ścieżki chronią ludzi. „Technicznie mogłoby działać u ludzi" to za mało. Wyrób medyczny klasy I bez jednostki notyfikowanej nie przechodzi warunku (b).
Ograniczone ryzyko – transparentność
Stosuje się od 2 sierpnia 2026, niezależnie od kategorii ryzyka. Obowiązki dostawcy (ust. 1–2) i deployera (ust. 3–4):
🗣 Bezpośrednia interakcja ust. 1 · dostawca
Chatboty, asystenci, agenci → osoba ma wiedzieć, że ma do czynienia z AI, chyba że jest to oczywiste dla rozsądnie poinformowanego użytkownika.
🏷 Treści syntetyczne ust. 2 · dostawca
Syntetyczny obraz / dźwięk / wideo / tekst → oznaczony maszynowo czytelnie i wykrywalny. Wyjątki: standardowa edycja (korekta, tłumaczenie), brak istotnej zmiany wejścia. Streszczenia AI nie korzystają z wyjątku.
Deployer: ust. 3, informowanie o rozpoznawaniu emocji lub kategoryzacji biometrycznej; ust. 4, ujawnianie deepfake'ów i tekstów AI publikowanych w sprawach publicznych. Okres przejściowy (Omnibus): oznaczanie z ust. 2 dla systemów sprzed 2.08.2026 do 2.12.2026. Interpretacja: Wytyczne Komisji do art. 50 (20.07.2026) + Kodeks postępowania ws. oznaczania.
⚠To „trzecia półka" piramidy, a nie „brak obowiązków". W case'ie zaczepem będzie generowany opis tekstowy (ust. 2).
Role: dostawca vs podmiot stosujący
| Dostawca (provider) | Podmiot stosujący (deployer) | |
|---|---|---|
| Kto | rozwija system i wprowadza do obrotu pod własną marką | używa systemu i sprawuje nad nim kontrolę |
| Przykład | producent oprogramowania, SaaS | firma / klinika korzystająca z narzędzia |
| Wyłączenie | – | użycie w ramach osobistej działalności pozazawodowej |
🔑Gdy deployerem jest osoba prawna, poszczególni pracownicy działający pod jej kontrolą nie są odrębnymi deployerami (Wytyczne Komisji ws. praktyk zakazanych, C(2025) 5052, sekcja 2.4, pkt 17–18). Najwięcej obowiązków spoczywa na dostawcy.
Obowiązki przekrojowe – AI literacy
Niezależnie od kategorii ryzyka, dostawcy i deployerzy podejmują środki wspierające rozwój kompetencji AI personelu i osób obsługujących system w ich imieniu. Po Omnibusie (2026/1744) przepis nie wymaga zagwarantowania określonego poziomu u konkretnej osoby; Komisja i państwa wspierają zwłaszcza MŚP. W praktyce personel powinien rozumieć:
- zasady działania i ograniczenia modelu,
- znaczenie wskaźnika pewności / prawdopodobieństwa,
- ryzyko wyników fałszywie dodatnich i ujemnych,
- ryzyko automation bias (nadmiernego zaufania do AI),
- zasady eskalacji błędów i komunikowania ograniczeń.
⚠Art. 4 obowiązuje od 2 lutego 2025, dotyczy wszystkich kategorii i obu ról (klinika-deployer też). Omnibus złagodził brzmienie, ale nie uchylił przepisu. Częsty „ślepy punkt".
Zakres zastosowania
AI Act stosuje się m.in. do:
- dostawców wprowadzających systemy AI do obrotu lub do użytku w UE, niezależnie od siedziby (art. 2 ust. 1 lit. a), także SaaS,
- deployerów mających siedzibę lub znajdujących się w UE (lit. b),
- producentów produktów, którzy pod własną marką wraz z produktem wprowadzają system AI (lit. e), np. producent aparatu USG z modułem AI.
Wyłączenia do sprawdzenia
- prywatne, nieprofesjonalne użycie,
- czynności B+R przed wprowadzeniem na rynek (ale nie testy w warunkach rzeczywistych ani komercyjne udostępnianie).
🔑Nasz case: lit. a dla Vet-View S.A. (dostawca SaaS) i lit. b dla klinik. Lit. e wchodziłaby w grę, gdyby moduł sprzedawał producent aparatu USG.
Kalendarz stosowania, nadzór w Polsce, kary
| Data | Co się stosuje |
|---|---|
| 2.02.2025 | zakazy (art. 5), AI literacy (art. 4) |
| 2.08.2025 | modele GPAI, organy nadzoru, kary |
| 2.08.2026 | transparentność (art. 50) i większość reszty |
| 2.12.2026 | koniec okresu przejściowego: oznaczanie (50 ust. 2) i nowy zakaz |
| 2.12.2027 | wysokie ryzyko Zał. III (Omnibus: z 2.08.2026) |
| 2.08.2028 | wysokie ryzyko Zał. I (Omnibus: z 2.08.2027) |
Polska
Ustawa o systemach sztucznej inteligencji, w mocy od 11.08.2026. Organ nadzoru: KRiBSI (Komisja Rozwoju i Bezpieczeństwa SI); kontrole i kary od 28.10.2026; piaskownice regulacyjne; opinia przed wdrożeniem.
Kary · art. 99
do 35 mln EUR / 7%: praktyki zakazane
do 15 mln EUR / 3%: inne obowiązki (w tym art. 50)
do 7,5 mln EUR / 1%: informacje wprowadzające w błąd
MŚP: niższa z kwot
🔑Wykład odbywa się po 2.08.2026: art. 4 i art. 50 już obowiązują. Omnibus odroczył tylko reżim wysokiego ryzyka.
Case: system wspierający diagnostykę
Vet-View, oprogramowanie AI do analizy obrazów USG w weterynarii
↓ ścieżka subsumpcji: czy to system AI → kategoria ryzyka → role → obowiązki
Vet-View
Oprogramowanie SaaS (Vet-View S.A.) wspierające lekarzy weterynarii. Z obrazu USG system:
- lokalizuje zmianę (ramka → maska / kontur / heatmapa),
- proponuje klasyfikację zmiany,
- podaje prawdopodobieństwo / wskaźnik pewności,
- generuje opis tekstowy do dokumentacji klinicznej.
Zakres przeznaczenia
- 🐕 gatunek – pies
- 🫘 narząd – nerki
- 📡 badanie – USG przezpowłokowe
Model trenowany / walidowany na danych klientów; śledzenie historii badań w czasie.
💡Wynik jest pomocniczy, decyduje lekarz weterynarii.
Czy to w ogóle system AI?
- jest systemem maszynowym
- przetwarza dane wejściowe = obrazy USG
- generuje wyniki: lokalizacja, maska, heatmapa, klasyfikacja, prawdopodobieństwo, opis
- wynik wpływa na proces diagnostyczny lekarza
- zawiera komponent AI trenowany na danych
Pozytywna odpowiedź otwiera pytanie o kategorię ryzyka.
Czy zakazany?
- techniki podprogowe / manipulacja? nie
- scoring społeczny? nie
- identyfikacja / kategoryzacja biometryczna ludzi? nie
- rozpoznawanie emocji, predykcja przestępczości? nie
- treści intymne bez zgody / CSAM (nowy zakaz 2026)? nie
Wszystkie zakazy z art. 5 dotyczą ludzi, a tu „obiektem" jest nerka psa. Schodzimy piętro niżej.
Czy wysokiego ryzyka?
Komponent bezpieczeństwa USG? NIE
- nie steruje bezpieczeństwem aparatu,
- nie zapobiega niebezpiecznej pracy urządzenia,
- nie kontroluje emisji ultradźwięków,
- jedynie lokalizuje i klasyfikuje zmianę, czyli daje informację pomocniczą.
Wyrób medyczny (MDR/IVDR)? NIE
MDR obejmuje wyroby do stosowania u ludzi; to oprogramowanie do USG wyłącznie weterynaryjnego. Fakt, że technicznie analogiczny software mógłby działać u ludzi, nie czyni go wyrobem medycznym. Warunku (b), oceny przez jednostkę notyfikowaną, nie trzeba już badać.
🎯Kwalifikacja idzie za przeznaczeniem (intended purpose), nie za „teoretyczną możliwością".
Czy wysokiego ryzyka?
Załącznik III chroni osoby fizyczne i ich prawa. Vet-View:
- nie identyfikuje ani nie kategoryzuje ludzi,
- nie rozpoznaje emocji osób,
- nie dotyczy infrastruktury krytycznej, edukacji, zatrudnienia,
- nie decyduje o dostępie ludzi do świadczeń, kredytu, ochrony zdrowia,
- nie używają go organy ścigania, migracyjne ani sądy,
- nie wpływa na procesy demokratyczne.
🎯Rozstrzygnął kontekst: zwierzęta, nie ludzie. Ta sama architektura w USG dla ludzi → wyrób medyczny → potencjalnie wysokie ryzyko.
Ląduje na: ograniczone ryzyko
Nie wysokiego ryzyka, ale też nie czysto minimalnego, bo aktualizuje się art. 50 ust. 2:
- opis tekstowy do dokumentacji = syntetyczny tekst; streszczenie AI nie mieści się w wyjątku „standardowej edycji" → obowiązek oznaczenia,
- ramki / maski / heatmapy / prawdopodobieństwo = wyniki analityczne, nie syntetyczny obraz → oznaczenie jako dobra praktyka,
- ust. 1 (interakcja): GUI dla lekarza to nie chatbot, a użycie AI jest dla profesjonalisty oczywiste → nie na tym opiera się kwalifikacja.
➡Obowiązki transparentności z art. 50 („ograniczone ryzyko").
⚠Kwalifikacja wisi na generatorze tekstu: sama ramka + klasa byłyby bliżej minimalnego ryzyka. Dostawca musi stale monitorować zmiany funkcjonalne.
Kto jest kim?
art. 3 pkt 3
Vet-View S.A. = DOSTAWCA
- sam rozwija moduł AI,
- oferuje produkt jako SaaS pod własną marką,
- udostępnia go gabinetom i klinikom w UE.
art. 3 pkt 4
Klienci = DEPLOYERZY
Gabinety, lecznice, kliniki, laboratoria używają systemu i sprawują nad nim kontrolę.
Poszczególni weterynarze nie są odrębnymi deployerami, działają w ramach podmiotu.
🔑Większość obowiązków spoczywa na dostawcy, czyli Vet-View S.A.
AI literacy i transparentność
AI literacy (art. 4)
Środki wspierające kompetencje: szkolenia dla R&D, sprzedaży i serwisu; materiały dla klientów i weterynarzy; aktualizacja po każdej istotnej zmianie modelu. Klinika-deployer ma własny obowiązek z art. 4.
Transparentność (art. 50)
- opis tekstowy (obowiązek, ust. 2): oznaczony maszynowo czytelnie (metadane / C2PA), trwale po wklejeniu do dokumentacji,
- interfejs (dobra praktyka): „wygenerowane przez AI, pomocnicze, wymaga weryfikacji",
- dokumentacja i warstwy graficzne (dobra praktyka): przeznaczenie, ograniczenia, human oversight; heatmapa i kontur jako warstwy AI.
🔑Poziom 1 to wprost obowiązek oznaczania treści syntetycznych; 2–3 to ostrożnościowa nadwyżka. Obowiązki deployera z art. 50 ust. 3–4 nie mają zastosowania.
Utrzymanie przeznaczenia (intended purpose)
Pełna spójność komunikatu między: dokumentacją techniczną, instrukcją, regulaminem SaaS, umową, marketingiem, stroną www, prezentacjami i komunikatami w aplikacji.
🚫Zakazane sformułowania (przesuwające produkt w stronę wyrobu medycznego):
- „system diagnozuje choroby nerek", „automatyczna diagnoza"
- „zastępuje lekarza", „wykrywa nowotwory"
- „medyczny system AI", „dla USG" (bez dookreślenia: weterynaryjnego)
🎯Język marketingu ma skutki prawne. Nieostrożny copywriting może zmienić kwalifikację produktu.
Zarządzanie zmianami modelu
AI Act nie nakłada pełnego lifecycle compliance poza wysokim ryzykiem. Przy modelu SaaS trenowanym na danych klientów dostawca powinien jednak prowadzić kontrolę zmian i dokumentować:
- wersję modelu, daty wdrożeń, zmiany architektury i zbiorów treningowych,
- zmiany progów decyzyjnych i kategorii klasyfikacji,
- wpływ na dokładność, czułość, swoistość,
- wpływ na porównywalność wyników historycznych, procedurę rollback, komunikację do klientów.
⚠System ma umożliwiać śledzenie historii badań w czasie, bo zmiana modelu między badaniami może ograniczyć porównywalność wyników.
GPAI (art. 53): jeśli opis generuje zewnętrzny model przez API, obowiązki modelu spoczywają na jego dostawcy; Vet-View pozostaje dostawcą systemu, chyba że istotnie zmodyfikuje model.
Ścieżka subsumpcji w jednej tabeli
| Krok | Pytanie | Podstawa prawna | Wniosek |
|---|---|---|---|
| 1 | Czy to system AI? | art. 3 pkt 1 | Tak |
| 2a | Czy zakazany? | art. 5 | Nie |
| 2b | Czy wysokiego ryzyka? | art. 6, zał. I i III | Nie |
| 2c | Która kategoria? | art. 50 ust. 2 | Transparentność („ograniczone ryzyko") |
| 3 | Kto jest kim? | art. 3 pkt 3 i 4 | Dostawca = Vet-View S.A.; deployer = klinika |
| 4 | Czy AI Act ma zastosowanie? | art. 2 ust. 1 lit. a / b | Tak, bez wyłączeń |
| 5 | Jakie obowiązki? | art. 4, 50 ust. 2, 3 pkt 12, 53 | Literacy (obie role), oznaczanie tekstu AI, intended purpose, kontrola zmian |
| 6 | Od kiedy, kto nadzoruje? | art. 113, 99; ustawa o systemach AI | art. 4 od 2.02.2025, art. 50 od 2.08.2026; KRiBSI |
Czego uczy ten case
- Metoda zawsze ta sama: system AI? → kategoria ryzyka (eliminacja od góry) → role → obowiązki.
- Kwalifikacja idzie za przeznaczeniem, nie za technicznymi możliwościami („mogłoby działać u ludzi" nie czyni z niego wyrobu medycznego).
- „Ograniczone ryzyko" to nie brak obowiązków: transparentność (art. 50) i AI literacy (art. 4) obowiązują.
- Język produktu ma skutki prawne, marketing może przesunąć produkt w górę piramidy.
- Kwalifikacja jest dynamiczna, nowe funkcje (ocena ludzi, profilowanie) mogą wymagać rekwalifikacji.
- Kwalifikacja wisi na konkretnym wyniku: art. 50 ust. 2 uruchamia generator opisu, nie ramki i heatmapy.
Do przemyślenia
- Co zmieniłoby się w analizie, gdyby produkt był przeznaczony dla ludzi (USG medyczne)?
- Jakie funkcje przesunęłyby produkt do kategorii wysokiego ryzyka lub zakazanej?
- Trenowanie modelu na danych klientów: jakie obowiązki rodzi to dodatkowo na gruncie RODO?
- Jak technicznie oznaczyć opis (obowiązek) i heatmapę (dobra praktyka) jako treść wygenerowaną przez AI, tak by oznaczenie przetrwało wklejenie do dokumentacji?
- Kto odpowiada, gdy lekarz bezkrytycznie zaufa błędnemu wynikowi (automation bias)? Wskazówka: dyrektywa AI Liability wycofana (2025); nowa dyrektywa produktowa (UE) 2024/2853 obejmuje AI od 9.12.2026.
- Gdyby Vet-View zwracał tylko ramkę i klasę, bez opisu, czy art. 50 nadal by obowiązywał?
edulabDziękuję za uwagę
Compliance to proces, nie
jednorazowa czynność
Stan prawny: wrzesień 2026 · rozporządzenie (UE) 2024/1689 ze zm. 2026/1744 · ustawa o systemach AI
Materiał dydaktyczny · przykład ilustracyjny · nie stanowi porady prawnej