Zákon o umelej inteligencii (AI Act) stanovuje povinnosti pre poskytovateľov a používateľov AI systémov. Ak chcú spoločnosti získať schválenie svojich systémov pre európsky trh a zároveň zabezpečiť, že tieto systémy budú v súlade s ich hodnotami, musia dodržiavať konkrétne princípy. Tieto princípy sú navrhnuté tak, aby podporovali vytváranie „dôveryhodnej AI“.
Princípy dôveryhodnej AI
Pojem dôveryhodná AI označuje vývoj a využívanie umelej inteligencie spôsobom, ktorý je etický, transparentný a zodpovedný. Tento koncept zahŕňa viacero kľúčových princípov, ktoré zabezpečujú, že systémy AI sú spoľahlivé, bezpečné a prinášajú prospech spoločnosti.
- Transparentnosť a vysvetliteľnosť
AI modely musia byť jasne zdokumentované a schopné vysvetliť dôvody svojich rozhodnutí. Používatelia by mali rozumieť, ako a prečo sa rozhodnutia prijímajú. - Bez predsudkov a inkluzívnosť
Systémy AI by mali byť navrhnuté bez zaujatostí a podporovať inkluzívnosť pre všetkých používateľov. Rôznorodosť a reprezentatívnosť tréningových údajov je dôležitejšia ako kedykoľvek predtým. - Odolnosť voči chybám a útokom
AI modely musia byť odolné voči zlyhaniam a kybernetickým útokom. Pravidelné testovanie systémov pomáha identifikovať a riešiť zraniteľnosti. - Ochrana citlivých údajov
Dôležitá je ochrana dôvernosti citlivých údajov. Kľúčovými sú šifrovacie techniky a prísne zásady správy údajov. - Zodpovednosť a nápravné opatrenia
Poskytovatelia a používatelia AI systémov nesú zodpovednosť za svoje konanie a musia prijímať nápravné opatrenia, ak je to potrebné. To zahŕňa robustné monitorovacie systémy na udržanie etických štandardov. - Ľudský dohľad
Napriek automatizácii je dôležité zachovať ľudský dohľad na zabezpečenie etických štandardov a dodržiavania regulačných požiadaviek. - Prínos pre spoločnosť a životné prostredie
AI by mala pozitívne prispievať nielen k technologickému pokroku, ale aj k spoločenskému a environmentálnemu blahobytu.
Zavádzanie dôveryhodnej AI
Na úspešné zavedenie dôveryhodných praktík AI v organizácii je dôležité, aby všetci zapojení členovia tímu rozumeli princípom dôveryhodnej AI a riadili sa nimi. To si vyžaduje:
- kvalitné školenia a programy na zvýšenie povedomia,
- používanie vhodných nástrojov a technológií na monitorovanie a správu modelov AI,
- zavedenie jasných politík, prísnych overovacích postupov a efektívnych mechanizmov na hlásenie incidentov.
Týmto spôsobom môžu organizácie zabezpečiť silné riadenie, súlad s predpismi a dôveryhodnosť svojich systémov AI.
