ETICKÉ OTÁZKY UMELÉJ INTELIGENCIE
Vzostup umelej inteligencie umožnil riešiť mnohé problémy. No rovnako ako pri akomkoľvek technologickom pokroku, AI prináša nové otázky, najmä v oblasti etiky.
Modely umelej inteligencie sú trénované na historických údajoch, ktoré môžu byť zaujaté, a tým pádom ovplyvniť aj model.
Napríklad, ak spoločnosť v minulosti najímala viac mužov ako žien a pohlavie môže byť odvodené zo životopisu, model môže uprednostňovať mužov pred ženami. Toto je jednoduchý príklad, no iné zaujatosti môžu byť oveľa ťažšie identifikovateľné.
Ďalším známym príkladom je chatbot, ktorý bol trénovaný na správach zo sociálnych sietí. Ak chatbot dostane veľké množstvo škodlivých alebo násilných správ, môže ich začať generovať aj on sám.
Ak sa takýto problém odhalí, algoritmus musí byť pozastavený, kým sa problém nevyrieši.
AKO PREDCHÁDZAŤ ZAUJATOSTI
Ako teda predísť účinkom zaujatosti? Už pri návrhu modelov je možné prijať niektoré opatrenia:
- Kontrolujte kvalitu trénovacích údajov – ponechajte len najrelevantnejšie premenné.
- Korigujte existujúce zaujatosti pomocou štatistických techník.
- Zabezpečte vysvetliteľnosť modelov – transparentnosť algoritmov je kľúčovou otázkou pre AI.
ROZVOJ REGULÁCIÍ UMELÉJ INTELIGENCIE
Na podporu týchto zmien už boli zavedené viaceré regulácie.
V Európskej únii poskytuje GDPR ochranu proti zneužitiu osobných údajov. Organizácie sú preto nútené navrhovať algoritmy, ktoré nevyužívajú osobné údaje zákazníkov, zamestnancov alebo reklamných cieľov. Podobné regulácie boli prijaté aj inde vo svete, ako napríklad Kalifornský zákon o ochrane spotrebiteľov (CCPA).
Nedávno bol prijatý Zákon o umelej inteligencii (AI Act), ktorý poskytuje regulačný a etický rámec pre využitie AI v Európskej únii. AI Act kategorizuje aplikácie umelej inteligencie podľa úrovne rizika:
- Neprijateľné – napr. manipulácia správania alebo sociálne hodnotenie (zakázané).
- Vysoko rizikové – musia spĺňať určité požiadavky, ako technická dokumentácia, záznamy o aktivitách, vysvetliteľnosť systémov pre používateľov.
CIEĽ?
Vytvoriť etickú, udržateľnú a inkluzívnu kultúru umelej inteligencie, ktorá bude prospešná pre všetkých aktérov – od dodávateľov, cez distribútorov, až po používateľov.