Úvod: Prečo je bezpečnosť a etika AI dôležitá pre vaše podnikanie

Od chatbotov, ktoré slúžia 24-hodinovým zákazníkom, až po algoritmy, ktoré predpovedajú dopyt, AI sľubuje zvýšenie efektívnosti a ziskovosti.

Podľa správy Deloitte z roku 2023 čelilo v posledných dvoch rokoch bezpečnostným rizikám súvisiacim s AI 67% spoločností. Únik údajov, algoritmická zaujatosť a nedostatok transparentnosti patria medzi hlavné problémy. Implementácia AI bez ohľadu na bezpečnosť a etiku je nielen riskantná, ale aj potenciálne nezákonná.

Táto príručka vás oboznámi s kľúčovými výzvami, povinným dodržiavaním predpisov a postupmi, ktoré musíte vedieť, aby ste mohli AI používať zodpovedne.

Kľúčové bezpečnostné riziká v AI

Únik údajov a súkromie

Modely AI sa pri fungovaní spoliehajú na veľké objemy údajov. Čím viac údajov, tým lepšie školenie, ale aj väčšie riziko. Ak tieto údaje zahŕňajú informácie od zákazníkov, zamestnancov alebo duševného vlastníctva, bezpečnostný incident môže byť katastrofálny.

Hackeri často miriam v systémoch AI, pretože ukladajú cenné údaje. V roku 2022 utrpela Open AI incident, keď používatelia mali prístup k citlivým informáciám. Spoločnosti ako Google a Microsoft implementujú šifrovanie v pokoji a pri prenose na ochranu údajov vložených do ich modelov AI.

Praktická akcia: Implementovať obmedzený prístup založený na rolách (RBAC). Vyžadovať od predajcov AI, aby podpísali dohody o ochrane údajov (dohody o spracovaní údajov).

Protichodné útoky a manipulácia s modelmi

Nepriateľské útoky zneužívajú zraniteľné miesta v modeloch AI. Útočník môže zadať údaje špeciálne navrhnuté na oklamanie algoritmu. Napríklad menšie úpravy obrázka môžu spôsobiť úplné zlyhanie systému rozpoznávania tváre.

Banky a finančné inštitúcie sú obzvlášť zraniteľné, pretože používajú AI na odhaľovanie podvodov. Ak je model podvedený, podvodné transakcie zostávajú nepovšimnuté. Výskumníci Carnegie Mellon v roku 2023 preukázali, že určité neviditeľné vzory môžu znížiť presnosť modelov počítačového videnia z 99% na menej ako 10%.

Praktická akcia: Otestujte svoje modely proti súperom interne (kontraverzálne testovanie).Monitorujte anomálie vo vstupných vzorcoch. Počas vývoja používajte techniky, ako je napríklad tréning protivníka.

Algoritmická zaujatosť: Keď AI rozlišuje

Zaujatosť AI nie je len etická záležitosť - je to právne a finančné riziko. Ak váš systém AI diskriminuje kandidátov podľa pohlavia, rasy alebo veku, vaša spoločnosť čelí ťažkým súdnym sporom a pokutám.

V roku 2018 sa zistilo, že náborový systém AI Amazonu uprednostňuje mužov pred ženami v inžinierstve. Amazon vyškolil model s 10-ročnou históriou náboru „TO odrážalo už existujúcu ľudskú zaujatosť.

K zaujatosti dochádza, pretože historické údaje často odrážajú minulú diskrimináciu. Ak trénujete model s údajmi, ktoré ukazujú, že muži zarábajú v určitých rolách viac ako ženy, model sa tento vzor naučí a reprodukuje.

Ako zistiť a zmierniť zaujatosť

Audit údajov: Preskúmajte, či vaše tréningové údaje nadmerne reprezentujú určité skupiny. Súbor údajov 90% mužov nepredstavuje realitu. Skúste vyvažovať údaje, ak je to možné, alebo použite techniky opätovného váženia.

Testovanie podskupín: Nehodnoťte svoj model len vo všeobecnom priemere. Výkonnostný test u mužov, žien, rôznych vekových skupín, geografických oblastí. Ak model funguje dobre pre bielych mužov, ale zlyháva pre čierne ženy, existuje zaujatosť.

Transparentnosť pri rozhodovaní: Ak model popiera kredit, prácu alebo službu, používateľ by mal vedieť prečo. Najmä v kontextoch s vysokou dôležitosťou (zamestnanie, úver, spravodlivosť) je implementácia vysvetliteľnosti (XAI) nielen etická, ale aj právne vyžadovaná vo viacerých jurisdikciách.

Praktická akcia: Najmite si odborníkov na spravodlivosť AI alebo posilnite interné tímy. Nástroje ako AI Fairness 360 (IBM) a Fairlearn (Microsoft) pomáhajú programovo odhaliť zaujatosť.

Súlad s právnymi predpismi: Predpisy, ktoré potrebujete vedieť

Všeobecný zákon o ochrane údajov (LGPD)

V Brazílii LGPD (zákon 13,709/2018) stanovuje prísne pravidlá zhromažďovania, uchovávania a používania osobných údajov, Ak vaša AI spracováva údaje od Brazílčanov, podliehate LGPD.

Zákon vyžaduje: výslovný súhlas pred zhromažďovaním údajov, právo na prístup k tomu, aké údaje máte, právo na vymazanie (právo byť zabudnutý) a oznámenie v prípade úniku. Pokuty dosahujú až 50 miliónov R $ alebo 2% z príjmov, podľa toho, ktorá hodnota je vyššia.

Pre AI LGPD tiež obmedzuje plne automatizované rozhodovanie nesmiete použiť čistý algoritmus na odmietnutie zamestnania, úveru alebo služby bez ľudskej kontroly.

Európske nariadenie o AI (zákon o AI)

Európska únia schválila v roku 2023 zákon o umelej inteligencii, najprísnejšiu reguláciu na svete. UI klasifikuje do rizikových kategórií: zakázané (napr. nepretržité rozpoznávanie tváre na verejných priestranstvách), vysoko rizikové (napr. nábor, kredit), stredné riziko a minimálne riziko.

V prípade vysokorizikových systémov požiadavky zahŕňajú: úplnú technickú dokumentáciu, testovanie pred spustením, monitorovanie po spustení a úradníka pre dodržiavanie predpisov.

Praktická akcia: Zoraďte svoje systémy AI podľa kategórie rizika. Pre vysoké riziko je povinné vedenie podrobnej dokumentácie. Zvážte konzultáciu s odbornými právnikmi AI.

Norma ISO/IEC 42001 pre riadenie rizík v AI

Tento medzinárodný štandard, publikovaný v roku 2023, poskytuje usmernenia na implementáciu bezpečného systému riadenia AI. Nie je to právne povinné, ale stáva sa očakávaním trhu a IS najmä medzi veľkými spoločnosťami a verejnými orgánmi, ktoré si prenajímajú služby AI.

Norma zahŕňa: riadenie AI, identifikáciu rizík, komunikáciu so zainteresovanými stranami a nepretržitý audit.

Najlepšie postupy pre bezpečnú a etickú implementáciu

Robustné riadenie AI

Vytvorte interný výbor AI, ktorý zahŕňa: technických expertov, právnych expertov, zástupcov pre dodržiavanie predpisov a obchodných lídrov. Tento výbor by mal pred implementáciou vyhodnotiť každý nový projekt AI, pričom by mal zvážiť právne, etické a bezpečnostné riziká.

Dokumentovať všetky rozhodnutia.Keď je projekt schválený, zaznamenať, kto ho schválil, za akých podmienok, a kto je zodpovedný za nepretržité monitorovanie.

Monitorovanie po spustení (nepretržité monitorovanie)

AI nie je