Uvod: Zašto su sigurnost i etika umjetne inteligencije važni za vaše poslovanje

Od chatbota koji opslužuju 24-satne kupce do algoritama koji predviđaju potražnju, AI obećava povećanje učinkovitosti i profitabilnosti.

Prema izvješću Deloittea iz 2023. godine, 67% tvrtki suočilo se u posljednje dvije godine sa sigurnosnim rizicima povezanima s umjetnom inteligencijom.Curenje podataka, algoritamska pristranost i nedostatak transparentnosti među glavnim su pitanjima.Implementacija umjetne inteligencije bez obzira na sigurnost i etiku nije samo rizična, već je i potencijalno nezakonita.

Ovaj vodič upoznaje vas s ključnim izazovima, obveznom usklađenošću i praksama koje morate znati kako biste odgovorno koristili AI.

Ključni sigurnosni rizici u umjetnoj inteligenciji

Curenje podataka i privatnost

AI modeli se oslanjaju na velike količine podataka za funkcioniranje.Što više podataka, to je bolja obuka, ali i veći rizik.Ako ti podaci uključuju informacije od kupaca, zaposlenika ili intelektualnog vlasništva, sigurnosni incident može biti katastrofalan.

Hakeri se često odražavaju u AI sustavima jer pohranjuju vrijedne podatke. U 2022. Open AI pretrpio je incident u kojem su korisnici mogli pristupiti osjetljivim informacijama. Tvrtke poput Googlea i Microsofta implementiraju enkripciju u mirovanju i u tranzitu kako bi zaštitile podatke unesene u svoje AI modele.

Praktična akcija: Implementirajte ograničeni pristup temeljen na ulogama (RBAC). Zahtijevati od dobavljača umjetne inteligencije da potpišu ugovore o zaštiti podataka (Ugovori o obradi podataka).

Suparnički napadi i manipulacija modelima

Suparnički napadi iskorištavaju ranjivosti u AI modelima. Napadač može unijeti podatke posebno dizajnirane da prevare algoritam. Na primjer, manje izmjene slike mogu uzrokovati potpuni kvar sustava za prepoznavanje lica.

Banke i financijske institucije posebno su ranjive jer koriste umjetnu inteligenciju za otkrivanje prijevara. Ako je model prevaren, lažne transakcije prolaze nezapaženo. Istraživači Carnegieja Mellona pokazali su 2023. da određeni nevidljivi obrasci mogu smanjiti točnost modela računalnog vida s 99% na manje od 10%.

Praktična akcija: Interno testirajte svoje modele protiv protivnika (suparničko testiranje). Pratite anomalije u obrascima unosa. Koristite tehnike kao što je kontradiktorni trening tijekom razvoja.

Algoritamska pristranost: kada umjetna inteligencija diskriminira

AI pristranost nije samo etičko pitanje - to je pravni i financijski rizik.Ako vaš AI sustav diskriminira kandidate prema spolu, rasi ili dobi, vaša se tvrtka suočava s teškim tužbama i kaznama.

Godine 2018. otkriveno je da Amazonov AI sustav zapošljavanja daje prednost muškarcima u odnosu na žene u inženjerstvu. Amazon je obučavao model s 10 godina povijesti zapošljavanja, a IT je odražavao već postojeću ljudsku pristranost.

Pristranost se događa jer povijesni podaci često odražavaju prošle diskriminacije. Ako trenirate model s podacima koji pokazuju da muškarci zarađuju više od žena u određenim ulogama, model uči i reproducira taj obrazac.

Kako otkriti i ublažiti pristranost

Revizija podataka: Ispitajte predstavljaju li vaši podaci o treningu previše određene skupine.Skup podataka od 90% muškaraca ne predstavlja stvarnost. Pokušajte balansirati podatke kada je to moguće ili upotrijebite tehnike ponovnog ponderiranja.

Testiranje podskupina: Nemojte ocjenjivati svoj model samo na opći prosjek Test performansi kod muškaraca, žena, različitih dobnih skupina, geografskih regija.Ako model dobro funkcionira za bijele muškarce, ali ne uspijeva za crne žene, postoji pristranost.

Transparentnost u odlukama: Ako model uskraćuje kredit, posao ili uslugu, korisnik bi trebao znati zašto. Posebno u kontekstima visoke važnosti (zapošljavanje, kredit, pravednost), implementacija objašnjivosti (XAI) nije samo etička, već je i zakonski obavezna u nekoliko jurisdikcija.

Praktična akcija: Angažirajte stručnjake za pravednost umjetne inteligencije ili osnažite interne timove. Alati kao što su AI Fairness 360 (IBM) i Fairlearn (Microsoft) pomažu u programskom otkrivanju pristranosti.

Pravna usklađenost: Propisi koje trebate znati

Opći zakon o zaštiti podataka (LGPD)

U Brazilu LGPD (Zakon 13,709/2018) utvrđuje stroga pravila o prikupljanju, pohrani i korištenju osobnih podataka, Ako vaša umjetna inteligencija obrađuje podatke Brazilaca, podliježete LGPD-u.

Zakon zahtijeva: izričitu suglasnost prije prikupljanja podataka, pravo pristupa podacima koje imate, pravo na brisanje (pravo na zaborav) i obavijest u slučaju curenja. Novčane kazne idu do 50 milijuna R $ ili 2% prihoda, ovisno o tome što je veće.

Za AI, LGPD također ograničava potpuno automatizirano donošenje odluka ne smijete koristiti čisti algoritam za uskraćivanje zaposlenja, kredita ili usluge bez ljudskog pregleda.

Europska regulativa o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji)

Europska unija donijela je Zakon o umjetnoj inteligenciji 2023. godine, najstroži propis na svijetu. Klasificira umjetnu inteligenciju u kategorije rizika: zabranjeno (npr. kontinuirano prepoznavanje lica u javnim prostorima), visokorizično (npr. zapošljavanje, kredit), srednje rizično i minimalno rizično.

Za visokorizične sustave zahtjevi uključuju: potpunu tehničku dokumentaciju, testiranje prije lansiranja, praćenje nakon lansiranja i službenika za usklađenost.

Praktična akcija: Sortiraj svoje AI sustave po kategoriji rizika Za visoki rizik obavezno je vođenje detaljne dokumentacije Razmislite o savjetovanju s AI stručnim pravnicima.

ISO/IEC 42001 standard za upravljanje rizikom u AI

Ovaj međunarodni standard, objavljen 2023., daje smjernice za implementaciju sigurnog sustava upravljanja umjetnom inteligencijom. Nije zakonski obvezan, ali postaje tržišno očekivanje i IS, posebno među velikim tvrtkama i javnim tijelima koja angažiraju usluge umjetne inteligencije.

Standard pokriva: upravljanje umjetnom inteligencijom, identifikaciju rizika, komunikaciju dionika i kontinuiranu reviziju.

Najbolje prakse za sigurnu i etičku provedbu

Robusno upravljanje umjetnom inteligencijom

Stvorite interni odbor za umjetnu inteligenciju koji uključuje: tehničke stručnjake, pravne stručnjake, predstavnike za usklađenost i poslovne vođe. Ovaj bi odbor trebao ocijeniti svaki novi projekt umjetne inteligencije prije implementacije, uzimajući u obzir pravne, etičke i sigurnosne rizike.

Dokumentirajte sve odlukeKada projekt bude odobren, zabilježite tko ga je odobrio, pod kojim uvjetima i tko je odgovoran za kontinuirano praćenje.

Praćenje nakon lansiranja (kontinuirano praćenje)

AI nije