Įvadas: kodėl AI sauga ir etika yra svarbūs jūsų verslui

Nuo pokalbių robotų, kurie aptarnauja 24 valandas per parą dirbančius klientus, iki algoritmų, kurie numato paklausą, dirbtinis intelektas žada efektyvumą ir pelningumo padidėjimą.

Remiantis 2023 m. Deloitte ataskaita, per pastaruosius dvejus metus 67% įmonių susidūrė su su dirbtiniu intelektu susijusia rizika saugumui. Duomenų nutekėjimas, algoritminis šališkumas ir skaidrumo trūkumas yra vieni iš svarbiausių klausimų. DI įgyvendinimas neatsižvelgiant į saugumą ir etiką yra ne tik rizikingas, bet ir potencialiai neteisėtas.

Šis vadovas supažindina jus su pagrindiniais iššūkiais, privalomu atitikimu ir praktika, kurią turite žinoti, kad galėtumėte atsakingai naudoti dirbtinį intelektą.

Pagrindinė AI saugumo rizika

Duomenų nutekėjimas ir privatumas

AI modeliai remiasi dideliais duomenų kiekiais, kad veiktų Kuo daugiau duomenų, tuo geresnis mokymas, bet ir didesnė rizika.Jei šie duomenys apima informaciją iš klientų, darbuotojų ar intelektinės nuosavybės, saugumo incidentas gali būti katastrofiškas.

Įsilaužėliai dažnai miriam dirbtinio intelekto sistemose, nes jie saugo vertingus duomenis.2022 m. Open AI patyrė incidentą, kai vartotojai galėjo pasiekti neskelbtiną informaciją. Tokios įmonės kaip Google ir Microsoft įdiegia šifravimą ramybės būsenoje ir tranzitu, kad apsaugotų duomenis, įvestus į jų AI modelius.

Praktinis veiksmas: Įgyvendinti vaidmenimis pagrįstą ribotą prieigą (RBAC). reikalauti, kad dirbtinio intelekto pardavėjai pasirašytų duomenų apsaugos sutartis (duomenų apdorojimo sutartis).

Priešpriešiniai išpuoliai ir manipuliavimas modeliu

Priešingos atakos išnaudoja AI modelių pažeidžiamumą Užpuolikas gali įvesti duomenis, specialiai sukurtus apgauti algoritmą. Pavyzdžiui, dėl nedidelių vaizdo modifikacijų veido atpažinimo sistema gali visiškai sugesti.

Bankai ir finansų įstaigos yra ypač pažeidžiamos, nes sukčiavimo aptikimui naudoja dirbtinį intelektą.Jei modelis yra apgautas, apgaulingi sandoriai lieka nepastebėti.Carnegie Mellon tyrėjai 2023 metais įrodė, kad tam tikri nematomi modeliai gali sumažinti kompiuterinio matymo modelių tikslumą nuo 99% iki mažiau nei 10%.

Praktinis veiksmas: Išbandykite savo modelius prieš oponentus viduje (priešingas testavimas) Stebėkite įvesties modelių anomalijas. Naudokite tokius metodus kaip priešiškas mokymas kūrimo metu.

Algoritminis šališkumas: kai AI diskriminuoja

AI šališkumas nėra tik etinis klausimas - tai teisinė ir finansinė rizika.Jei jūsų AI sistema diskriminuoja kandidatus pagal lytį, rasę ar amžių, jūsų įmonei gresia dideli ieškiniai ir baudos.

Buvo nustatyta, kad Amazon AI įdarbinimo sistema pirmenybę teikė vyrams, o ne moterims inžinerijos srityje. Amazon apmokė modelį su 10 metų įdarbinimo istorija, o IT atspindėjo jau egzistuojantį žmogaus šališkumą.

Šališkumas atsitinka todėl, kad istoriniai duomenys dažnai atspindi praeities diskriminacijąJei treniruojate modelį su duomenimis, rodančiais, kad vyrai uždirba daugiau nei moterys tam tikruose vaidmenyse, modelis mokosi ir atkuria tą modelį.

Kaip aptikti ir sušvelninti šališkumą

Duomenų auditas: Išnagrinėkite, ar jūsų treniruočių duomenys per daug atspindi tam tikras grupes 90% vyrų duomenų rinkinys neatspindi tikrovės. Pabandykite subalansuoti duomenis, kai įmanoma, arba naudokite pakartotinio svorio metodus.

Pogrupių testavimas: Nevertinkite savo modelio tik bendru vidurkiu Našumo testas vyrams, moterims, skirtingoms amžiaus grupėms, geografiniams regionamsJei modelis gerai veikia baltiesiems vyrams, bet nepavyksta juodaodėms moterims, yra šališkumas.

Skaidrumas priimant sprendimus: Jei modelis neigia kreditą, darbą ar paslaugą, vartotojas turėtų žinoti, kodėl. Ypač didelės svarbos kontekste (darbas, kreditas, sąžiningumas) paaiškinamumo (XAI) įgyvendinimas yra ne tik etiškas, bet ir teisiškai privalomas keliose jurisdikcijose.

Praktinis veiksmas: Pasamdykite AI sąžiningumo ekspertus arba įgalinkite vidines komandas. Tokie įrankiai kaip AI Fairness 360 (IBM) ir Fairlearn (Microsoft) padeda programiškai aptikti šališkumą.

Teisinė atitiktis: taisyklės, kurias turite žinoti

Bendrasis duomenų apsaugos įstatymas (LGPD)

Brazilijoje LGPD (Įstatymas 13,709/2018) nustato griežtas asmens duomenų rinkimo, saugojimo ir naudojimo taisykles Jei jūsų DI tvarko duomenis iš brazilų, jums taikomas LGPD.

Įstatymas reikalauja: aiškus sutikimas prieš renkant duomenis, teisė susipažinti su kokiais duomenimis turite, teisė ištrinti (teisė būti pamirštam), ir pranešimas nutekėjimo atveju Baudos eina iki R $ 50 milijonų arba 2% pajamų, priklausomai nuo to, kuris yra didesnis.

AI atveju LGPD taip pat riboja visiškai automatizuotas sprendimų priėmimas jūs negalite naudoti gryno algoritmo, kad atsisakytumėte užimtumo, kredito ar paslaugų be žmogaus peržiūros.

Europos DI reglamentas (AI aktas)

Europos Sąjunga DI įstatymą priėmė 2023 metais, griežčiausiu reguliavimu pasaulyje, Jis DI priskiria rizikos kategorijoms: draudžiamas (pvz., nuolatinis veido atpažinimas viešose erdvėse), didelės rizikos (pvz., įdarbinimas, kreditas), vidutinės rizikos, minimalios rizikos.

Didelės rizikos sistemoms keliami reikalavimai: visa techninė dokumentacija, bandymai prieš paleidimą, stebėjimas po paleidimo ir atitikties pareigūnas.

Praktinis veiksmas: Rūšiuokite savo AI sistemas pagal rizikos kategorijas Dėl didelės rizikos privaloma saugoti išsamią dokumentaciją Apsvarstykite galimybę konsultuotis su AI ekspertais teisininkais.

ISO/IEC 42001 AI rizikos valdymo standartas

Šis tarptautinis standartas, paskelbtas 2023 m., Pateikia gaires, kaip įdiegti saugią DI valdymo sistemą.Tai nėra teisiškai privaloma, tačiau tai tampa rinkos lūkesčiais & IS ypač tarp didelių įmonių ir viešųjų įstaigų, kurios samdo AI paslaugas.

Standartas apima: dirbtinio intelekto valdymą, rizikos nustatymą, suinteresuotųjų šalių bendravimą ir nuolatinį auditą.

Saugaus ir etiško įgyvendinimo geriausia praktika

Tvirtas AI valdymas

Sukurti vidinį DI komitetą, kurį sudarytų: techniniai ekspertai, teisės ekspertai, atitikties atstovai ir verslo lyderiai Šis komitetas prieš įgyvendinimą turėtų įvertinti kiekvieną naują DI projektą, atsižvelgdamas į teisinę, etinę ir saugumo riziką.

Dokumentuokite visus sprendimus Kai projektas bus patvirtintas, įrašykite, kas jį patvirtino, kokiomis sąlygomis ir kas atsakingas už nuolatinę stebėseną.

Stebėjimas po paleidimo (nuolatinis stebėjimas)

AI nėra