Ներածություն: Ինչու է AI անվտանգությունը եւ էթիկան կարեւոր ձեր բիզնեսի համար
Սկսած չաթ-բոտերից, որոնք սպասարկում են 24-ժամյա հաճախորդներին մինչեւ ալգորիթմներ, որոնք կանխատեսում են պահանջարկը, AI-ն խոստանում է արդյունավետություն եւ շահութաբերության ձեռքբերումներ:
Համաձայն Deloitte-ի 2023 թվականի զեկույցի՝ ընկերությունների 67%-ը վերջին երկու տարում բախվել է AI-ի հետ կապված անվտանգության ռիսկերի: Տվյալների արտահոսքը, ալգորիթմական կողմնակալությունը եւ թափանցիկության բացակայությունը գլխավոր խնդիրներից են: Արհեստական ինտելեկտի ներդրումը առանց անվտանգության եւ էթիկայի ոչ միայն ռիսկային է, այլեւ պոտենցիալ անօրինական:
Այս ուղեցույցը ձեզ ներկայացնում է հիմնական մարտահրավերները, պարտադիր համապատասխանությունը եւ գործելակերպը, որը դուք պետք է իմանաք AI-ն պատասխանատու կերպով օգտագործելու համար:
Անվտանգության հիմնական ռիսկերը AI-ում
Տվյալների արտահոսք եւ գաղտնիություն
AI մոդելները գործելու համար հիմնվում են մեծ քանակությամբ տվյալների վրա: Որքան շատ տվյալներ, այնքան ավելի լավ կլինի ուսուցումը, բայց նաեւ որքան մեծ է ռիսկը: Եթե այս տվյալները ներառում են հաճախորդների, աշխատակիցների կամ մտավոր սեփականության տեղեկատվություն, անվտանգության միջադեպը կարող է աղետալի լինել:
Հաքերները հաճախ միրիամ են AI համակարգերում, քանի որ նրանք արժեքավոր տվյալներ են պահում: 2022 թվականին Open AI-ն միջադեպ ունեցավ, երբ օգտատերերը կարողացան մուտք գործել զգայուն տեղեկատվություն: Google-ի եւ Microsoft-ի նման ընկերությունները գաղտնագրում են իրականացնում հանգստի եւ տարանցման ժամանակ՝ պաշտպանելու իրենց AI մոդելներում սնվող տվյալները:
Գործնական գործողություն: Իրականացնել դերի վրա հիմնված սահմանափակ մուտք (RBAC): Պահանջեք AI վաճառողներին ստորագրել տվյալների պաշտպանության համաձայնագրեր (Տվյալների մշակման համաձայնագրեր):
Հակառակորդ հարձակումներ եւ մոդելի մանիպուլյացիա
Հակառակորդ հարձակումները օգտագործում են AI մոդելների խոցելիությունը: Հարձակվողը կարող է մուտքագրել տվյալներ, որոնք հատուկ նախագծված են ալգորիթմը խաբելու համար: Օրինակ, պատկերի աննշան փոփոխությունները կարող են հանգեցնել դեմքի ճանաչման համակարգի ամբողջական ձախողմանը:
Բանկերը եւ ֆինանսական հաստատությունները հատկապես խոցելի են, քանի որ նրանք օգտագործում են AI-ն խարդախության հայտնաբերման համար: Եթե մոդելը խաբված է, խարդախ գործարքներն աննկատ են մնում: Carnegie Mellon-ի հետազոտողները 2023 թվականին ցույց տվեցին, որ որոշ անտեսանելի օրինաչափություններ կարող են նվազեցնել համակարգչային տեսողության մոդելների ճշգրտությունը 99%-ից մինչեւ 10%-ից պակաս:
Գործնական գործողություն: Փորձարկեք ձեր մոդելները հակառակորդների դեմ ներքին (հակառակորդի թեստավորում): Դիտեք անոմալիաները մուտքային օրինաչափություններում: Օգտագործեք այնպիսի մեթոդներ, ինչպիսիք են հակառակորդի ուսուցումը զարգացման ընթացքում:
Ալգորիթմական կողմնակալություն: Երբ AI-ն խտրականություն է դնում
AI կողմնակալությունը պարզապես էթիկական խնդիր չէ: դա իրավական եւ ֆինանսական ռիսկ է: Եթե ձեր AI համակարգը խտրականություն է դնում թեկնածուների նկատմամբ ըստ սեռի, ռասայի կամ տարիքի, ձեր ընկերությունը բախվում է ծանր դատական հայցերի եւ տուգանքների:
2018-ին պարզվեց, որ Amazon-ի AI հավաքագրման համակարգը ճարտարագիտության ոլորտում գերադասում է տղամարդկանց, քան կանանց: Amazon-ը մոդելին վերապատրաստել էր աշխատանքի ընդունելու 10 տարվա պատմությունով, եւ ՏՏ-ն արտացոլում էր նախկինում գոյություն ունեցող մարդկային կողմնակալությունը:
Կողմնակալությունը տեղի է ունենում այն պատճառով, որ պատմական տվյալները հաճախ արտացոլում են անցյալի խտրականությունը: Եթե դուք մոդել եք պատրաստում տվյալների հետ, որոնք ցույց են տալիս, որ տղամարդիկ ավելի շատ են վաստակում, քան կանայք որոշակի դերերում, մոդելը սովորում եւ վերարտադրում է այդ օրինաչափությունը:
Ինչպես հայտնաբերել եւ մեղմել կողմնակալությունը
Տվյալների աուդիտ: Ուսումնասիրեք՝ թե արդյոք ձեր վերապատրաստման տվյալները գերներկայացնում են որոշակի խմբեր: 90% տղամարդկանց տվյալների բազան չի ներկայացնում իրականությունը: Փորձեք հավասարակշռել տվյալները՝ երբ հնարավոր է՝ կամ օգտագործել կրկնակի կշռման տեխնիկան:
Ենթախմբի թեստավորում: Մի գնահատեք ձեր մոդելը միայն ընդհանուր միջին հաշվով: Կատարողական թեստ տղամարդկանց՝ կանանց՝ տարբեր տարիքային խմբերի՝ աշխարհագրական տարածաշրջանների: Եթե մոդելը լավ է աշխատում սպիտակամորթ տղամարդկանց համար՝ բայց չի հաջողվում սեւամորթ կանանց համար՝ կա կողմնակալություն:
Որոշումների թափանցիկություն Եթե մոդելը հերքում է վարկը, աշխատանքը կամ ծառայությունը, օգտատերը պետք է իմանա, թե ինչու: Հատկապես բարձր կարեւորության համատեքստերում (աշխատանք, վարկ, արդարություն) բացատրելիության (XAI) իրականացումը ոչ միայն էթիկական է, այլեւ իրավաբանորեն պահանջվում է մի քանի իրավասություններում:
Գործնական գործողություն: Վարձել AI արդարության փորձագետներ կամ հզորացնել ներքին թիմերին: Գործիքները, ինչպիսիք են AI Fairness 360 (IBM) եւ Fairlearn (Microsoft) օգնում են ծրագրային կերպով հայտնաբերել կողմնակալությունը:
Իրավական համապատասխանություն: կանոնակարգեր, որոնք դուք պետք է իմանաք
Տվյալների պաշտպանության ընդհանուր ակտ (LGPD)
Բրազիլիայում LGPD-ն (օրենք 13,709/2018) սահմանում է խիստ կանոններ անձնական տվյալների հավաքագրման, պահպանման եւ օգտագործման վերաբերյալ: Եթե ձեր AI-ն մշակում է բրազիլացիների տվյալները, դուք ենթակա եք LGPD-ին:
Օրենքը պահանջում է: հստակ համաձայնություն նախքան տվյալների հավաքագրումը, ձեր ունեցած տվյալների հասանելիության իրավունքը, ջնջման իրավունքը (մոռանալու իրավունքը) եւ ծանուցում արտահոսքի դեպքում: Տուգանքները հասնում են մինչեւ 50 միլիոն R$ կամ եկամտի 2%-ը, որն ավելի մեծ է:
AI-ի համար LGPD-ն նույնպես սահմանափակում է լիովին ավտոմատացված որոշումների կայացում դուք չեք կարող օգտագործել մաքուր ալգորիթմ՝ առանց մարդկային վերանայման աշխատանքից, վարկից կամ ծառայությունից հրաժարվելու համար:
Եվրոպական AI կանոնակարգ (AI Act)
Եվրամիությունը 2023 թվականին ընդունել է AI ակտը՝ աշխարհի ամենախիստ կանոնակարգը: Այն դասակարգում է AI-ն ռիսկերի կատեգորիաների՝ արգելված (օրինակ՝ դեմքի շարունակական ճանաչում հանրային վայրերում), բարձր ռիսկ (օրինակ՝ հավաքագրում, վարկ), միջին ռիսկ, եւ նվազագույն ռիսկ:
Բարձր ռիսկային համակարգերի համար պահանջները ներառում են՝ ամբողջական տեխնիկական փաստաթղթեր, նախնական գործարկման փորձարկում, գործարկումից հետո մոնիտորինգ եւ համապատասխանության պատասխանատու:
Գործնական գործողություն: Դասավորել ձեր AI համակարգերը ըստ ռիսկի կատեգորիայի: Բարձր ռիսկի դեպքում մանրամասն փաստաթղթերի պահպանումը պարտադիր է: Դիտարկենք AI փորձագետ իրավաբանների խորհրդատվությունը:
ISO/IEC 42001 ստանդարտ AI-ում ռիսկերի կառավարման համար
Այս միջազգային ստանդարտը, որը հրապարակվել է 2023 թվականին, ուղեցույցներ է տրամադրում AI-ի անվտանգ կառավարման համակարգի ներդրման համար: Այն իրավաբանորեն պարտադիր չէ, բայց այն դառնում է շուկայի ակնկալիք եւ IS հատկապես խոշոր ընկերությունների եւ պետական մարմինների շրջանում, որոնք վարձում են AI ծառայություններ:
Ստանդարտն ընդգրկում է՝ AI կառավարում, ռիսկերի նույնականացում, շահագրգիռ կողմերի հաղորդակցություն եւ շարունակական աուդիտ:
Անվտանգ եւ էթիկական իրականացման լավագույն փորձը
AI-ի հզոր կառավարում
Ստեղծեք ներքին AI կոմիտե, որը ներառում է՝ տեխնիկական փորձագետներ, իրավական փորձագետներ, համապատասխանության ներկայացուցիչներ եւ բիզնեսի ղեկավարներ: Այս հանձնաժողովը պետք է գնահատի AI-ի յուրաքանչյուր նոր նախագիծ նախքան իրականացումը' հաշվի առնելով իրավական, էթիկական եւ անվտանգության ռիսկերը:
Փաստագրեք բոլոր որոշումները: Երբ նախագիծը հաստատվի՝ արձանագրեք՝ թե ով է այն հաստատել՝ ինչ պայմաններում եւ ով է պատասխանատու շարունակական մոնիտորինգի համար:
Գործարկումից հետո մոնիտորինգ (շարունակական մոնիտորինգ)
AI-ն այդպես չէ
