परिचय: एआई सुरक्षा और नैतिकता आपके व्यवसाय के लिए क्यों मायने रखती है
चैटबॉट से जो २४ घंटे के ग्राहकों को एल्गोरिदम की सेवा प्रदान करते हैं जो मांग की भविष्यवाणी करते हैं, एआई दक्षता और लाभप्रदता लाभ का वादा करता है।
२०२३ डेलॉइट रिपोर्ट के अनुसार, ६७% कंपनियों ने पिछले दो वर्षों में एआई से संबंधित सुरक्षा जोखिमों का सामना किया है डेटा रिसाव, एल्गोरिथम पूर्वाग्रह और पारदर्शिता की कमी शीर्ष मुद्दों में से हैं सुरक्षा और नैतिकता के संबंध में एआई को लागू करना न केवल जोखिम भरा है, बल्कि संभावित रूप से अवैध है।
यह मार्गदर्शिका आपको प्रमुख चुनौतियों, अनिवार्य अनुपालन और प्रथाओं से परिचित कराती है जिन्हें आपको एआई का जिम्मेदारी से उपयोग करने के लिए जानना चाहिए।
एआई में प्रमुख सुरक्षा जोखिम
डेटा रिसाव और गोपनीयता
एआई मॉडल कार्य करने के लिए डेटा की बड़ी मात्रा पर भरोसा करते हैं अधिक डेटा, बेहतर प्रशिक्षण, लेकिन यह भी अधिक जोखिम है यदि इस डेटा में ग्राहकों, कर्मचारियों या बौद्धिक संपदा से जानकारी शामिल है, तो एक सुरक्षा घटना भयावह हो सकती है।
हैकर्स अक्सर एआई सिस्टम में मिरियम करते हैं क्योंकि वे मूल्यवान डेटा संग्रहीत करते हैं। 2022 में, ओपन एआई को एक ऐसी घटना का सामना करना पड़ा जहां उपयोगकर्ता संवेदनशील जानकारी तक पहुंचने में सक्षम थे। Google और Microsoft जैसी कंपनियां अपने एआई मॉडल में फीड किए गए डेटा की सुरक्षा के लिए आराम और पारगमन में एन्क्रिप्शन लागू करती हैं।
व्यावहारिक कार्रवाई: भूमिका-आधारित प्रतिबंधित पहुंच (आरबीएसी) लागू करें। एआई विक्रेताओं को डेटा सुरक्षा समझौतों (डेटा प्रोसेसिंग समझौते) पर हस्ताक्षर करने की आवश्यकता है।
प्रतिकूल हमले और मॉडल हेरफेर
प्रतिकूल हमले एआई मॉडल में कमजोरियों का फायदा उठाते हैं एक हमलावर विशेष रूप से एल्गोरिदम को मूर्ख बनाने के लिए डिज़ाइन किए गए डेटा को दर्ज कर सकता है उदाहरण के लिए, एक छवि में मामूली संशोधन एक चेहरे की पहचान प्रणाली को पूरी तरह से विफल कर सकता है।
बैंक और वित्तीय संस्थान विशेष रूप से असुरक्षित हैं क्योंकि वे धोखाधड़ी का पता लगाने के लिए एआई का उपयोग करते हैं। यदि मॉडल में घोटाला किया जाता है, तो धोखाधड़ी वाले लेनदेन पर किसी का ध्यान नहीं जाता है। कार्नेगी मेलन शोधकर्ताओं ने 2023 में प्रदर्शित किया कि कुछ अदृश्य पैटर्न कंप्यूटर विज़न मॉडल की सटीकता को 99% से घटाकर इससे भी कम कर सकते हैं। 10%।
व्यावहारिक कार्रवाई: विरोधियों के खिलाफ अपने मॉडल का परीक्षण आंतरिक रूप से (प्रतिकूल परीक्षण) इनपुट पैटर्न में विसंगतियों की निगरानी करें विकास के दौरान प्रतिकूल प्रशिक्षण जैसी तकनीकों का उपयोग करें।
एल्गोरिथम पूर्वाग्रह: जब एआई भेदभाव करता है
एआई पूर्वाग्रह सिर्फ एक नैतिक मुद्दा नहीं है - यह एक कानूनी और वित्तीय जोखिम है। यदि आपका एआई सिस्टम लिंग, नस्ल या उम्र के आधार पर उम्मीदवारों के खिलाफ भेदभाव करता है, तो आपकी कंपनी को भारी मुकदमों और जुर्माने का सामना करना पड़ता है।
2018 में, यह पता चला कि अमेज़ॅन की एआई भर्ती प्रणाली इंजीनियरिंग में महिलाओं की तुलना में पुरुषों को प्राथमिकता देती है। अमेज़ॅन ने 10 वर्षों के भर्ती इतिहास के साथ मॉडल को प्रशिक्षित किया था और आईटी पहले से मौजूद मानव पूर्वाग्रह को दर्शाता है।
पूर्वाग्रह इसलिए होता है क्योंकि ऐतिहासिक डेटा अक्सर पिछले भेदभावों को दर्शाता है। यदि आप किसी मॉडल को ऐसे डेटा के साथ प्रशिक्षित करते हैं जो दिखाता है कि पुरुष कुछ भूमिकाओं में महिलाओं की तुलना में अधिक कमाते हैं, तो मॉडल उस पैटर्न को सीखता है और पुन: पेश करता है।
पूर्वाग्रह का पता कैसे लगाएं और उसे कम कैसे करें
डेटा ऑडिटः जांच करें कि क्या आपका प्रशिक्षण डेटा कुछ समूहों का प्रतिनिधित्व करता है ९०% पुरुषों का डेटासेट वास्तविकता का प्रतिनिधित्व नहीं करता है जब संभव हो तो डेटा को संतुलित करने का प्रयास करें, या फिर से वजन तकनीक का उपयोग करें।
उपसमूह परीक्षण: केवल सामान्य औसत पर अपने मॉडल का मूल्यांकन न करें पुरुषों, महिलाओं, विभिन्न आयु समूहों, भौगोलिक क्षेत्रों में प्रदर्शन परीक्षण यदि मॉडल सफेद पुरुषों के लिए अच्छी तरह से काम करता है लेकिन काली महिलाओं के लिए विफल रहता है, तो पूर्वाग्रह है।
निर्णयों में पारदर्शिताः यदि मॉडल किसी क्रेडिट, नौकरी या सेवा से इनकार करता है, तो उपयोगकर्ता को पता होना चाहिए कि क्यों। विशेष रूप से उच्च-महत्वपूर्ण संदर्भों (रोजगार, क्रेडिट, निष्पक्षता) में, व्याख्यात्मकता (एक्सएआई) को लागू करना न केवल नैतिक है बल्कि कई न्यायालयों में कानूनी रूप से आवश्यक है।
व्यावहारिक कार्रवाई: एआई निष्पक्षता विशेषज्ञों को किराए पर लें या आंतरिक टीमों को सशक्त बनाएं एआई फेयरनेस ३६० (आईबीएम) और फेयरलर्न (माइक्रोसॉफ्ट) जैसे उपकरण प्रोग्रामेटिक रूप से पूर्वाग्रह का पता लगाने में मदद करते हैं।
कानूनी अनुपालन: विनियम जो आपको जानना आवश्यक है
सामान्य डेटा संरक्षण अधिनियम (एलजीपीडी)
ब्राजील में, एलजीपीडी (कानून १३,७०९/२०१८) व्यक्तिगत डेटा के संग्रह, भंडारण और उपयोग पर सख्त नियम स्थापित करता है यदि आपका एआई ब्राजीलियाई से डेटा संसाधित करता है, तो आप एलजीपीडी के अधीन हैं।
कानून की आवश्यकता है: डेटा एकत्र करने से पहले स्पष्ट सहमति, आपके पास जो डेटा है उस तक पहुंच का अधिकार, हटाने का अधिकार (भूल जाने का अधिकार), और रिसाव के मामले में अधिसूचना पर जुर्माना आर $ ५० मिलियन या राजस्व का २%, जो भी अधिक हो, तक जाता है।
एआई के लिए, एलजीपीडी भी प्रतिबंधित करता है पूरी तरह से स्वचालित निर्णय लेने आप मानव समीक्षा के बिना रोजगार, क्रेडिट या सेवा से इनकार करने के लिए शुद्ध एल्गोरिदम का उपयोग नहीं कर सकते हैं।
यूरोपीय एआई विनियमन (एआई अधिनियम)
यूरोपीय संघ ने २०२३ में एआई अधिनियम पारित किया, जो दुनिया का सबसे सख्त विनियमन है। यह एआई को जोखिम श्रेणियों में वर्गीकृत करता है: निषिद्ध (जैसे, सार्वजनिक स्थानों पर निरंतर चेहरे की पहचान), उच्च जोखिम (जैसे, भर्ती, क्रेडिट), मध्यम जोखिम, और न्यूनतम जोखिम।
उच्च जोखिम वाली प्रणालियों के लिए, आवश्यकताओं में शामिल हैं: पूर्ण तकनीकी दस्तावेज़ीकरण, प्री-लॉन्च परीक्षण, पोस्ट-लॉन्च निगरानी और एक अनुपालन अधिकारी।
व्यावहारिक कार्रवाई: जोखिम श्रेणी के अनुसार अपने एआई सिस्टम को क्रमबद्ध करें उच्च जोखिम के लिए, विस्तृत दस्तावेज रखना अनिवार्य है एआई विशेषज्ञ न्यायविदों से परामर्श करने पर विचार करें।
एआई में जोखिम प्रबंधन के लिए आईएसओ/आईईसी 42001 मानक
2023 में प्रकाशित यह अंतर्राष्ट्रीय मानक, एक सुरक्षित एआई प्रबंधन प्रणाली को लागू करने के लिए दिशानिर्देश प्रदान करता है। यह कानूनी रूप से अनिवार्य नहीं है, लेकिन यह विशेष रूप से एआई सेवाओं को किराए पर लेने वाली बड़ी कंपनियों और सार्वजनिक निकायों के बीच बाजार की उम्मीद और आईएस बनता जा रहा है।
मानक में शामिल हैं: एआई प्रशासन, जोखिम पहचान, हितधारक संचार और निरंतर ऑडिटिंग।
सुरक्षित और नैतिक कार्यान्वयन के लिए सर्वोत्तम प्रथाएँ
मजबूत एआई गवर्नेंस
एक आंतरिक एआई समिति बनाएं जिसमें शामिल हैं: तकनीकी विशेषज्ञ, कानूनी विशेषज्ञ, अनुपालन प्रतिनिधि और व्यापारिक नेता। इस समिति को कानूनी, नैतिक और सुरक्षा जोखिमों पर विचार करते हुए कार्यान्वयन से पहले हर नई एआई परियोजना का मूल्यांकन करना चाहिए।
सभी निर्णयों का दस्तावेजीकरण करें। जब परियोजना स्वीकृत हो जाती है, तो रिकॉर्ड करें कि इसे किसने, किन परिस्थितियों में अनुमोदित किया है, और निरंतर निगरानी के लिए कौन जिम्मेदार है।
लॉन्च के बाद की निगरानी (निरंतर निगरानी)
एआई नहीं है
