ความปลอดภัยและจริยธรรมในการใช้ปัญญาประดิษฐ์ในธุรกิจ

บทนํา: เหตุใดความปลอดภัยและจริยธรรมของ AI จึงมีความสําคัญต่อธุรกิจของคุณ

ตั้งแต่แชทบอทที่ให้บริการลูกค้าตลอด 24 ชั่วโมงไปจนถึงอัลกอริธึมที่คาดการณ์ความต้องการ AI รับประกันประสิทธิภาพและความสามารถในการทํากําไรที่เพิ่มขึ้น

จากรายงานของ Deloitte ในปี 2023 พบว่า 67% ของบริษัทต้องเผชิญกับความเสี่ยงด้านความปลอดภัยที่เกี่ยวข้องกับ AI ในช่วงสองปีที่ผ่านมา การรั่วไหลของข้อมูลอคติของอัลกอริทึมและการขาดความโปร่งใสเป็นปัญหาอันดับต้นๆ การนํา AI ไปใช้โดยไม่คํานึงถึงความปลอดภัยและจริยธรรมไม่เพียงแต่มีความเสี่ยงเท่านั้นแต่ยังอาจผิดกฎหมายอีกด้วย

คู่มือนี้จะแนะนําให้คุณรู้จักกับความท้าทายที่สําคัญ การปฏิบัติตามข้อกําหนด และแนวทางปฏิบัติที่คุณต้องรู้เพื่อใช้ AI อย่างมีความรับผิดชอบ

ความเสี่ยงด้านความปลอดภัยที่สําคัญใน AI

การรั่วไหลของข้อมูลและความเป็นส่วนตัว

โมเดล AI อาศัยข้อมูลจํานวนมากในการทํางาน ยิ่งมีข้อมูลมากเท่าใดการฝึกอบรมก็จะยิ่งดีขึ้นเท่านั้นแต่ยังมีความเสี่ยงมากขึ้นด้วยหากข้อมูลนี้มีข้อมูลจากลูกค้าพนักงานหรือทรัพย์สินทางปัญญาเหตุการณ์ด้านความปลอดภัยอาจเป็นหายนะได้

แฮกเกอร์มักจะเลียนแบบในระบบ AI เนื่องจากพวกเขาจัดเก็บข้อมูลอันมีค่า ในปี 2022 Open AI ประสบเหตุการณ์ที่ผู้ใช้สามารถเข้าถึงข้อมูลที่ละเอียดอ่อนได้ บริษัทต่างๆ เช่น Google และ Microsoft ใช้การเข้ารหัสขณะพักและระหว่างการขนส่งเพื่อปกป้องข้อมูลที่ป้อนเข้าสู่โมเดล AI ของพวกเขา

การดําเนินการในทางปฏิบัติ: ใช้การเข้าถึงแบบจํากัดตามบทบาท (RBAC) กําหนดให้ผู้จําหน่าย AI ลงนามในข้อตกลงการคุ้มครองข้อมูล (Data Processing Agreements)

การโจมตีฝ่ายตรงข้ามและการจัดการแบบจําลอง

การโจมตีของฝ่ายตรงข้ามใช้ประโยชน์จากช่องโหว่ในโมเดล AI ผู้โจมตีสามารถป้อนข้อมูลที่ออกแบบมาโดยเฉพาะเพื่อหลอกอัลกอริทึม ตัวอย่างเช่น การปรับเปลี่ยนรูปภาพเล็กน้อยอาจทําให้ระบบจดจําใบหน้าล้มเหลวโดยสิ้นเชิง

ธนาคารและสถาบันการเงินมีความเสี่ยงเป็นพิเศษเนื่องจากใช้ AI ในการตรวจจับการฉ้อโกง หากโมเดลถูกหลอกลวง ธุรกรรมที่ฉ้อโกงจะไม่มีใครสังเกตเห็น นักวิจัยของ Carnegie Mellon แสดงให้เห็นในปี 2023 ว่ารูปแบบที่มองไม่เห็นบางอย่างสามารถลดความแม่นยําของโมเดลคอมพิวเตอร์วิทัศน์จาก 99% เหลือน้อยกว่า 10%

การดําเนินการในทางปฏิบัติ: ทดสอบแบบจําลองของคุณกับฝ่ายตรงข้ามภายใน (การทดสอบฝ่ายตรงข้าม) ตรวจสอบความผิดปกติในรูปแบบอินพุต ใช้เทคนิคเช่นการฝึกอบรมฝ่ายตรงข้ามในระหว่างการพัฒนา

อคติอัลกอริทึม: เมื่อ AI เลือกปฏิบัติ

อคติของ AI ไม่ได้เป็นเพียงปัญหาด้านจริยธรรมเท่านั้น แต่ยังเป็นความเสี่ยงทางกฎหมายและทางการเงิน หากระบบ AI ของคุณเลือกปฏิบัติต่อผู้สมัครตามเพศ เชื้อชาติ หรืออายุ บริษัทของคุณจะถูกฟ้องร้องและปรับอย่างหนัก

ในปี 2018 พบว่าระบบการสรรหา AI ของ Amazon ชื่นชอบผู้ชายมากกว่าผู้หญิงในด้านวิศวกรรม Amazon ได้ฝึกฝนโมเดลนี้ด้วยประวัติการจ้างงาน 10 ปี 'ซึ่งสะท้อนถึงอคติของมนุษย์ที่มีอยู่ก่อนแล้ว

อคติเกิดขึ้นเพราะข้อมูลในอดีตมักจะสะท้อนถึงการเลือกปฏิบัติในอดีต หากคุณฝึกแบบจําลองด้วยข้อมูลที่แสดงให้เห็นว่าผู้ชายมีรายได้มากกว่าผู้หญิงในบางบทบาท แบบจําลองจะเรียนรู้และสร้างรูปแบบนั้นขึ้นมาใหม่

วิธีการตรวจจับและบรรเทาอคติ

การตรวจสอบข้อมูล: ตรวจสอบว่าข้อมูลการฝึกอบรมของคุณเป็นตัวแทนของกลุ่มบางกลุ่มมากเกินไปหรือไม่ ชุดข้อมูลของผู้ชาย 90% ไม่ได้แสดงถึงความเป็นจริง ลองปรับสมดุลข้อมูลเมื่อเป็นไปได้หรือใช้เทคนิคการถ่วงน้ําหนักใหม่

การทดสอบกลุ่มย่อย: อย่าประเมินแบบจําลองของคุณเฉพาะโดยเฉลี่ยทั่วไป การทดสอบประสิทธิภาพในผู้ชายผู้หญิงกลุ่มอายุที่แตกต่างกันภูมิภาคทางภูมิศาสตร์หากแบบจําลองทํางานได้ดีสําหรับผู้ชายผิวขาว แต่ล้มเหลวสําหรับผู้หญิงผิวดํามีอคติ

ความโปร่งใสในการตัดสินใจ: หากโมเดลปฏิเสธเครดิต งาน หรือบริการ ผู้ใช้ควรรู้ว่าทําไม โดยเฉพาะอย่างยิ่งในบริบทที่มีความสําคัญสูง (การจ้างงาน เครดิต ความเป็นธรรม) การใช้ความสามารถในการอธิบาย (XAI) ไม่เพียงแต่มีจริยธรรมเท่านั้น แต่ยังจําเป็นตามกฎหมายในเขตอํานาจศาลหลายแห่ง

การดําเนินการในทางปฏิบัติ: จ้างผู้เชี่ยวชาญด้านความเป็นธรรมของ AI หรือเพิ่มขีดความสามารถให้กับทีมภายใน เครื่องมืออย่าง AI Fairness 360 (IBM) และ Fairlearn (Microsoft) ช่วยตรวจจับอคติทางโปรแกรม

การปฏิบัติตามกฎหมาย: กฎระเบียบที่คุณต้องรู้

พระราชบัญญัติคุ้มครองข้อมูลทั่วไป (LGPD)

ในบราซิล LGPD (กฎหมาย 13,709/2018) กําหนดกฎเกณฑ์ที่เข้มงวดเกี่ยวกับการรวบรวม การจัดเก็บ และการใช้ข้อมูลส่วนบุคคล หาก AI ของคุณประมวลผลข้อมูลจากชาวบราซิล คุณจะต้องอยู่ภายใต้ LGPD

กฎหมายกําหนดให้: ความยินยอมอย่างชัดเจนก่อนรวบรวมข้อมูลสิทธิ์ในการเข้าถึงข้อมูลที่คุณมีสิทธิ์ในการลบ (สิทธิ์ที่จะถูกลืม) และการแจ้งเตือนในกรณีที่มีการรั่วไหล ค่าปรับสูงถึง R $ 50 ล้านหรือ 2% ของรายได้แล้วแต่จํานวนใดจะมากกว่า

สําหรับ AI นั้น LGPD ยังจํากัดอีกด้วย การตัดสินใจอัตโนมัติเต็มรูปแบบ คุณไม่สามารถใช้อัลกอริธึมบริสุทธิ์เพื่อปฏิเสธการจ้างงาน เครดิต หรือบริการโดยไม่ได้รับการตรวจสอบจากมนุษย์

กฎระเบียบ AI ของยุโรป (พระราชบัญญัติ AI)

สหภาพยุโรปผ่านพระราชบัญญัติ AI ในปี 2023 ซึ่งเป็นกฎระเบียบที่เข้มงวดที่สุดในโลก โดยจัดประเภท AI ออกเป็นประเภทความเสี่ยง: ห้าม (เช่น การจดจําใบหน้าอย่างต่อเนื่องในพื้นที่สาธารณะ) ความเสี่ยงสูง (เช่น การสรรหาบุคลากร เครดิต) ความเสี่ยงปานกลาง และความเสี่ยงน้อยที่สุด

สําหรับระบบที่มีความเสี่ยงสูง ข้อกําหนดประกอบด้วย: เอกสารทางเทคนิคฉบับเต็ม การทดสอบก่อนการเปิดตัว การตรวจสอบหลังการเปิดตัว และเจ้าหน้าที่กํากับดูแลการปฏิบัติตามกฎระเบียบ

การดําเนินการในทางปฏิบัติ: จัดเรียงระบบ AI ของคุณตามประเภทความเสี่ยง สําหรับความเสี่ยงสูงจําเป็นต้องเก็บเอกสารรายละเอียดไว้ พิจารณาปรึกษานักกฎหมายผู้เชี่ยวชาญ AI

มาตรฐาน ISO/IEC 42001 สําหรับการบริหารความเสี่ยงด้าน AI

มาตรฐานสากลนี้ซึ่งเผยแพร่ในปี 2023 ให้แนวทางสําหรับการนําระบบการจัดการ AI ที่ปลอดภัยไปใช้ ซึ่งไม่ได้บังคับตามกฎหมาย แต่กําลังกลายเป็นความคาดหวังของตลาด & IS โดยเฉพาะอย่างยิ่งในกลุ่มบริษัทขนาดใหญ่และหน่วยงานสาธารณะที่จ้างบริการ AI

มาตรฐานครอบคลุม: การกํากับดูแล AI การระบุความเสี่ยง การสื่อสารของผู้มีส่วนได้ส่วนเสีย และการตรวจสอบอย่างต่อเนื่อง

แนวทางปฏิบัติที่ดีที่สุดสําหรับการนําไปปฏิบัติอย่างปลอดภัยและมีจริยธรรม

การกํากับดูแล AI ที่แข็งแกร่ง

สร้างคณะกรรมการ AI ภายในที่ประกอบด้วย ผู้เชี่ยวชาญด้านเทคนิค ผู้เชี่ยวชาญด้านกฎหมาย ตัวแทนการปฏิบัติตามกฎระเบียบ และผู้นําทางธุรกิจ คณะกรรมการนี้ควรประเมินโครงการ AI ใหม่ทุกโครงการก่อนนําไปใช้ โดยคํานึงถึงความเสี่ยงด้านกฎหมาย จริยธรรม และความปลอดภัย

บันทึกการตัดสินใจทั้งหมดเมื่อโครงการได้รับการอนุมัติให้บันทึกว่าใครอนุมัติภายใต้เงื่อนไขใดและใครเป็นผู้รับผิดชอบในการตรวจสอบอย่างต่อเนื่อง

การตรวจสอบหลังการเปิดตัว (การตรวจสอบอย่างต่อเนื่อง)

เอไอไม่ใช่