简介:为什么人工智能安全和道德对您的业务很重要
24小时服务客户的聊天机器人到预测需求的算法,AI承诺提高效率和盈利能力。
2023年德勤报告,67%的企业在过去两年面临AI相关的安全风险,数据泄露、算法偏见和缺乏透明度是首要问题,不考虑安全和道德而实施AI不仅有风险,而且可能违法。
本指南向您介绍负责任地使用人工智能必须了解的关键挑战、强制合规性和实践。
AI中的关键安全风险
数据泄露和隐私
AI模型依靠大量数据来发挥作用,数据越多,培训越好,风险也越大,如果这些数据包括来自客户、员工或知识产权的信息,那么安全事件可能是灾难性的。
AI系统中的黑客经常会因为存储有价值的数据而miriam。2022年,开放AI遭遇了用户能够访问敏感信息的事件。像谷歌和微软这样的公司在休息和运输时实施加密,以保护输入其AI模型的数据。
实际行动: 行基于角色的限制访问(RBAC)。要求AI厂商签署数据保护协议(数据处理协议)。
对抗性攻击和模型操纵
AI模型中的漏洞进行对抗攻击,攻击者可以输入专门设计的数据来忽悠算法,例如,对图像的微小修改可能会导致面部识别系统完全失败。
银行和金融机构尤其容易受到攻击,因为它们使用人工智能进行欺诈检测。如果模型被诈骗,欺诈交易就会被忽视。卡内基梅隆大学的研究人员在 2023 年证明,某些隐形模式可以将计算机视觉模型的准确性从 99% 降低到 10% 以下。
实际行动: 内(对抗性测试)对抗对手测试你的模型 监控输入模式的异常 在开发过程中使用诸如对抗性训练之类的技术。
算法偏差:当人工智能歧视时
AI偏见不仅仅是一个道德问题- 这是一个法律和财务风险,如果你的AI系统按性别、种族或年龄歧视候选人,你的公司将面临沉重的诉讼和罚款。
2018年,人们发现亚马逊的AI招聘系统在工程领域偏爱男性而不是女性,亚马逊已经培训了拥有10年招聘历史的模特‘这反映了先前存在的人类偏见。
Bias的发生是因为历史数据往往反映了过去的歧视。如果你训练一个模型,数据显示男性在某些角色中的收入高于女性,模型就会学习并再现这种模式。
如何检测和减轻偏差
数据审计: 检查您的训练数据是否过多代表某些群体。 90% 的男性数据集并不代表现实。尽可能尝试平衡数据,或使用重新加权技术。
子组测试: 不要只在一般平均水平上评估您的模型。在男性、女性、不同年龄组、地理区域进行表现测试。如果该模型对白人男性效果良好,但对黑人女性效果不佳,则存在偏见。
决策透明度: 如果模型拒绝信用、工作或服务,用户应该知道原因。特别是在高重要性环境(就业、信用、公平)下,在多个司法管辖区,实施可解释性 (XAI) 不仅是道德的,而且是法律要求的。
实际行动: AI公平专家或授权内部团队,像AI公平360(IBM)和Fairlearn(微软)这样的工具有助于以编程方式检测偏差。
法律合规性:您需要了解的法规
一般数据保护法 (LGPD)
LGPD(第13,709/2018号法律)在巴西对个人数据的收集、存储和使用制定了严格的规则,如果您的AI处理来自巴西人的数据,您将受到LGPD的约束。
法要求:在收集数据之前明确同意,有权访问您拥有的数据,有权删除(被遗忘的权利),以及在泄露的情况下通知罚款高达5000万雷亚尔或收入的2%,以较大者为准。
AI来说,LGPD也受到了限制 全自动决策 未经人工审查,您不得使用纯粹的算法来拒绝就业、信贷或服务。
欧洲人工智能法规(AI 法案)
2023年欧盟通过了AI法案,这是世界上最严格的法规,它将AI分为风险类别:禁止(例如,在公共场所持续面部识别),高风险(例如,招聘,信用),中等风险和最低风险。
对于高风险系统,要求包括:完整的技术文件、发射前测试、发射后监控和合规官员。
实际行动: AI系统按风险类别排序,对于高风险,必须保留详细的文档,考虑咨询AI专家法学家。
ISO/IEC 42001 AI 风险管理标准
该国际标准于 2023 年发布,为实施安全的人工智能管理系统提供了指导方针。它不是法律强制性的,但它正在成为市场期望&IS,尤其是在雇用人工智能服务的大公司和公共机构中。
该标准涵盖:人工智能治理、风险识别、利益相关者沟通和持续审计。
安全和道德实施的最佳实践
强大的人工智能治理
创建一个内部人工智能委员会,其中包括:技术专家、法律专家、合规代表和业务领导。该委员会应在实施前评估每个新的人工智能项目,考虑法律、道德和安全风险。
记录所有决定。项目获得批准后,记录谁批准、在什么条件下以及谁负责持续监控。
启动后监控(连续监控)
AI不是
