Введение: Почему безопасность и этика искусственного интеллекта имеют значение для вашего бизнеса

От чат-ботов, которые обслуживают круглосуточных клиентов, до алгоритмов, прогнозирующих спрос, ИИ обещает повышение эффективности и прибыльности.

Согласно отчету Deloitte за 2023 г, 67% компаний столкнулись с рисками безопасности, связанными с ИИ, в последние два года Утечка данных, алгоритмическая предвзятость и отсутствие прозрачности входят в число главных вопросов Внедрение ИИ без учета безопасности и этики не только рискованно, но и потенциально незаконно.

Это руководство знакомит вас с ключевыми проблемами, обязательным соблюдением требований и практиками, которые вы должны знать, чтобы ответственно использовать ИИ.

Ключевые риски безопасности в искусственном интеллекте

Утечка данных и конфиденциальность

модели ИИ полагаются на большие объемы данных для функционирования. чем больше данных, тем лучше обучение, но также и чем больше риск.Если эти данные включают информацию от клиентов, сотрудников или интеллектуальной собственности, инцидент безопасности может быть катастрофическим.

Хакеры часто мириам в системах искусственного интеллекта, потому что они хранят ценные данные. В 2022 году Open AI пережил инцидент, когда пользователи получили доступ к конфиденциальной информации. Такие компании, как Google и Microsoft, внедряют шифрование в состоянии покоя и в пути для защиты данных, подаваемых в их модели искусственного интеллекта.

Практическое действие: Внедрить ограниченный доступ на основе ролей (RBAC).Требовать от поставщиков ИИ подписывать соглашения о защите данных (Соглашения об обработке данных).

Состязательные атаки и манипулирование моделями

Состязательные атаки используют уязвимости в моделях ИИ Злоумышленник может ввести данные, специально предназначенные для обмана алгоритма. Например, незначительные изменения изображения могут привести к полному отказу системы распознавания лиц.

Банки и финансовые учреждения особенно уязвимы, поскольку они используют ИИ для обнаружения мошенничества. Если модель обманута, мошеннические транзакции остаются незамеченными. Исследователи Карнеги-Меллон продемонстрировали в 2023 году, что определенные невидимые закономерности могут снизить точность моделей компьютерного зрения с 99% до менее 10%.

Практическое действие: Проверьте свои модели против противников внутри (состязательное тестирование). отслеживайте аномалии в шаблонах ввода. используйте такие методы, как состязательное обучение во время разработки.

Алгоритмическая предвзятость: когда ИИ дискриминирует

Предвзятость ИИ - это не просто этическая проблема - это юридический и финансовый риск. Если ваша система ИИ дискриминирует кандидатов по полу, расе или возрасту, вашей компании грозят серьезные судебные иски и штрафы.

В 2018 году было обнаружено, что система набора персонала Amazon с использованием искусственного интеллекта отдает предпочтение мужчинам, а не женщинам в инженерном деле. Amazon обучила модель с 10-летней историей найма, и ИТ отразили ранее существовавшую человеческую предвзятость.

Предвзятость происходит потому, что исторические данные часто отражают прошлые discriminations.Если вы тренируете модель с данными, которые показывают, что мужчины зарабатывают больше, чем женщины в определенных ролях, модель изучает и воспроизводит эту закономерность.

Как обнаружить и смягчить предвзятость

Аудит данных: Изучите, не перепредставляют ли данные вашего обучения определенные группы Набор данных 90% мужчин не представляет реальность Попробуйте по возможности сбалансировать данные или используйте методы повторного взвешивания.

Тестирование подгрупп: Не оценивайте свою модель только в общем среднем. тест производительности у мужчин, женщин, разных возрастных групп, географических регионов. Если модель работает хорошо для белых мужчин, но не работает для чернокожих женщин, существует предвзятость.

Прозрачность решений: Если модель отказывает в кредите, работе или услуге, пользователь должен знать, почему. Особенно в контексте высокой важности (занятость, кредит, справедливость) реализация объяснимости (XAI) не только этична, но и требуется по закону в нескольких юрисдикциях.

Практическое действие: Нанимайте экспертов по справедливости ИИ или расширяйте возможности внутренних команд. инструменты, такие как AI Fairness 360 (IBM) и Fairlearn (Microsoft), помогают программно обнаруживать предвзятость.

Соответствие законодательству: правила, которые вам необходимо знать

Общий закон о защите данных (LGPD)

В Бразилии LGPD (Закон 13,709/2018) устанавливает строгие правила сбора, хранения и использования персональных данных. если ваш ИИ обрабатывает данные бразильцев, вы подпадаете под действие LGPD.

Закон требует: явного согласия перед сбором данных, права доступа к тем данным, которые у вас есть, права на удаление (права на забвение), и уведомления в случае утечки Штрафы идут до 50 миллионов реалов или 2% от выручки, в зависимости от того, что больше.

Для ИИ LGPD также ограничивает полностью автоматизированное принятие решений вы не можете использовать чистый алгоритм, чтобы отказать в трудоустройстве, кредите или обслуживании без проверки со стороны человека.

Европейский регламент искусственного интеллекта (Закон об искусственном интеллекте)

Европейский Союз принял Закон об искусственном интеллекте в 2023 году, самое строгое регулирование в мире. Он классифицирует ИИ по категориям риска: запрещенный (например, непрерывное распознавание лиц в общественных местах), высокий риск (например, набор персонала, кредит), средний риск и минимальный риск.

Для систем высокого риска требования включают: полную техническую документацию, предпусковые испытания, мониторинг после запуска и сотрудника по соблюдению требований.

Практическое действие: Сортировать свои системы ИИ по категориям риска Для высокого риска ведение подробной документации является обязательным Рассмотрите возможность консультирования экспертов-юристов ИИ.

Стандарт ISO/IEC 42001 по управлению рисками в области искусственного интеллекта

Этот международный стандарт, опубликованный в 2023 году, содержит рекомендации по внедрению безопасной системы управления искусственным интеллектом. Он не является юридически обязательным, но он становится ожиданием рынка и IS, особенно среди крупных компаний и государственных органов, которые нанимают услуги искусственного интеллекта.

Стандарт охватывает: управление искусственным интеллектом, выявление рисков, общение с заинтересованными сторонами и постоянный аудит.

Передовой опыт безопасного и этического внедрения

Надежное управление искусственным интеллектом

Создать внутренний комитет ИИ, в который входят: технические эксперты, эксперты по правовым вопросам, представители по соблюдению требований и бизнес-лидеры. Этот комитет должен оценить каждый новый проект ИИ перед его реализацией, учитывая юридические, этические риски и риски безопасности.

Документируйте все решения. Когда проект будет одобрен, запишите, кто его одобрил, на каких условиях и кто несет ответственность за непрерывный мониторинг.

Мониторинг после запуска (непрерывный мониторинг)

ИИ - нет