소개: AI 안전과 윤리가 비즈니스에 중요한 이유
24 시간 고객을 대상으로 하는 챗봇부터 수요를 예측하는 알고리즘까지 AI는 효율성과 수익성 향상을 약속합니다.
2023년 딜로이트 보고서에 따르면 지난 2년 동안 기업의 67%가 AI 관련 보안 위험에 직면해 있습니다. 데이터 유출, 알고리즘 편견, 투명성 부족이 가장 큰 문제 중 하나입니다. 보안 및 윤리와 관계없이 AI를 구현하는 것은 위험할 뿐만 아니라 잠재적으로 불법입니다.
이 가이드에서는 AI를 책임감 있게 사용하기 위해 알아야 할 주요 과제, 필수 규정 준수 및 관행을 소개합니다.
AI의 주요 보안 위험
데이터 유출 및 개인 정보 보호
AI 모델은 대용량 데이터에 의존하여 작동합니다. 데이터가 많을수록 교육이 향상되지만 위험도 커집니다.이 데이터에 고객,직원 또는 지적 재산의 정보가 포함되어 있으면 보안 사고가 치명적일 수 있습니다.
해커들은 귀중한 데이터를 저장하기 때문에 AI 시스템에서 종종 미리암을 사용합니다. 2022년에 Open AI는 사용자가 민감한 정보에 액세스할 수 있는 사고를 겪었습니다. Google 및 Microsoft와 같은 회사는 AI 모델에 입력된 데이터를 보호하기 위해 휴식 및 이동 중에 암호화를 구현합니다.
실제 조치: 역할 기반 제한 액세스 (RBAC) 를 구현합니다. AI 공급업체가 데이터 보호 계약 (데이터 처리 계약) 에 서명하도록 요구합니다.
적대적 공격 및 모델 조작
적대적 공격은 AI 모델의 취약점을 악용합니다. 공격자는 알고리즘을 속이기 위해 특별히 설계된 데이터를 입력 할 수 있습니다. 예를 들어 이미지를 약간 수정하면 얼굴 인식 시스템이 완전히 실패 할 수 있습니다.
은행과 금융 기관은 사기 탐지를 위해 AI를 사용하기 때문에 특히 취약합니다. 모델이 사기되면 사기 거래가 눈에 띄지 않습니다. 카네기 멜론 연구원은 2023 년에 특정 보이지 않는 패턴이 컴퓨터 비전 모델의 정확도를 99%에서 10% 미만으로 낮출 수 있음을 입증했습니다.
실제 조치: 내부적으로 상대와 모델을 테스트합니다 (적대 테스트). 입력 패턴의 이상 현상을 모니터링합니다. 개발 중에 적대적 훈련과 같은 기술을 사용합니다.
알고리즘 편향: AI가 차별할 때
AI 편견은 단지 윤리적 인 문제가 아닙니다 - 법적 및 재정적 위험입니다.AI 시스템이 후보자를 성별,인종 또는 연령으로 차별하는 경우 회사는 무거운 소송과 벌금에 직면하게됩니다.
2018 년 아마존의 AI 채용 시스템이 엔지니어링 분야에서 여성보다 남성을 선호한다는 사실이 밝혀졌습니다. 아마존은 10 년의 채용 이력으로 모델을 훈련 시켰으며 & IT 는 기존의 인간 편견을 반영했습니다.
편향은 과거 데이터가 종종 과거의 차별을 반영하기 때문에 발생합니다.특정 역할에서 남성이 여성보다 더 많은 수입을 올리는 데이터로 모델을 훈련 시키면 모델은 그 패턴을 배우고 재현합니다.
편견을 감지하고 완화하는 방법
데이터 감사: 훈련 데이터가 특정 그룹을 과대 표현하는지 여부를 조사하십시오. 90% 남성의 데이터 세트는 현실을 나타내지 않습니다. 가능하면 데이터의 균형을 맞추거나 재 가중치 기술을 사용하십시오.
하위 그룹 테스트: 모델을 일반 평균으로 만 평가하지 마십시오. 남성,여성, 다른 연령대,지리적 지역의 성능 테스트. 모델이 백인 남성에게는 잘 작동하지만 흑인 여성에게는 실패하면 편견이 있습니다.
결정의 투명성: 모델이 신용,직업 또는 서비스를 거부하는 경우 사용자는 그 이유를 알아야합니다.특히 중요도가 높은 상황 (고용,신용, 공정성) 에서 설명 가능성 (XAI) 구현은 윤리적 일뿐만 아니라 여러 관할권에서 법적으로 요구됩니다.
실제 조치: AI 공정성 전문가를 고용하거나 내부 팀에 권한을 부여하십시오. AI Fairness 360 (IBM) 및 Fairlearn (Microsoft) 과 같은 도구는 프로그래밍 방식으로 편견을 감지하는 데 도움이됩니다.
법적 준수: 알아야 할 규정
일반 데이터 보호법(LGPD)
브라질에서는 LGPD (법률 13,709/2018) 가 개인 데이터의 수집,저장 및 사용에 대한 엄격한 규칙을 설정합니다. AI 가 브라질 인의 데이터를 처리하는 경우 LGPD 의 적용을받습니다.
법은 다음을 요구합니다: 데이터 수집 전 명시적 동의,귀하가 보유한 데이터에 대한 접근권,삭제권 (잊힐 권리), 유출 시 통지. 벌금은 최대 R $50 백만 또는 수익의 2% 중 더 큰 금액까지 부과됩니다.
AI의 경우 LGPD도 제한합니다 완전 자동화된 의사결정 사람의 검토 없이 고용, 신용 또는 서비스를 거부하기 위해 순수 알고리즘을 사용할 수 없습니다.
유럽 AI 규정(AI법)
유럽 연합은 세계에서 가장 엄격한 규제 인 2023 년에 AI 법을 통과 시켰습니다. AI 를 위험 범주로 분류합니다: 금지 (예를 들어,공공 장소에서의 지속적인 얼굴 인식), 고위험 (예를 들어,채용, 신용), 중간 위험 및 최소 위험.
고위험 시스템의 경우 요구 사항은 다음과 같습니다: 전체 기술 문서, 출시 전 테스트, 출시 후 모니터링 및 규정 준수 담당자.
실제 조치: 위험 범주별로 AI 시스템을 정렬합니다. 높은 위험도를 위해서는 자세한 문서를 보관하는 것이 필수입니다. AI 전문 법학자와 상담하는 것을 고려하십시오.
AI의 위험 관리를 위한 ISO/IEC 42001 표준
2023 년에 발표 된이 국제 표준은 안전한 AI 관리 시스템을 구현하기위한 지침을 제공합니다.법적으로 의무 사항은 아니지만 특히 AI 서비스를 고용하는 대기업 및 공공 기관 사이에서 시장 기대 & IS 가되고 있습니다.
표준은 다음을 다룹니다: AI 거버넌스, 위험 식별, 이해관계자 커뮤니케이션 및 지속적인 감사.
안전하고 윤리적인 구현을 위한 모범 사례
강력한 AI 거버넌스
다음을 포함하는 내부 AI 위원회를 만듭니다: 기술 전문가, 법률 전문가, 규정 준수 담당자 및 비즈니스 리더.이 위원회는 법적, 윤리적 및 보안 위험을 고려하여 구현 전에 모든 새로운 AI 프로젝트를 평가해야합니다.
모든 결정을 문서화하십시오.프로젝트가 승인되면 누가 승인했는지,어떤 조건에서 누가 지속적인 모니터링을 담당하는지 기록하십시오.
출시 후 모니터링(지속적인 모니터링)
AI 는 아니다
