개념
AI 윤리는 인공지능 시스템이 사회에 미치는 영향을 고려해 신뢰성, 공정성, 투명성, 안전성, 책무성 등을 다루는 주제이다.
주요 쟁점
- 편향: 학습 데이터의 차별이나 불균형이 모델 결과에 반영될 수 있다.
- 안전성: 딥페이크나 사기처럼 악용될 수 있다.
- 투명성: 모델이 왜 그런 결론을 냈는지 이해하기 어려울 수 있다.
- 책무성: AI가 잘못된 결정을 했을 때 책임 소재가 불명확할 수 있다.
- 에너지 사용: 대규모 AI 학습과 추론은 많은 컴퓨팅 자원과 전력을 요구한다.
데이터 기반 AI의 취약성
기계학습 모델은 학습 데이터에 크게 의존한다. 작은 상황 변화나 적대적 패치에 취약할 수 있고, 일반화 능력이 부족하면 실제 환경에서 문제가 생긴다.