인공지능의 윤리적 문제

목차

1. 기존 알고리즘 및 데이터에 내재된 편향성의 문제
2. 인간의 생명에 대한 판단을 해야 할 때
3. 과도한 정보파악을 통한 인권침해의 소지

본문내용

1. 기존 알고리즘 및 데이터에 내재된 편향성의 문제.
첫 번째 윤리적인 문제는 알고리즘 및 데이터에 내재된 편향성 또는 차별성 문제입니다.
개발에 활용된 데이터의 부족함 혹은 편향성이 내재된다거나, 사용 알고리즘 자체에 왜곡, 편향이 내포되는 것입니다. 구글의 이미지 인식 기술의 불완전성이 흑인 여성을 고릴라로 인식하거나, 위챗이 번역 과정에서 니그로라는 단어를 사용하고, 마이크로소프트의 테이 챗봇이 인종차별자나 혐오주의자의 표현을 사용하게 된 것 등은 알고리즘의 불완전성 또는 차별적인 데이터로 인한 학습의 결과입니다. MIT 미디어 랩에서 2018년 얼굴인식 프로그램에 대해 조사한 결과, 피부 빛이 검을수록 인식 에러율이 크게 증가하는 것을 발견했다고 합니다. 특히 피부색이 검은 여성의 경우에는 거의 35%나 오류가 발생했습니다. 또한 설계자의 편향성이 알고리즘에 이식될 수 있습니다.

참고 자료

없음