인공 지능은 쉬운 일이 아니며, 이 분야에서 광범위한 개발 경험을 가진 회사에서도 문제가 발생할 수 있습니다. 그것은 또한 일어났습니다 아마존. 통신사 로이터의 보도에 따르면 “회사는 자동으로 인력을 선택하는 AI 기반 프로젝트를 포기해야 했습니다. 그의 주된 문제는 여성에 대한 억압이다."
아마존의 실패한 실험
대부분의 경우 AI 교육은 과거 데이터를 분석하여 수행됩니다. 그들의 빈번한 문제는 "선입견"에 기초한 작업 수행입니다. 이 경우 "편견"은 IT 분야에서 일하는 상당수의 남성이었습니다. 이 소프트웨어는 여자 대학을 나열하고 등급의 마지막 위치에 "여성"이라는 단어가 포함된 설문지의 순위를 매기는 알고리즘을 개발했습니다.
또한 읽기: Amazon, Alexa 음성 비서를 지원하는 Echo Wall Clock 출시
"개발팀은 제출된 100개의 지원서 중 특정 기준에 따라 최고의 5개를 선택하는 프로그램을 개발하려고 했습니다." - 익명의 출처를 보고합니다.
또한 읽기: Amazon, 대형 10인치 디스플레이를 갖춘 업데이트된 Echo Show 스마트 스피커 발표
회사는 프로그램이 성별 차이에 따라 결과를 제공한다는 것을 깨달았을 때 AI 알고리즘을 조정하기로 결정했습니다. 그러나 프로젝트의 명성이 훼손되었습니다. 또한 프로그램에 다른 "편견"이 없다는 보장도 없었습니다. 따라서 오래 생각하지 않고 Amazon은 더 나은 시간이 될 때까지 프로젝트를 다루기로 결정했습니다.
우리는 프로젝트가 수정되고 정직한 결과로 사용자를 계속 만족시키기를 바랄 뿐입니다.
드 제렐로 : Theverge