공정성

공정성은 알고리즘 기반 의사 결정을 통해 인종, 소득, 성적 지향, 성별과 같은 민감한 특성과 관련하여 최종 사용자가 경험할 수 있는 다양한 결과를 다룹니다. 예를 들어 채용 알고리즘에 특정 성별이나 민족과 관련된 이름을 가진 지원자에 대한 편향이 있을 수 있나요?

이 동영상에서 머신러닝 시스템이 인간의 편향에 영향을 받을 수 있는 방식을 자세히 알아보세요.

실제 사례를 보려면 Google 검색 및 Google 포토와 같은 제품이 Monk 피부 톤 스케일을 통해 피부 톤 표현의 다양성을 개선한 방법을 알아보세요.

모델의 편향을 식별, 측정, 완화하는 신뢰할 수 있는 방법이 있습니다. 머신러닝 단기집중과정의 공정성 모듈에서는 공정성과 편향 완화 기법을 자세히 살펴봅니다.

사람과 AI 연구 (PAIR)에서는 공정성 측정 및 숨겨진 편향에 관한 양방향 AI 탐색 도구를 제공하여 이러한 개념을 살펴볼 수 있습니다. ML 공정성과 관련된 더 많은 용어는 머신러닝 용어집: 공정성 | 개발자를 위한 Google을 참고하세요.