네덜란드 정부의 사임으로 이어진 네덜란드 혜택 스캔들은 알고리즘의 공정성 문제를 강조합니다. 네덜란드 세무 당국은 자체 학습 알고리즘을 사용하여 혜택 청구를 분류하고 일부를 고위험으로 표시한 다음 공무원이 급히 사기로 표시했습니다. 알고리즘은 클래스 불균형 및 처리하는 데이터의 특성과 같은 요인으로 인해 편향된 출력을 가질 수 있습니다. 이것은 알고리즘 집행 도구를 사용하는 기관에 대한 경고 역할을 해야 하며 그러한 실수를 방지하기 위한 전용 거버넌스 구조의 필요성을 강조해야 합니다. 위험 기반 집행 전략을 향한 EU의 움직임은 알고리즘을 기관에 매력적으로 만들 수 있지만 알고리즘이 편향되지 않고 소규모 이해 관계자 그룹에 불균형적으로 영향을 미치지 않도록 알고리즘을 지속적으로 조정해야 합니다. 알고리즘 집행의 책임은 감독자에게만 국한될 수 없습니다. 집행이 알고리즘에 의존할수록 위험에 더 많이 노출되기 때문입니다.
'Hacker News' 카테고리의 다른 글
| iOS 앱 시작 시간을 60% 단축했습니다. (0) | 2023.02.08 |
|---|---|
| Show HN: 모든 VC 투자 메모의 데이터베이스 (0) | 2023.02.08 |
| 현미경으로 본 하드웨어 트로이 목마(2022) (0) | 2023.02.07 |
| BP, 114년 역사상 최대 이익 (0) | 2023.02.07 |
| SQLite 확장 기능을 pip 설치 가능하게 만들기 (0) | 2023.02.07 |