오레곤, 아동학대 사건에 AI 도구 사용 중단

오레곤, 아동학대 사건에 AI 도구 사용 중단
퓰리처 위기 보고 센터에서 지원하는 이 이야기는 사람들의 일상 생활에서 알고리즘에 의해 주도되는 결정의 힘과 결과를 조사하는 진행 중인 AP 시리즈 “추적”의 일부입니다.
아동 학대 및 방치 신고에 대한 핫라인 직원의 결정은 조사 과정에서 사회 복지사가 먼저

가족이 국가의 개입에 직면해야 하는지 여부를 결정하는 중요한 순간을 나타냅니다 위험이 큽니다.

혐의에 참석하지 않으면 아이가 사망할 수 있지만 가족의 삶을 면밀히 조사하면 헤어질 수 있습니다.

파워볼사이트 캘리포니아에서 콜로라도, 펜실베니아에 이르기까지 아동 복지 기관이 알고리즘을

파워볼사이트 추천 사용하거나 구현을 고려함에 따라 AP 검토는 아동 복지 시스템의 편견을 강화할

파워볼 추천 가능성을 포함하여 기술 사용의 투명성, 신뢰성 및 인종적 격차에 대한 우려를 확인했습니다.
우리를.

센. 오리건주 민주당원인 Ron Wyden은 자신이 속한 주의 아동 복지 시스템에서 사용하는 알고리즘에 대해 오랫동안 우려해 왔으며 AP 기사 이후 다시 해당 부서에 연락하여 인종 편향에 대해 질문했다고 말했습니다.

아동 보호 서비스의 지능 도구.
Wyden은 성명에서 “어린이와 가족에게 어떤 일이 일어날지에 대한 결정을 내리는 것은 테스트되지 않은 알고리즘을 제공하기에는 너무 중요한 작업입니다.”라고 말했습니다. “오레곤 복지부가 내가 인종 편견에 대해 제기한 우려를 심각하게 받아들이고 선별 도구 사용을 일시 중지하게 되어 기쁩니다.”

오레곤


Sunderland는 오레곤 아동 복지 당국이 지난 달 발표를 하기 전에 조사 절차를 변경하는 것을 오랫동안 고려해왔다고 말했습니다.
그는 최근 주정부가 전국의 다른 많은 아동 복지 관할 구역과 일치하는 구조적 의사 결정 모델이라는 새로운 프로그램으로 알고리즘을 완전히 대체하기로 결정했다고 덧붙였습니다.
Oregon’s Safety at Screening Tool은 영향력 있는 Allegheny Family Screening Tool에서 영감을 얻었습니다.

이 도구는 피츠버그 주변 카운티의 이름을 따서 명명되었으며, 어린이가 위탁 양육에 들어가거나 향후 조사를 받게 될 위험을 예측하는 것을 목표로 합니다. 2018년에 처음 구현되었습니다.

사회 복지사는 다른 사회 복지사가 가족을 조사하러 가야 하는지 결정할 때 알고리즘이 생성하는 수치적 위험 점수를 봅니다 숫자가 높을수록 위험이 커집니다.
그러나 오리건 당국은 가족의 위험을 계산할 때 내부 아동 복지 데이터만 사용하도록 원래 알고리즘을 수정했으며

“공정성 수정”으로 설계의 인종 편견을 의도적으로 다루려고 했습니다.More News
앨러게니 카운티의 알고리즘이 처음에 “의무적” 아동 방치 조사를 위해 과도하게 많은

수의 흑인 가족을 표시했다는 카네기 멜론 대학교 연구원의 발견에 대한 응답으로 카운티

관리는 이 연구를 “가설”이라고 불렀으며 사회 복지사는 항상 도구를 무시할 수 있다고 언급했습니다.

결코 단독으로 사용하도록 의도된 것이 아닙니다.