전체 글 (291) 썸네일형 리스트형 인공지능 알고리즘의 편향성과 공정성 (3) 인공지능 편향은 어디서 생기는가? 인간 리뷰의 편견 모델의 예측을 수용할지 또는 무시할지를 결정할 때 인간 검토자는 자신의 편견에 기초하여 올바른 모델 예측을 무시하고 자신의 편견을 도입할 수 있습니다. 이는 사람이 평가하는 동안 자신의 편견이 알고리즘에 영향을 미치도록 허용할 때 발생할 수 있으며, 이는 모델의 성능에 상당한 영향을 미칠 수 있습니다. 인공지능 편향을 완화하는 방법은? 편향 완화 전략을 적용하면 AI 알고리즘의 성능을 높일 수 있습니다. 즉, AI 시스템의 편향은 모델링 워크플로우의 세 단계를 통해 해결될 수 있습니다. 전처리: 데이터 과학자들은 편향을 감지하기 위해 원시 데이터에 대한 테스트를 실행하여 모델을 훈련시키기 전에 데이터 세트를 수정할 수 있습니다. 그런 다음 훈련 샘플에 .. 인공지능 알고리즘의 편향성과 공정성 (2) 인공지능 편향은 어디에서 생기는가? 이전 글에서 언급한 바와 같이, AI 모델과 그들의 예측은 훈련에 사용되는 데이터에 의해 크게 결정됩니다. 따라서, AI 시스템에서 가장 큰 편향의 원천은 그것이 훈련된 데이터입니다. 역사적 편향(Historical Bias) 역사적 편향은 우리의 데이터에 스며든 현재 세계에 존재하는 편향입니다. 모델을 훈련하는 데 사용된 데이터가 더 이상 현재 현실을 반영하지 않을 때 발생합니다. 역사적 편향은 역사적으로 불리하거나 배제된 집단과 개인에게 나타나는 경향이 있습니다. 예를 들어, 인공지능 시스템이 금융 부문에서 적격한 대출 신청자를 선정하는 임무를 맡았다고 가정 할 때, 모델이 훈련 받은 데이터에 기초하여, 그것은 남성 대 여성에 대한 특혜를 보여줄 수 있습니다. 이 .. 인공지능 알고리즘의 편향성과 공정성 (1) 인공지능은 편향과 공정성으로 인해 문제에 직면합니다. 기계 학습이 일부 그룹과 개인이 불이익을 받는 사회를 만드는 데 기여하는 다양한 산업과 응용 프로그램이 있습니다. 가장 흔한 문제 중 일부는 어두운 피부의 얼굴을 감지하는 문제로 이어지는 얼굴 인식과 민족에 걸친 의료 진단을 포함합니다. 인공지능 알고리즘의 편향과 공정성에 대해 더 많이 배우고 공정하고 공평한 결과로 이어지는 결정을 내리는 데 도움을 주는 인공지능 시스템을 개발하는 방법에 대해 알아보겠습니다. AI 편향이란? 인공지능 편향, 알고리즘 편향 또는 기계 학습 편향은 인간의 편향을 통합하고 반영하는 알고리즘의 경향입니다. 인공지능 모델과 그 예측은 훈련에 사용되는 데이터에 의해 크게 결정됩니다. 따라서 많은 편향은 편향된 데이터의 결과입니다.. 이전 1 ··· 3 4 5 6 7 8 9 ··· 97 다음