AI 기술과 인간 편향

 인공지능은 지난 10여 년 동안 기술 세계에서 큰 발전을 이루었고, 거의 모든 산업에 첨단 인공지능 시스템이 넘쳐나게 되었습니다. 이는 강력하고 매우 직관적이지만 오늘날 우리 문화에 여전히 존재하는 인종 및 성별에 대한 편견에 대해 고려하지 않았습니다.

 

 포브스지의 "기업이 자신의 AI 행동 강령을 필요로 하는 이유"(“Why Companies Need Their Own AI Code Of Conduct”)라는 제목의 기사에서는 비즈니스 윤리와 AI 기술 간의 관계를 조사합니다. AI는 인권을 보호하고 소비자들 사이의 인종 평등을 증진시키기 위해 규제되어야 하고, AI가 오늘날 빠른 속도로 계속 발전한다면 정부의 규제가 필요할 것이라고 강조합니다.

 

Why Companies Need Their Own AI Code Of Conduct

 

 우리는 일상생활 속에서 매일 AI 도구를 사용합니다. 시리가 우리를 카페로 안내하든, 인공지능 스피커에게 유행하는 노래를 틀어달라고 요청하든 말입니다. 인공지능은 수많은 노력을 통해 우리의 삶을 단순화시켰지만, 많은 면에서 그것을 훨씬 더 복잡하게 만들었습니다. 테크크런치에 따르면, 2014년 연구는 아마존의 AI 채용 알고리즘이 채용 과정에서 여성을 차별하기 시작했다고 밝혔습니다. 또한 MIT는 2019년에 얼굴 인식 기술이 어두운 피부를 가진 사람을 식별하는 데 덜 정확하다고 보고했습니다. 미국 국립표준기술원의 연구원들은 약 200개의 얼굴 인식 알고리즘에서 인종에 대한 편견을 발견했습니다. 인종 및 성별 편견과 싸우고 모든 환경에 걸쳐 평등을 증진하기 위해 AI 기술에 상당한 변화가 있어야 합니다.

 

 기술 회사들은 이미 차별과 싸우기 위해 AI 모델과 기술에 변화를 주기 시작했습니다. Business & Human Rights Resource Center에 따르면 IBM과 Microsoft와 같은 대기업은 얼굴 인식 기술을 규제했습니다. 2020년 6월, IBM은 얼굴 인식 모델 개발을 중단하기로 결정하고 Microsoft와 함께 알고리즘 윤리 및 규칙 구현을 옹호하는 문서에 서명했습니다. IBM의 경우 애플리케이션의 부정확성으로 인한 오류와 고발이 있어 미국 경찰이 AI 안면인식 기술을 사용해야 하는지에 대해서도 의문을 제기하게 만들었습니다.

 

 인공지능은 뒤에 있는 기술과 컴퓨터 공학을 이해하는 것만으로는 충분하지 않습니다. 인공지능 기술에 영향을 미치는 인적 요인과 인간 행동의 복잡성을 고려해야 합니다. 문제는 과학자들이 인공지능 도구를 만들 때 컴퓨터 실험실에서 일어나는 일이 아니라, 기술이 실제 상황에 적용되고 인간 본성의 복잡성을 이해할 수 없을 때 발생하는 일입니다. 인공지능은 결국 기계입니다. 이것이 오늘날 과학자들과 거대 기업들이 인공지능과 관련하여 직면하고 있는 도전입니다. 윤리적으로 발전하기 위해서는 인간의 편견을 피하고 인권을 더욱 해치는 적절한 AI 규제 도구가 구현되어야 합니다.