인공지능의 8가지 한계 (2)

기계 결정의 투명성 문제

 AI 의사 결정의 추적성에는 상당한 결함이 있습니다. 이는, AI는 자신의 의사 결정 과정을 설명할 수 없다는 것입니다. 인공지능이 학습하고 결과에 도달하는 과정은 어느 시점에서도 직접 확인할 수 없습니다. 따라서 이는 운영, 자금 조달 및 투자와 같은 경쟁 활동에 필요한 투명성을 복잡하게 만듭니다.

 

 이를 극복하기 위해서 학습 및 의사 결정 과정을 별개의 AI 도구로 세분화하는 작업이 이미 진행 중입니다. 예를 들어, 설명 가능한 AI는 연구자들이 수학적 기술을 사용하여 AI 모델의 패턴을 분석하고 해당 모델이 어떻게 그들의 결정에 도달하는지에 대한 결론을 도출할 수 있도록 하는 연구 분야입니다. 이 설명은 데이터 과학자들이 더 나은 결과를 얻거나 결함이 있는 모델을 탐지하는 데 도움이 될 수 있습니다. 그러나 이 분야에서 돌파구를 마련하기 위해서는 아직까진 많은 시간이 필요합니다.

 

인공지능 편향

 인공지능은 인간의 편견을 없애는 것을 목표로 하지만, 인간이 가지고 있는 편견은 왜곡된 결과를 낳는 인공지능 모델이라는 결과를 만들어냈습니다. 미국의 한 예를 들면, 플로리다 브로워드 카운티에서 사용된 형사 사법 알고리즘은 아프리카계 미국인 피고인들을 백인 피고인들에 비해 거의 두 배의 비율로 고위험으로 잘못 분류했습니다.

 

 또한 아마존에서는 고용 알고리즘이 여성들에게 편향되어 있다는 것을 발견할 수 있었습니다. 컴퓨터 모델은 남성 이력서에서 흔히 볼 수 있는 유사성인 "실행"과 같은 단어를 기반으로 지원자들을 선호하여, 남성 지원자들이 선호된다는 것을 알게 되었고 여성 지원자들에게 불이익을 주었습니다. 이러한 문제점을 극복해 내기 위해서, 아마존은 편견 없는 모델을 만들기 위한 노력을 기울였습니다.

 

데이터 접근과 개인정보보호

 AI는 스피커, 스마트폰, 카메라와 같은 거의 모든 일상적인 아이템에 내장되어 있습니다. 이러한 디지털 장치는 우리가 그것들과 상호 작용하지 않을 때에도 우리의 사생활을 위험에 빠뜨리는 가상의 미니 스파이라고 주장할 수 있습니다. 또한 민감한 정보를 포함한 연령, 위치 등 우리의 개인 데이터는 AI 모델에 의해 지속적으로 처리되어 온라인 경험을 분석하고 맞춤화하고 있습니다. 그러나 이러한 한계는 데이터 사용 후 즉시 삭제, 익명 부여, 추적 가능성이 낮은 시스템 등 적절한 데이터 보호 기능을 통해 극복할 수 있습니다.

 

킬러 로봇의 도덕적, 윤리적 한계

 공식적으로 치명적인 자율 무기 시스템으로 알려진 킬러 로봇이라는 것이 존재합니다. 이 로봇은 인공지능과 기계 학습 알고리즘을 사용하여 목표물을 자율적으로 식별하고 파괴합니다. 킬러 로봇은 현재 우리나라의 비무장지대에서 한국군을 돕기 위해 삼성과 고려대학교가 공동으로 개발한 SGR-A1이 있습니다. 그 로봇은 약 4km 떨어진 곳에서 사람을 식별하고 그들을 쏘기 전에 경고할 수 있습니다.

 

 AI는 살상을 위해 프로그래밍되어 있기 때문에, 비인간적이고 비도덕적이며 비윤리적인 결정을 내릴 수 있습니다. 따라서 이를 사용할 때 오용을 방지하기 위한 윤리적 지침이 필요합니다. 예를 들어, 그들이 독립적으로 작동하는 것을 방지하기 위해 그들에 대한 인간의 통제를 보장하는 것이 될 수 있습니다.

 

실업 문제

 자동화와 인공지능이 사람들을 대체하고 실업 상태로 내몰 것이라는 우려가 커지고 있습니다. 예를 들어, 데이터 입력, 수신 또는 택배 서비스와 같이 사회적 또는 감정적 지능이 필요하지 않은 단조로운 작업에서 효율성을 높이기 위해 로봇이 인간을 대체하기 위해 사용됩니다. 그러나, AI는 인간이 새로운 기술을 배우고 창의성을 요구하는 더 보람 있는 분야에서 일할 수 있는 기회를 창출합니다. 최근의 한 연구에 따르면 인공지능은 230만 달러의 일자리를 창출하는 동시에 180만 달러의 일자리를 없앨 것으로 예측됩니다.

 

결론

 인공지능은 인간의 감정을 보여줄 수 없고, 인간처럼 생각할 수 없으며, 도덕적이고 윤리적인 결정을 내릴 수 없습니다. 그럼에도 불구하고 인공지능의 단점과 상관없이 AI 시장은 계속해서 성장하고 있습니다. 이는 인간에게 인공지능의 부상이 통제를 벗어나지 않도록 해야 할 책임이 있다는 의미를 내포합니다. 그러나 이는 인공지능이 지금의 한계를 극복하는 법을 배우기 전까지, 인간이 의료, 금융, 마케팅과 같은 여러 산업에서 AI 기반 솔루션을 사용하는 것을 자제해야 한다는 것을 의미하지는 않습니다.

 

 

인공지능의 8가지 한계 (1)