방패가 된 인공지능 알고리즘?

인공지능(AI)이 우리에게 강렬하게 각인된 것은 바둑 천재 이세돌과 인공지능(AI)의 격돌이었다. 그 이후 매우 여러 분야에서 인공지능의 발달된 IT 기법들이 활용되고 있다. 그런데 최근에는 그 인공지능 알고리즘이 무기가 된 것이 아닌가 하는 합리적 의심이 드는 사건들도 발생하고 있다.

 

 

 

인공지능이 적용된 포털 사이트의 기사 배치

인공지능 기법을 활용한 기업 중에서 가장 유명한 것이 포털 사이트가 아닌가 한다. 한 때 국내에서 가장 유명한 포털 사이트에 등재되는 기사들이 한쪽 진영으로 편향된 기사들이 주로 전진 배치가 된다는 의구심이 제기된 때가 있었다. 그리고 실제로 국회의원들이 그 포털 사이트를 운영하는 회사에 찾아가 항의하고 진실을 밝히려고 했다. 그때 그 포털 사이트를 운영하는 회사에서 한 답변이 바로 인공지능(AI) 기술이었다. 그들의 답변은 이랬다. 어느 기사를 어디에 배치하는 것은 자신들이 임의로 하는 것이 아니고 인공지능(AI)에 의해서 분류되고 배치가 된다는 것이었다. 그래서 그 회사의 직원들도 어떤 기사가 어디에 배치되는지 알지 못한다는 것이었다.

 

인공지능과 인간

 

인공지능이 적용된 배달 플랫폼 회사의 배달 기사 등급

또한 코로나 19로 호황을 맞고 있는 배달 플랫폼 회사에서도 인공지능 기술을 사용한다. 그들이 사용하는 인공지능 기술은 배달 기사들마다 인공지능이 등급을 부여한다는 것이다. 그래서 1등급으로 분류된 배달 기사들이 주로 배달 요청을 받는다고 한다. 그리고 조금이라도 그 인공지능에 부합하지 않는 배달 태도를 보이면 1등급에서 2등급으로 내려간다고 한다. 그런데 문제는 본인이 게을러서 쉰 것이 아니고 사고로 불가피하게 휴무를 했던 배달 기사가 1등급에서 2등급으로 내려갔다는 것이다. 그것도 사전에 본사 직원에게 아무리 사고라도 휴무를 하면 2등급이 되는 것 아니냐고 질문을 했다고 한다. 그러자 그 직원이 그럴 일은 없다고 했단다. 그런데 2등급이 되었고 그래서 배달 기사는 직원에게 항의성 질문을 하자 그 본사 직원은 인공지능이 등급을 판단하는 것이기 때문에 자신은 모른다고 했다. 후에 이 직원에 대한 공중파의 취재가 시작되자 어떻게 된 건지 다시 1등급으로 복귀가 되었다고 한다.

 

 

 

인공지능이 누구를 위한 인공지능인가?

자본주의 사회에서 모든 경제 활동은 이윤추구가 그 목적이다. 그래서 이윤추구를 목표로 하는 활동을 뭐라고 말할 수 없다. 그러나 그 이윤추구가 공정이나 정의가 바탕이 되지 않는다면 그건 다른 문제를 유발할 수 있는 것이다. 그리고 그 공정이나 정의에 어긋나는 것을 스스로 알고 있고 그래서 자신의 약점을 방어하는 방패로 인공지능이라는 기술을 사용한다면 더욱더 곤란할 것이다. 물론 앞에서 예를 들었던 두 가지 분야의 사업에서 인공지능 기술을 공정을 막는 방패로 사용한다는 것은 아니다. 단지 좋은 기술이 악용의 수단으로 사용되는 일이 벌어짐으로 개인과 사회가 피해를 보지 않기를 바라는 마음이다.