신문은 선생님

누군가 학창 시절 받은 시험 성적만으로 여러분의 삶 전체를 판단한다면 어떤 기분일까요? 혹은 당신이 온라인에서 무심코 눌렀던 '좋아요' 하나가 취업 면접을 좌우한다면요? 터무니없는 얘기처럼 들리겠지만, 어쩌면 우리는 이미 그런 세상에 살고 있는지도 모릅니다. 일부 사실만으로 판단을 내리는 인공지능의 '알고리즘'에 점점 더 의존하고 있기 때문이에요.

알고리즘은 페르시아 수학자 '알 콰리즈미'의 이름에서 유래한 단어입니다. 원래는 '문제를 해결하기 위한 절차'를 의미하는 말이었죠. 그런데 요즘은 데이터를 분석해 패턴을 찾는 기술을 의미하게 됐어요. '유튜브 알고리즘'이라는 말은 한 번쯤 들어보셨을 거예요. 내가 시청하는 영상 패턴을 파악한 후 좋아할 만한 영상을 추천해주는 거죠.

미국의 수학자이자 데이터 과학자인 저자는 수학과 IT, 데이터의 결합으로 만들어진 알고리즘이 어떻게 우리 삶 곳곳에 영향을 미치는지 이야기합니다. 금융과 IT 업계에서 직접 알고리즘을 설계하고 다룬 경험을 바탕으로 알고리즘이 사람들을 차별하고 통제하는 현실을 파헤치죠.

알고리즘의 작동 방식엔 만든 사람의 편견과 고정관념이 고스란히 녹아 있다고 합니다. 저자가 알고리즘을 '대량살상 수학무기'라고 부른 것도 바로 이런 편향성 때문이에요. 알고리즘의 특징은 세 가지입니다. 첫째 '불투명성'은 알고리즘의 작동 방식과 기준을 일반인은 알 수 없다는 거예요. 둘째는 '확장성'입니다. 잘못된 기준과 패턴이 인터넷을 통해 순식간에 퍼진다는 거지요. 마지막은 '피해의 악순환'이죠. 알고리즘은 이전 결정을 반복하며 사람들을 고정된 틀에 가둔 다음 그 결과를 다시 데이터로 활용해 편견을 강화합니다.

저자는 다양한 사례를 들어 알고리즘의 위험성을 지적합니다. 학생들의 시험 점수만으로 교사를 평가하는 알고리즘 때문에 수많은 뛰어난 교사가 해고를 당하고, 범죄 가능성을 예측하는 알고리즘 때문에 특정 지역 주민들이 더 많은 감시를 받으며 범죄자로 낙인찍히는 등 실제로 알고리즘으로 인한 광범위한 피해가 발생하고 있지요. 사회에 존재하는 차별이 알고리즘이라는 도구를 통해 더 은밀하게, 더 정교하게, 그리고 더 멀리 확산되고 있음을 보여줍니다.

책을 읽고 나면 '데이터는 진실을 담고 있다'는 통념이 사실이 아니란 것을 알게 됩니다. 책 말미에는 이런 말이 등장합니다. "알고리즘은 미래를 예측하지 않는다. 알고리즘은 미래를 만든다." 지금 어떤 데이터가 선택되고, 또 어떤 기준이 설정되느냐에 따라 앞으로의 세상이 완전히 달라질 수 있다는 뜻입니다. 그렇기 때문에 지금 우리에게 필요한 것은 기술을 비판적으로 바라보는 태도입니다. '대량살상 수학무기'는 이러한 태도를 기르는 계기로 삼기에 충분한 책입니다.