신문은 선생님

레일라 슈넵스 외 지음｜김일선 옮김｜출판사 아날로그｜가격 1만8000원

금발을 묶어 늘어뜨린 백인 여성, 턱수염을 기른 흑인 남성, 그리고 노란색 자동차. 1964년 미국 로스앤젤레스에서 강도 사건이 벌어졌을 때 목격자들이 기억해 낸 범인의 모습입니다. 경찰은 얼마 뒤 이와 비슷한 부부를 붙잡았지만 결정적 증거는 없었습니다. 그때 검사가 뜻밖의 무기를 꺼냈습니다. 바로 수학입니다. 그는 금발 여성일 확률, 턱수염 난 남성일 확률, 노란 자동차를 탈 확률 등을 하나씩 정해 모두 곱했습니다. 답은 무려 1200만분의 1. 이런 특징을 모두 갖춘 남녀가 또 있을 가능성은 거의 없으니 붙잡힌 부부가 범인이라는 주장이었지요. 배심원들은 결국 유죄 판결을 내렸습니다.

그런데 검사가 계산에 사용한 숫자에 문제가 있었습니다. '노란 자동차는 열 대 중 한 대쯤'처럼 제대로 조사하지 않은 값을 사용한 것입니다. 아무리 곱셈을 정확하게 해도 처음 넣은 숫자가 엉터리라면 답을 믿을 수 없겠지요. 훗날 캘리포니아주 대법원은 이런 확률 계산의 사용을 문제 삼아 유죄 판결을 뒤집었습니다.

'법정에 선 수학'에는 이처럼 숫자가 중요한 역할을 한 열 가지 실제 사건이 등장합니다. 살인 사건부터 DNA 검사, 필적 감정, 대학 입학까지 소재도 다양하지요.

영국의 샐리 클라크는 어린 두 아들을 잇달아 잃은 뒤 오히려 아이들을 죽인 범인으로 몰렸습니다. 재판에서는 두 아이가 모두 자연스럽게 숨질 가능성이 약 7300만분의 1이라는 전문가의 주장이 나왔습니다. 하지만 형제는 유전적 특징이 비슷하고 생활 환경을 공유합니다. 첫째에게 영향을 준 원인이 둘째에게도 영향을 줄 수 있는데, 두 사건을 전혀 상관없는 일처럼 계산한 것이 문제였습니다. 뒤늦게 둘째 아이에게 심각한 세균 감염이 있었다는 기록이 발견됐고, 클라크의 유죄 판결은 뒤집혔습니다. 하지만 이미 3년 넘게 감옥에서 지낸 뒤였습니다.

1970년대 미국 UC 버클리 대학원의 입학 자료를 보면 남성 지원자의 합격률은 약 44%, 여성은 약 35%였습니다. 전체 숫자만 보면 여성이 불리한 대우를 받은 듯합니다. 그런데 학과별로 나눠 살피니 이야기가 달라졌습니다. 여성 지원자들은 원래 합격률이 낮은 학과에 더 많이 지원했고, 남성 지원자들은 합격률이 높은 학과에 더 많이 지원했습니다. 이를 학과 구분 없이 전체 데이터로 합치니 여성 합격률이 낮게 나타난 겁니다.

책은 숫자가 등장하는 순간 그 말을 덜컥 믿어버리는 태도를 경계합니다. 우리는 '합격률 90%' '만족도 1위' '수익률 20%' 같은 숫자를 늘 만납니다. 숫자가 붙으면 왠지 믿음이 생깁니다. 하지만 "그럼 틀림없겠네"라고 생각하기 전에 "잠깐, 그 숫자는 어떻게 나온 거지?"라고 한 번 더 물어야 한다고 책은 말합니다. 눈앞의 숫자가 정말 무엇을 뜻하는지 따져보는 힘. 우리가 수학을 배워야 하는 중요한 이유입니다.