신문은 선생님

인공지능(AI) 이야기가 나올 때마다 빠지지 않고 등장하는 단어가 있어요. 바로 GPU예요. 우리말로 풀면 '그래픽 처리 장치'인데, 이름에서 알 수 있듯 원래 AI를 위해 만든 부품이 아니랍니다. 놀랍게도 게임을 위해 태어났어요. 게임 화면을 그리던 부품이 어쩌다 AI의 심장이 됐을까요?

먼저 3차원(3D) 게임 화면을 어떻게 만드는지 살펴보겠습니다. 컴퓨터는 화면 속 공간에 점을 찍고, 그 점들을 선으로 이어 도형을 만든 뒤, 도형 안쪽을 색으로 채웁니다. 색칠 공부와 똑같은데요. 밑그림에 색연필로 하나씩 색을 칠하면 시간이 오래 걸리곤 해요. 그런데 색연필이 수천 자루 있다면 어떨까요? 한 자루는 하늘을, 한 자루는 나무를 맡아 모두 동시에 칠하는 거예요. 훨씬 빨리 끝나겠죠. GPU가 하는 일이 바로 이거예요. 값싼 색연필을 한꺼번에 쥐여 주는 거죠. 한 자루만 놓고 보면 그리 뛰어나지 않지만, 수천 자루가 동시에 움직이니 전체 작업은 순식간에 끝나요. 컴퓨터의 두뇌인 CPU가 비싸고 성능 좋은 계산 장치를 몇 개만 갖춘 구조라면, GPU는 이처럼 성능은 떨어져도 값싼 계산 장치를 수천 개 심어 둔 구조랍니다.

여기서 한 걸음 더 나아가 볼까요? 색칠뿐 아니라 과학 계산도 한꺼번에 할 수 있지 않을까요? 실제로 이런 생각을 한 사람이 있었어요. 2000년 미국 스탠퍼드대에서 공부하던 대학원생 이언 벅이에요. 게임을 더 크고 실감 나게 즐기고 싶었던 그는 그래픽 카드 32장을 연결하고 프로젝터를 이어 붙여, 벽 하나를 가득 채우는 초고화질 게임 화면을 만들었어요. 그러다 문득 궁금해졌죠. '이 장치로 게임 말고 다른 계산도 할 수 있지 않을까?'

벅은 졸업 후 엔비디아에 들어가 2006년 쿠다(CUDA)라는 개발 도구를 내놓았어요. 그전까지 GPU를 다루려면 그래픽 전문가만 아는 어려운 언어를 써야 했는데, 쿠다 덕분에 과학자들이 평소 쓰던 언어로 GPU를 자유롭게 쓸 수 있게 됐죠. 그때부터 GPU는 단백질 구조를 예측하고 새로운 약을 찾아내는 등 온갖 계산에 쓰이기 시작했어요.

그리고 2009년, 스탠퍼드대 연구진이 인공지능 연구에 GPU를 본격적으로 도입했어요. 결과는 놀라웠습니다. 일반 컴퓨터로 몇 주씩 걸리던 작업이 GPU를 쓰자 하루 만에 끝났고, 속도는 최대 70배까지 빨라졌죠. 이 연구가 발표된 자리가 바로 지난번(7월 16일자) 소개한 학회 ICML(국제머신러닝학회)이었답니다. 소식이 알려지자 전 세계 연구자들이 앞다퉈 GPU를 쓰기 시작했고, 마침내 GPU는 AI를 대표하는 장비가 됐어요.

앞서 소개한 HBM(고대역폭 메모리)도 바로 이 GPU 옆에 붙어 데이터를 부지런히 실어 나르는 메모리예요. GPU의 대규모 계산 능력과 HBM의 빠른 속도가 오늘날 챗GPT 같은 AI를 만들어 낸 거죠.

게임을 더 재미있게 즐기고 싶다는 마음에서 시작된 호기심 하나가 오늘날의 AI 시대를 연 셈이에요. 쿠다를 만든 벅은 20여 년이 지난 지금도 엔비디아에서 AI 데이터센터 사업을 이끄는 부사장으로 일하고 있답니다.