신문은 선생님

[재미있는 과학] 보안 기술 역이용한 랜섬웨어의 공격

입력 : 2017.07.05 03:10

[랜섬웨어]

최강 보안 기술 'RSA 알고리듬'… 수퍼컴퓨터도 푸는 데 1만년 걸려
랜섬웨어는 이 기술을 악용해 PC 해킹해 파일 잠그고 몸값 요구
평소 자료 백업해두는 게 중요해요

세계가 랜섬웨어로 몸살을 앓고 있어요. 랜섬웨어 '워너크라이'는 지난 5월부터 150개국 수십만 대 이상의 컴퓨터를 감염시켰어요. 랜섬웨어 때문에 곳곳에서 인터넷이 마비됐고 영화관·은행 등을 이용하는 데 불편을 겪었어요. 랜섬웨어는 몸값을 의미하는 랜섬(ransom)과 소프트웨어가 결합한 IT 신조어예요. 컴퓨터에 저장된 사진과 문서를 볼 수 없도록 암호화한 뒤 몸값을 요구하는 컴퓨터 인질범이죠.

개인의 경우 보통 50만~100만원 정도를 요구하지만, 은행이나 전산 업체 같은 곳에는 수십억원을 요구하기도 해요. 우리나라의 한 인터넷 업체는 해커에게 13억원을 지불해 문제를 해결했어요. 해커에게 돈을 주지 않고도 랜섬웨어를 치료할 방법은 없는 걸까요?

◇보안 위해 문서 암호화 시작

문서 내용을 암호로 바꾸는 것은 원래는 좋은 의도로 개발된 기술이에요. 예를 들어 스마트폰 메신저로 대화를 주고받을 때 내가 보낸 메시지는 나의 스마트폰에서 출발해 통신사와 메신저 앱(예를 들면 카톡)의 서버를 거쳐 내 친구에게 전달돼요. 만약 통신사 사람이 나쁜 마음만 먹으면 나와 친구의 대화 내용을 훔쳐볼 수 있어요. 이런 상황을 막기 위해 대부분의 메신저 앱은 대화 내용을 암호화합니다.

[재미있는 과학] 보안 기술 역이용한 랜섬웨어의 공격
/그래픽=안병현
현재 가장 널리 쓰이는 암호화 방식은 'RSA 알고리듬'이에요. 1970년대 이 방식을 고안한 미국 MIT 학자 리베스트(Rivest), 샤미르(Shamir), 애들먼(Adleman)의 이름 앞 글자를 딴 명칭이죠. RSA 알고리듬은 두 개의 큰 소수(素數)를 곱하는 것은 쉽지만 인수분해 하는 것은 어렵다는 성질을 이용해 암호를 만드는 방식입니다. 두 소수의 곱은 600자리 이상의 엄청나게 큰 숫자예요. 해(垓)가 21자리 숫자니까 600자리 숫자면 얼마나 큰지 가늠할 수 있겠죠? 이 곱을 인수분해 하면 엄청나게 많은 경우의 수가 생겨요.

내가 친구에게 보낸 '안녕'이란 메시지는 숫자로 전환돼 이 방식에 따라 암호화됩니다. 이 암호는 통신사도, 메신저 앱도 심지어 메시지를 보낸 나도 풀 수 없어요. 처음 사용된 두 소수를 알지 못하면 해독이 사실상 불가능하죠.

수퍼컴퓨터를 이용해 일일이 인수분해 하고 소수를 추적할 수 있지만, 현재 가장 뛰어난 컴퓨터를 사용해도 1만년 이상 걸릴 정도로 시간이 오래 걸리는 작업이에요.

단, 상대방인 내 친구의 휴대폰만은 처음 암호화할 때 사용된 두 소수를 알고 있기 때문에 쉽게 해독해서 볼 수 있죠. 메신저 앱을 설치할 때 각자 고유의 열쇠(두 개의 소수)를 심어놓은 덕분이에요. 내 친구의 휴대폰 앱만이 내가 보낸 메시지에 대한 열쇠를 갖고 있는 거예요. 자물쇠를 잠그는 것은 누구나 할 수 있지만, 오직 열쇠를 가진 사람만 자물쇠를 풀 수 있는 것과 비슷한 원리예요.

◇기술을 역으로 이용한 랜섬웨어

랜섬웨어는 이런 RSA 알고리듬을 악용해 사용자의 문서와 사진을 암호화해요. 해커가 암호를 알려주지 않는 이상 랜섬웨어를 치료하는 것은 불가능에 가깝죠. 그래서 피해자들은 울며 겨자 먹기로 몸값을 지불해요. 해커가 바라는 대로 돈을 준다고 해도 문제가 해결되는 것은 아니에요. 돈을 보내도 암호를 해독할 수 있는 방법을 알려주지 않고 잠적해버리는 경우가 태반이에요. 해커들은 대개 인터넷상의 가상화폐 비트코인으로 몸값을 받아내 수사기관의 추적을 따돌립니다.

더구나 해커의 요구에 응할 경우 한국 사람들이 쉽게 돈을 준다는 인상을 남겨 피해가 더 커질 수 있어요. 결국 랜섬웨어로부터 컴퓨터를 안전하게 지키는 유일한 방법은 평소에 조심하는 것뿐이에요.

한국인터넷진흥원(KISA)이 2016년 발표한 랜섬웨어 예방 수칙에는 불법 정보 공유 사이트 방문을 금지하고, 출처를 알 수 없는 이메일을 열람하지 말라고 권고하고 있어요. 이전의 랜섬웨어들은 이메일, SNS, 특정 사이트 등을 통해 퍼졌어요. 반면 신종 랜섬웨어 워너크라이는 윈도 운영체제 자체를 파고들어, 컴퓨터 전원을 켜기만 해도 해킹 대상의 컴퓨터에 침투할 수 있어요. 감염된 컴퓨터로 또 다른 컴퓨터를 공격하기도 하기 때문에 피해가 더 커졌죠. 워너크라이를 제작한 것으로 알려진 '섀도 브로커스'는 미국 국가안보국(NSA)을 해킹할 정도로 신출귀몰한 해커 집단이에요.

전문가들은 랜섬웨어를 예방하기 위해 주기적으로 자료를 백업하기를 권고하고 있어요. 컴퓨터 내부에 별도의 안전 공간을 만들어 주기적으로 백업을 해두는 프로그램도 등장했어요. 출처를 알 수 없는 이메일을 열지 않고, 불법 사이트를 방문하지 않는 것도 중요하답니다. 이런 안전한 사용 습관이 컴퓨터를 지킬 수 있는 유일한 방법이라는 것을 잊지 마세요.


송준섭 과학 칼럼니스트 기획·구성=박승혁 기자