1940년 1월, 잉글랜드 버킹엄셔의 한 저택 마구간 마당에서 영국 해독가들이 독일군의 전시 에니그마 메시지를 처음으로 풀어 냈습니다. 그 메시지를 만든 기계는 타자기처럼 생겼습니다. 독일군은 그 기계의 암호를 아무도 깰 수 없다고 믿었습니다.
이 저택이 블레츨리 파크(Bletchley Park)이고, 기계의 이름은 에니그마(Enigma)입니다. 이 이야기는 흔히 앨런 튜링(Alan Turing) 한 사람의 이야기로 전해집니다. 그런데 기록을 따라가 보면 출발점은 영국이 아니라 폴란드였고, 끝에는 1만 명 가까운 사람이 있었습니다.
에니그마는 어떤 기계였고, 누가 어떤 순서로 풀었을까요. 그 정보는 전쟁의 어디에 쓰였고, 왜 수십 년 동안 비밀이었을까요. 영국 정보통신본부(GCHQ), 영국 전쟁박물관(IWM), 블레츨리 파크 재단(Bletchley Park Trust), IEEE 역사 센터의 공개 기록으로 따라가 봅니다.
타자기를 닮은 암호 기계
에니그마는 1차 대전 직후 독일 기술자 아르투어 셰르비우스(Arthur Scherbius)가 발명했습니다. 그는 1918년에 회전자 기계 특허를 냈습니다. 겉모습은 타자기와 비슷했고, 자판 위에는 글자마다 램프가 하나씩 달린 램프판이 있었습니다.
쓰는 법은 단순했습니다. 운용자가 보낼 글의 글자 키를 누르면 램프판에서 다른 글자 하나가 켜졌고, 그 글자가 암호문이 됐습니다. 복잡한 일은 상자 안에서 일어났습니다.
상자 안에는 바꿔 끼울 수 있는 회전자가 여러 개 들어 있었습니다. 회전자는 키를 누를 때마다 돌았고, 그래서 암호의 규칙도 글자마다 바뀌었습니다. 기계 앞면의 플러그보드(plugboard)에서는 글자를 둘씩 짝지어 맞바꿨습니다.
매일 번호가 바뀌는 자물쇠를 떠올리면 비슷합니다. 실제로는 다른 점이 있습니다. 자물쇠는 번호 하나만 맞추면 열리지만, 에니그마는 키를 한 번 누를 때마다 회전자가 돌아 다음 글자의 규칙이 달라졌습니다.
블레츨리 파크 재단은 회전자와 플러그보드를 합친 가능한 설정이 103 sextillion 가지였다고 적습니다. 103 뒤에 0이 21개 붙는 수입니다. 독일은 이 때문에 에니그마를 깰 수 없다고 믿었습니다.
설정도 자주 바뀌었습니다. 에니그마는 보통 24시간마다 설정을 바꾸었고, 전쟁이 나자 독일은 암호 체계를 매일 바꿔 보안을 더 높였습니다. 독일군이 이 기계를 들인 시기는 재단 쪽에서 1926~1935년에 걸쳐서라고 적고, IEEE 역사 센터는 해군이 1926년, 육군이 1928년에 쓰기 시작했다고 적습니다.
폴란드에서 먼저 풀리다
영국도 손을 놓고 있지는 않았습니다. 에니그마가 알려진 1926년부터 영국은 이 문제를 해독가 한 사람, 딜리 녹스(Dilly Knox)에게 맡겼습니다. 녹스는 종이로 만든 도구로 상용 에니그마를 풀었습니다. 하지만 GCHQ의 설명으로는 그 방법은 규모를 키울 수 없었고, 독일군이 자기들 기계에 더한 개량도 감당하지 못했습니다.
폴란드는 다른 길을 골랐습니다. 1928년에 이미 폴란드 참모본부 암호국은 포즈난에서 독일어를 하는 수학 졸업생을 위한 암호 강좌를 열었습니다. 이 강좌를 거친 마리안 레예프스키(Marian Rejewski), 예지 로지츠키(Jerzy Różycki), 헨리크 지갈스키(Henryk Zygalski)가 에니그마를 풀었습니다.
레예프스키는 1932년 9월 에니그마 공략을 시작했습니다. 그해 그는 프랑스에서 군용 에니그마 운용을 적은 독일 교범 두 권을 받았고, 1932년 말까지 군용 에니그마 회전자의 배선을 알아냈습니다. 프랑스 쪽에서는 제2국의 베르트랑(Bertrand) 소령이 독일인 첩자를 포섭해 에니그마 교범과 키 자료를 받았고, 이 자료를 폴란드와 함께 나눴습니다.
세 사람은 AVA 무선 제조 회사 기술자들과 함께 봄바(bomba)라는 기계를 만들었습니다. 봄바는 105,456가지 회전자 위치를 모두 훑어 특정한 무늬를 보이는 것을 찾았습니다. 1938년 12월 독일이 새 회전자 두 개를 더하자 봄바가 60대 필요해졌고, 암호국에는 그만큼 만들 돈이 없었습니다.
전쟁이 다가오자 세 나라가 마주 앉았습니다. 1939년 1월 파리 회의는 영국도 폴란드도 아는 것을 말하려 하지 않아 실패했습니다. 7월에 바르샤바 밖에서 다시 만났을 때는 폴란드가 이룬 것을 모두 설명했습니다.
이 7월 회의의 날짜는 같은 GCHQ 쪽 안에서도 두 가지로 나옵니다. 설명 문단은 7월 25·26일로, 2014년 GCHQ 국장의 연설문은 7월 15·16일로 적었습니다. 그 무렵 독일의 보안 강화로 폴란드의 성과는 크게 줄어 있었습니다. 그래도 영국과 프랑스 대표는 폴란드가 읽어 낸 양과 봄바 설계 모두에서 자기들보다 훨씬 앞서 있다는 것을 알게 됐습니다.
회의의 결과 영국과 프랑스는 에니그마 복제기를 한 대씩 받았습니다. 폴란드가 매일의 키를 푼 방법도 함께 넘겨받았습니다. 독일이 폴란드를 침공한 뒤 폴란드 해독가들은 프랑스로 가서 프랑스 동료들과 합동 부대를 꾸렸고, 텔레프린터로 블레츨리 파크와 이어졌습니다.
블레츨리 파크로 옮긴 암호 학교
영국 쪽 주인공은 정부 암호 학교(Government Code and Cypher School, GC&CS)였습니다. 1946년까지 GCHQ가 쓰던 이름입니다. GC&CS는 1938년부터 런던을 떠날 준비를 했고, 1939년 8월 2일 전시의 집인 블레츨리 파크로 옮길 채비에 들어갔습니다.
직원은 8월 15일 오전 10시까지 블레츨리 파크에 도착해야 했습니다. 궁금해하는 주민에게는 런던 방공과 관련된 일이라고 말하기로 했습니다. 일은 저택과 바깥채에서 약 150명으로 시작했고, 사람이 늘자 부서들이 잔디밭에 세운 조립식 나무 오두막(Hut)으로 옮겨 갔습니다. 보안 때문에 부서는 오두막 번호로만 불렸습니다.
에니그마는 녹스가 꾸린 에니그마 연구반이 맡았습니다. 뒤에 피터 트윈, 앨런 튜링, 고든 웰치먼(Gordon Welchman)이 합류했습니다. 튜링은 전쟁 전부터 정부 암호 학교에서 시간제로 일했고, 1939년 9월 블레츨리 파크에 들어왔습니다.
1940년 1월 튜링은 파리로 가서 프랑스로 피신한 폴란드 해독가들을 만났습니다. GCHQ는 튜링과 레예프스키의 대화가 영국 첫 봄베(Bombe)의 설계로 이어진 생각의 바탕이었다고 적습니다. 같은 달 23일 무렵 블레츨리 파크는 독일 육군의 행정용 키 '그린'을 풀어 첫 실전 해독에 성공했고, 이어 독일 공군의 '레드' 키도 풀었습니다.
세 나라 가운데 누구의 몫이 더 컸느냐를 두고도 말이 많습니다. 2014년 7월 바르샤바 기념식에서 GCHQ 국장은 이 협력을 바통을 넘기는 이어달리기에 비유했고, 메달은 팀 전체가 받는다고 말했습니다. 누가 더 영예를 받을지가 아니라 협력의 이야기여야 한다는 것이 그의 말이었습니다.
봄베: 설정을 찾는 기계
봄베는 튜링이 동료 웰치먼과 함께 만든 기계입니다. 안에는 에니그마의 회전자를 나타내는 드럼이 여러 개 있어서, 에니그마 여러 대를 한데 묶어 놓은 것처럼 움직였습니다. 가능한 설정을 빠르게 확인해 하루의 설정을 찾는 일을 맡았고, 해독가의 일을 크게 줄였습니다.
이름은 폴란드의 봄바에서 왔지만 찾는 곳이 달랐습니다. IEEE 역사 센터에 따르면 폴란드 봄바는 메시지 앞머리의 지표에서, 영국 봄베는 메시지 자체에서 무늬를 찾았습니다. 첫 봄베는 1940년 3월 1호 오두막에서 시험했고, 1940년 중반부터는 독일 공군 신호가 블레츨리에서 읽혔습니다.
기계는 빠르게 늘었습니다. 11호 오두막은 1941년 3월부터 봄베를 여섯 대까지 두었고, 전쟁 동안 만든 봄베는 200대가 넘었습니다. 이 기계 수백 대를 여성 해군 대원인 렌(Wrens)들이 돌렸습니다. 어둡고 답답한 방에서 긴 교대로 하는 지루하고 힘든 일이었다고 전해집니다.
독일 해군의 통신은 더 복잡해서 블레츨리의 많은 사람을 막아 섰습니다. 1940년 2월부터 8호 오두막에 튜링의 해군 에니그마반이 있었고, 붙잡은 에니그마 자료와 튜링이 만든 기법으로 1941년부터 해군 에니그마가 읽혔습니다. 1942년에는 한동안 다시 읽지 못한 때도 있었습니다.
미국도 함께했습니다. 튜링은 1942년 12월 미국에 가서 미군 정보 부서에 봄베 사용을 조언했습니다. 미국 해군 봄베는 오하이오주 데이턴의 내셔널 캐시 레지스터(NCR) 안 해군 계산기 연구소에서 조지프 데쉬(Joseph Desch) 등이 만들었습니다.
블레츨리 파크 재단은 봄베를 특수 설계한 암호 해독 기계를 처음으로 대량 생산한 예로 봅니다. 재단의 표현으로는 봄베가 암호 해독의 산업화를 알렸습니다.
해독 정보가 쓰인 곳
전쟁 대부분 동안 블레츨리 파크는 무전을 직접 엿듣지 않았습니다. 감청은 'Y' 기지라는 비밀 감청소가 맡았습니다. 1944년 5~7월의 8주 동안만은 해독을 서두르려고 블레츨리 파크 안에서 직접 감청했고, D-데이 무렵의 메시지는 감청·해독·번역을 거쳐 두 시간 반 안에 텔레프린터로 연합군 지휘관에게 갔습니다.
바다에서 효과가 컸습니다. 1941년 하반기 튜링이 이끈 8호 오두막은 대서양 선단을 노리던 U보트가 쓰던 '돌핀' 키를 풀었습니다. 그 뒤 해군성이 U보트 무리를 추적하도록 도와, 미국에서 영국으로 보급품을 나르는 상선을 독일 해군이 가라앉히는 능력을 크게 줄였다고 재단은 적습니다. 처음에는 해군 지휘관들이 이 정보를 진지하게 받아들이게 하는 일부터 쉽지 않았습니다.
지중해에서는 1941년 3월 마타판 해전이 이탈리아 해군 에니그마 해독의 직접 결과였습니다. 땅의 싸움에서는 북아프리카가 대표적인 곳이었고, 카이로의 중동 합동국이 블레츨리 파크를 도왔습니다. 재단은 1942년 엘 알라메인 전투 전에 얻은 정보가 이 이집트 전역의 승리에 이바지했다고 적습니다.
1944년에는 에니그마 해독문이 D-데이 침공에 대한 독일의 방어 준비와 반응을 알려 주었습니다. 재단이 옮긴 글에서 아이젠하워는 작전 전과 작전 중에 해독가들이 보낸 정보가 자신에게 값을 매길 수 없을 만큼 귀했다고 말합니다. 그 정보가 영국과 미국 병사 수천 명의 목숨을 구했다는 말도 덧붙였습니다.
풀지 못한 메시지에도 쓸모가 있었습니다. 트래픽 분석(traffic analysis)은 메시지 내용 대신 통신의 양, 방향, 송신 무늬, 호출 부호 같은 특징을 살폈습니다. 덕분에 아직 풀지 못한 메시지에서도 정보를 얻을 수 있었습니다.
일한 사람들과 숫자
1939년 약 150명으로 시작한 조직은 빠르게 커졌습니다. 블레츨리 파크 재단은 넓은 블레츨리 파크 조직에서 일한 사람을 1만 명 가까이로 적습니다. D-데이 무렵 블레츨리 파크에는 7,000명이 있었고, 이들은 하루 5,000건 가까운 에니그마 메시지를 풀었습니다.
두 숫자는 세는 범위가 다릅니다. 1만 명 가까이는 재단이 '넓은 블레츨리 파크 조직'이라고 부른 전체의 수이고, 7,000명은 D-데이 무렵 블레츨리 파크의 인원입니다. 둘을 한 숫자로 합쳐 읽으면 안 됩니다.
사람을 찾는 방법도 달라졌습니다. 처음에는 옥스퍼드와 케임브리지 대학의 인맥으로 '교수 같은' 사람을 찾았습니다. 일이 기계화되고 감청량이 늘자 훨씬 넓은 곳에서 사람을 뽑았고, 그 가운데 많은 수가 여성 군 조직에서 왔습니다. 나머지는 공무원으로 뽑았습니다.
그 결과 1945년에는 직원의 75%가 여성이었고, 그 가운데 열에 여섯이 군복을 입었습니다. 대부분의 부서에서 민간인과 군인이 나란히 일했습니다. 소수의 미군 인원도 건너와 여러 부서에서 함께 일했습니다.
오래 지킨 비밀과 남긴 것
에니그마만 있었던 것은 아닙니다. 로렌츠(Lorenz) 암호 기계는 독일의 매우 중요한 전략 메시지를 실어 날랐습니다. 튜링이 1942년 7월에 만든 기법은 이 암호를 이해하려는 동료들의 작업에 쓰였습니다. 체신청 기술자 토미 플라워스(Tommy Flowers)가 이끈 팀은 진공관 기계 콜로서스(Colossus)를 만들었습니다.
콜로서스는 진공관 약 2,500개를 썼고 높이가 2 m가 넘었습니다. 모두 열 대가 만들어져 특히 D-데이 전에 중요한 정보를 냈습니다. 전쟁 뒤 여덟 대는 부품을 재활용하려고 해체했고, 두 대는 GCHQ가 남겼습니다. GCHQ는 콜로서스의 기능을 1960년대 초까지 썼다고 밝혔고, 많은 사람이 이 기계를 첫 디지털 컴퓨터로 봅니다.
비밀은 전쟁 중에도 지켜졌습니다. 프랑스의 베르트랑, 폴란드 암호국장 랑게르(Langer), 다른 폴란드 해독가 네 사람이 붙잡혀 심문을 받았지만 에니그마 해독의 비밀은 새지 않았습니다. 전쟁이 끝난 뒤에도 비밀은 이어졌습니다.
IWM은 블레츨리 파크의 일과 튜링의 몫이 1970년대까지 비밀이었고 전모는 1990년대에야 알려졌다고 적습니다. GCHQ는 콜로서스의 존재가 60년 가까운 비밀 끝에 2000년대 초에야 드러났다고 적습니다. 플라워스는 자기 몫이 알려지기 전에 은퇴했습니다.
비밀은 다른 몫도 가렸습니다. 세 나라가 함께 일한 이야기는 잊혔고, 1979년에 나온 영국 정보 공식사 1권은 폴란드와 프랑스의 몫을 낮춰 적었습니다. GCHQ 국장은 이것을 바로잡는 데 9년이 걸렸다고 말했습니다.
튜링의 전후는 순탄하지 않았습니다. 그는 1945년 전시 공로로 OBE를 받았지만, 1952년 당시 영국에서 불법이던 동성애로 체포됐습니다. 1954년 청산가리 중독으로 숨진 채 발견됐고, 검시 심리는 자살로 판단했습니다. 2013년의 일을 IWM은 유죄 판결이 뒤집혔다고, 재단은 사후 국왕 사면을 받았다고 적습니다.
그의 이름이 널리 알려진 것은 2014년 영화 「이미테이션 게임」 무렵부터입니다. 영화로 이름을 알게 됐다면 기록과 나눠 읽을 필요가 있습니다. 기록에서 봄베는 튜링과 웰치먼이 함께 만들었고, 그 앞에는 폴란드의 봄바와 프랑스가 구한 자료가 있었습니다.
해독이 전쟁에 준 영향은 자료마다 다른 말로 적혀 있습니다. IWM은 튜링과 동료 해독가들이 전쟁을 몇 년 줄였다는 추정이 있다고 적습니다. IEEE 역사 센터는 폴란드의 일이 영국 암호 해독의 바탕이 됐고, 뒤에 미국의 도움과 함께 전쟁을 끝내는 데 도왔다고 적습니다.
블레츨리 파크 자체는 한때 사라질 뻔했습니다. 1945년 말 터에는 오두막이 20개 넘게 있었지만, 1991년에는 남은 건물이 주택 개발로 헐릴 위기였습니다. 1992년 지역 역사가들이 터를 지켜 블레츨리 파크 재단이 생겼고, 지금은 복원한 3·6·8호 오두막을 볼 수 있습니다.
