Post-Quantum Cryptography: 차세대 암호화 시대를 위한 준비

개념 정의

Post-quantum cryptography(PQC)는 양자 컴퓨터가 해독할 수 없는 암호화 알고리즘 개발에 초점을 맞춘 암호학의 한 분야입니다. 현재 뱅킹 앱부터 VPN 터널에 이르기까지 데이터를 보호하는 대부분의 암호화는 기존 컴퓨터로는 사실상 풀 수 없는 수학적 문제에 기반합니다. 그러나 양자 컴퓨터는 근본적으로 다른 원리로 작동하기 때문에, 이러한 문제를 단 몇 시간 또는 몇 분 만에 해결할 수 있습니다.

Post-quantum cryptography는 데이터 암호화에 양자 컴퓨터를 사용하는 것이 아닙니다. 양자 컴퓨터조차 뚫기 어려운 새로운 고전적 알고리즘을 설계하는 것입니다. 마스터키가 발명되기 전에 더 견고한 자물쇠를 만드는 것과 같은 개념입니다.

---

작동 원리

PQC의 중요성을 이해하려면 먼저 이것이 대체하려는 기존 방식을 알아야 합니다.

오늘날 가장 널리 사용되는 암호화 방식인 RSA와 Diffie-Hellman은 큰 수의 인수분해나 이산 로그 문제 풀기가 극도로 어렵다는 점에 의존합니다. 충분히 강력한 양자 컴퓨터가 Shor의 알고리즘을 실행하면 이러한 문제를 기존 컴퓨터보다 지수적으로 빠르게 풀 수 있어, 현재 인터넷 보안 인프라의 대부분이 무력화될 수 있습니다.

Post-quantum 알고리즘은 양자 컴퓨터가 효율적으로 풀지 못하는 것으로 알려진 수학적 문제를 기반으로 합니다. 주요 범주는 다음과 같습니다:

  • 격자 기반 암호화(Lattice-based cryptography) — 고차원 격자에서 짧은 벡터를 찾는 어려움에 기반하며, 현재 표준화의 선두 후보입니다.
  • 해시 기반 암호화(Hash-based cryptography) — 암호화 해시 함수의 단방향 특성을 이용하여 디지털 서명을 생성합니다.
  • 코드 기반 암호화(Code-based cryptography) — 1970년대부터 연구된 문제인 무작위 선형 오류 수정 코드의 복호화 어려움에서 보안을 도출합니다.
  • 다변수 다항식 암호화(Multivariate polynomial cryptography) — 유한체 위에서의 다항식 방정식 시스템 풀기에 기반합니다.

2024년, 미국 국립표준기술연구소(NIST)는 키 캡슐화를 위한 ML-KEM(구 CRYSTALS-Kyber)과 디지털 서명을 위한 ML-DSA를 포함한 최초의 post-quantum 암호화 표준을 확정했습니다. 이 표준들은 현재 실제 소프트웨어와 프로토콜에 통합되고 있습니다.

---

VPN 사용자에게 중요한 이유

암호화를 해독할 수 있는 양자 컴퓨터가 아직 완전히 존재하지 않는다면, 지금 당장 이것이 왜 중요한지 의문이 들 수 있습니다.

그 답은 "지금 수집하고 나중에 복호화한다(harvest now, decrypt later)"는 개념에 있습니다. 국가 수준의 행위자와 자원이 풍부한 공격자들은 양자 컴퓨팅이 발전했을 때 복호화할 목적으로 이미 오늘날의 암호화된 인터넷 트래픽을 수집하고 있습니다. 금융 기록, 사적 통신, 비즈니스 기밀 같은 민감한 데이터는 수십 년간 공격자에게 유용한 정보가 될 수 있습니다.

VPN 연결은 주요 표적입니다. VPN이 세션을 수립할 때, 암호화 키를 협상하기 위해 키 교환 프로토콜(주로 Diffie-Hellman 또는 RSA 기반)을 사용합니다. 해당 키 교환이 수집된 후 양자 컴퓨터에 의해 해독된다면, 해당 세션의 모든 데이터가 노출됩니다.

이것이 바로 주요 VPN 제공업체들이 이미 프로토콜에 post-quantum 키 교환 메커니즘을 통합하기 시작한 이유입니다. 예를 들어 WireGuard는 PQC 알고리즘을 기존 암호화에 결합하는 하이브리드 post-quantum 핸드셰이크로 확장되고 있어, 오늘날의 위협과 미래의 위협 모두로부터 보호받을 수 있습니다.

---

실용적인 사례 및 활용

  • 정부 및 기업 VPN은 기밀 통신이 20~30년간 안전하게 유지되어야 하기 때문에 PQC 도입을 우선시하고 있습니다.
  • Signal과 기타 종단간 암호화 메시징 앱은 키 교환 프로세스에 post-quantum 암호화를 이미 도입하기 시작했습니다.
  • Mullvad와 같은 소비자 VPN 제공업체는 WireGuard 연결에 실험적인 post-quantum 키 캡슐화를 구현했습니다.
  • HTTPS의 기반 프로토콜인 TLS 1.3은 웹 트래픽 보호를 위해 하이브리드 post-quantum 암호화 스위트로 확장되고 있습니다.

Post-quantum cryptography로의 전환은 이미 진행 중입니다. 대중적인 양자 컴퓨터는 아직 수년이 걸리겠지만, 행동할 수 있는 시간은 점점 줄어들고 있으며, 오늘 마련되는 기반이 미래에 데이터가 얼마나 안전하게 보호될지를 결정할 것입니다.