PPTP: 피하는 것이 좋을 베테랑 VPN 프로토콜

PPTP란 무엇인가

Point-to-Point Tunneling Protocol, 흔히 PPTP로 불리는 이 프로토콜은 역사상 가장 초기에 만들어진 VPN 프로토콜 중 하나입니다. Microsoft는 1995년에 다이얼업 인터넷 연결을 통해 기업 네트워크를 확장하는 수단으로 PPTP를 개발했습니다. 당시로서는 혁신적인 기술이었습니다. 원격 근무자들이 전용 임대 회선 없이도 집에서 사무실 시스템에 안전하게 접속할 수 있게 된 것입니다.

수년간 PPTP는 VPN 연결의 기본 선택지였습니다. Windows 운영체제에 직접 내장되어 있어 별도의 서드파티 소프트웨어 없이도 매우 간편하게 설정할 수 있었습니다. 그러나 인터넷이 발전하고 보안 연구가 진전되면서, PPTP의 수많은 취약점은 더 이상 외면할 수 없는 문제가 되었습니다.

작동 방식

PPTP는 사용자의 기기와 VPN 서버, 두 엔드포인트 사이에 터널을 만들어 데이터 패킷을 캡슐화하는 방식으로 동작합니다. 다음은 그 과정을 간략하게 정리한 것입니다.

  1. 연결 수립: 사용자의 기기가 포트 1723을 통해 PPTP 서버에 TCP 연결을 시작합니다.
  2. 터널링: PPTP는 GRE(Generic Routing Encapsulation) 프로토콜의 변형 버전을 사용하여 데이터 패킷을 새로운 패킷으로 감싸 전송합니다.
  3. 인증: PPTP는 접속 사용자의 신원을 확인하기 위해 Microsoft의 인증 프로토콜, 주로 MS-CHAPv2에 의존합니다.
  4. 암호화: PPTP는 전송 중인 데이터를 암호화하기 위해 일반적으로 128비트 RC4 암호를 사용하는 MPPE(Microsoft Point-to-Point Encryption)를 활용합니다.

이 프로토콜은 네트워크 모델의 데이터 링크 계층에서 동작하며, 하위 네트워크 유형에 관계없이 가상의 점대점(point-to-point) 연결을 생성합니다.

VPN 사용자에게 중요한 이유 — 그리고 주의해야 할 이유

PPTP의 주요 장점은 항상 속도와 간편함이었습니다. 상대적으로 약하고 가벼운 암호화 방식 덕분에 PPTP는 처리 오버헤드가 매우 적습니다. 이로 인해 많은 경우 OpenVPN이나 IKEv2와 같은 무거운 프로토콜보다 체감상 빠른 속도를 제공합니다.

그러나 이 속도는 보안이라는 큰 대가를 치르고 얻는 것입니다.

수년에 걸쳐 보안 연구자들은 PPTP에서 심각한 결함을 발견했습니다.

  • MS-CHAPv2 취약점: PPTP가 의존하는 인증 프로토콜은 이미 해독된 상태입니다. MS-CHAPv2 핸드셰이크를 비교적 빠르게 무차별 대입 공격(brute-force)할 수 있는 도구가 존재하며, 이는 인증 교환을 가로챈 공격자가 결국 사용자의 자격 증명을 탈취할 수 있음을 의미합니다.
  • RC4 암호화 취약점: MPPE에서 사용하는 RC4 암호는 알려진 암호학적 취약점을 가지고 있습니다. NSA를 비롯한 보안 기관들이 PPTP 트래픽을 복호화할 능력을 갖추고 있다는 것이 널리 알려져 있습니다.
  • 완전 순방향 비밀성(PFS) 미지원: PPTP는 완전 순방향 비밀성을 지원하지 않습니다. 따라서 암호화 키가 한 번이라도 유출되면 과거의 세션까지 잠재적으로 복호화될 수 있습니다.

미국 국가안보국(NSA)과 Bruce Schneier와 같은 보안 연구자들은 PPTP 트래픽은 이미 노출된 것으로 간주해야 한다고 공개적으로 밝혔습니다. 신뢰할 수 있는 대부분의 VPN 제공업체들은 PPTP를 완전히 중단했거나, 사용을 강력히 권고하지 않고 있습니다.

실제 사례 및 활용 상황

부정적인 평판에도 불구하고, PPTP가 완전히 사라진 것은 아닙니다. 아직도 일부 특정 상황에서 마주칠 수 있습니다.

  • 레거시 기업 환경: 인프라 마이그레이션에 드는 비용과 복잡성 때문에 일부 구형 비즈니스 네트워크에서는 여전히 PPTP를 운영하고 있습니다.
  • 보안이 중요하지 않은 개인 사용: 정부 감시나 데이터 도용보다는 지역 제한 스트리밍 서비스 접속을 위해 겉으로 보이는 지리적 위치만 변경하려는 사용자라면, 속도 이점을 위해 PPTP를 사용할 수 있습니다.
  • 구형 기기: 최신 프로토콜을 실행할 수 없는 라우터, 스마트 TV, 임베디드 시스템 등은 유일한 VPN 옵션으로 PPTP에 의존할 수 있습니다.
  • 테스트 및 개발: 네트워크 엔지니어들이 보안보다 속도가 더 중요한 통제된 실험실 환경에서 PPTP를 간혹 사용하기도 합니다.

금융 거래, 업무 커뮤니케이션, 개인 정보 보호 등 민감한 데이터가 오가는 상황에서 PPTP는 적합하지 않습니다. WireGuard, OpenVPN, IKEv2와 같은 현대적인 대안들은 성능을 크게 희생하지 않으면서도 훨씬 뛰어난 보안을 제공합니다.

결론

PPTP는 VPN 역사의 한 페이지를 장식하는 프로토콜입니다. PPTP를 이해하면 프로토콜 설계가 얼마나 발전해 왔는지 알 수 있지만, 실질적인 보호 수단으로 삼기에는 적절하지 않습니다. VPN 앱에서 PPTP가 옵션으로 제공된다면, 첫 번째 선택이 아닌 최후의 수단으로만 고려하시기 바랍니다.