VLESS는 프록시 요청과 사용자 식별을 담당하고, REALITY는 프록시 연결의 핸드셰이크와 인증을 처리합니다. XTLS Vision은 조건을 충족하는 내부 TLS 데이터의 중복 캡슐화 오버헤드를 줄일 수 있습니다. 노드를 가져온 뒤 설정값을 이해하고 싶은 사용자를 위한 글입니다. 읽고 나면 노드 주소, 핸드셰이크 도메인, 웹사이트 도메인의 차이를 구분하고 연결·인증·전달 중 어디서 문제를 확인해야 하는지 판단할 수 있습니다.
프록시를 통한 HTTPS 전달: 두 TLS 연결은 각각 무엇을 보호할까?
브라우저로 HTTPS 사이트에 접속하는 경우를 살펴보겠습니다. 브라우저는 웹사이트와 별도의 TLS 세션을 맺고, 웹사이트 인증서를 직접 검증합니다. 한편 프록시 클라이언트는 프록시 서버에 따로 연결합니다. 일반적인 TLS 중첩 전달에서는 브라우저가 암호화한 데이터가 클라이언트와 프록시 서버 사이의 외부 암호화 레코드에 다시 담깁니다. 두 연결은 보호하는 구간과 종단점이 다르므로, 외부 핸드셰이크가 성공했다고 웹페이지 연결까지 완료된 것은 아닙니다.
- VLESS: 프록시에 필요한 사용자 식별 정보, 대상 주소와 데이터를 전달합니다. 여기서 다루는 조합에서는 외부 보호를 선택한 보안 계층이 담당하며, VLESS라는 프로토콜 이름이 보호 방식을 결정하지는 않습니다.
- REALITY: 클라이언트와 프록시 서버 사이의 보안 핸드셰이크에 사용됩니다. 브라우저가 최종 접속 사이트를 검증하거나 브라우저에서 열 도메인을 결정하는 기능은 아닙니다.
- XTLS Vision: VLESS의
flow옵션으로 활성화합니다. 호환되는 보안 계층과 전송 방식에서 일부 데이터 전달 방식을 바꾸며, TLS를 대체하는 별도의 핸드셰이크 프로토콜은 아닙니다.
XTLS Vision이 줄이는 오버헤드: 데이터 전송 단계의 부담
Vision은 내부 트래픽을 확인합니다. 양쪽에서 직접 전달 조건을 충족한다고 판단하면, 이후 조건에 맞는 내부 TLS 레코드를 외부 암호화로 하나씩 감싸지 않고 그대로 전달할 수 있습니다. 브라우저와 웹사이트 사이의 암호화는 계속 유지됩니다. 직접 전달은 첫 바이트부터 시작되지 않으며, Vision을 켰다고 일반 평문 트래픽이 이 경로를 이용하는 것도 아닙니다. 노드 이름만으로 특정 연결이 직접 전달 경로를 탔는지 판단할 수 없습니다.
AES-GCM을 사용하는 TLS 1.3 애플리케이션 데이터 레코드를 예로 들면, 레코드 헤더와 인증 태그 외에 내부 콘텐츠 유형 1바이트도 고려해야 합니다. 위의 22바이트에는 패딩, TCP/IP 헤더, 핸드셰이크 트래픽이 포함되지 않습니다. 이는 레코드 형식을 바탕으로 계산한 예시일 뿐, 실측값이나 모든 네트워크 패킷에서 줄어드는 바이트 수가 아닙니다. 외부 레코드의 암복호화 처리도 줄어들 수 있지만, 이를 근거로 처리량 향상 폭을 일정하게 예상할 수는 없습니다.
측정 방법: 대용량 전송과 첫 바이트 응답을 따로 확인
같은 기기, 같은 서버, 같은 다운로드 대상을 사용하고 다른 설정은 동일하게 유지한 채 호환되는 두 설정을 비교합니다. 대용량 파일을 안정적으로 전송할 때의 처리량, 커널 프로세스의 CPU 사용률, 새 연결의 첫 바이트 도달 시간을 각각 기록하세요. 다운로드 중 CPU 사용률은 낮아졌지만 첫 바이트 시간에 큰 변화가 없더라도, Vision이 효과가 없다고 단정할 필요는 없습니다. 두 지표는 서로 다른 단계를 나타냅니다.
REALITY 핸드셰이크: 실제 사이트 인증서는 어느 경로에서 나타날까?
‘실제 사이트 인증서를 빌린다’는 말은 외부에서 보이는 핸드셰이크 방식을 간략히 표현한 것으로, 실제 사이트의 인증서와 개인 키를 프록시 서버에 넣는다는 뜻이 아닙니다. REALITY 인증을 통과하는 프록시 연결에서 클라이언트는 설정된 서버 공개 키로 핸드셰이크 증명을 검증하고, 서버는 이에 대응하는 개인 키를 사용합니다. REALITY 인증에 실패해 대상 사이트로 전달된 일반 TLS 연결에서는 대상 사이트가 자체 TLS 핸드셰이크 중 인증서를 제시합니다.
- 노드 주소와 포트가 연결 대상을 결정합니다. 클라이언트는 먼저 구독에 지정된 프록시 주소에 연결합니다.
443은 HTTPS에서 흔히 쓰는 포트지만, REALITY 전용 포트는 아닙니다. 구독에 다른 포트가 지정되어 있다면 해당 값을 그대로 입력하세요. - 핸드셰이크 도메인이 전송할 서버 이름을 결정합니다.
serverName(클라이언트에서 SNI로 표시되는 경우가 많음)은 서버에서 허용하는 이름과 일치해야 합니다. 노드 주소와 다를 수 있으며 브라우저에서 여는 웹페이지에 따라 바뀌지 않습니다. - 공개 키와 Short ID는 서버 설정과 일치해야 합니다. 공개 키는 서버의 REALITY 개인 키에 대응하고, Short ID는 REALITY에서 사용하는 일치 확인 값입니다. 두 값은 VLESS 사용자 UUID와 서로 다른 계층에 속하므로 같은 값을 입력하면 안 됩니다.
- 인증 후에도 아웃바운드를 확인해야 합니다. 핸드셰이크가 성립한 뒤에도 프록시 서버는 VLESS 요청에 따라 대상 연결을 처리해야 합니다. 노드 핸드셰이크는 정상인데 특정 HTTPS 사이트에 접속할 수 없다면 라우팅, 아웃바운드 DNS 조회, 대상 사이트 연결 실패를 구분해 확인하세요.
v2rayN·v2rayNG에서 VLESS, REALITY, Flow 확인하기
v2rayN의 노드 목록에서 해당 항목을 더블 클릭해 편집 창에서 설정을 확인합니다. v2rayNG에서는 설정 목록에서 항목 옆 연필 아이콘을 누르세요. 두 클라이언트의 항목 이름은 버전에 따라 달라질 수 있으며, 특히 전송 유형과 흐름 제어 항목은 차이가 있습니다. 구독에 값이 이미 있다면 예시와 맞추려고 다른 값으로 바꾸지 말고 먼저 기존 설정을 확인하세요.
VLESS 프록시 및 전송 설정
- 프로토콜
- VLESS
- 주소 및 포트
- 구독에 지정된 노드 주소와 포트를 사용
- 사용자 ID
- 해당 노드에 할당된 UUID
- 전송 유형
- 일반적으로 TCP 또는 RAW이며, 클라이언트 화면과 노드 설정을 따릅니다.
- 흐름 제어
xtls-rprx-vision, 서버에서 요구하는 경우에만 사용
흐름 제어 값은 서버의 사용자 설정과 일치해야 합니다. 보안 유형을 바꿔도 흐름 제어 설정의 불일치가 자동으로 수정되지는 않습니다.
REALITY 핸드셰이크 설정
- 보안 유형
reality- SNI
- 노드에 지정된
serverName - 공개 키
- 서버에 대응하는 공개 키. 공유 링크에서는 보통
pbk로 표시됩니다. - Short ID
- 노드에 지정된 값. 공유 링크에서는 보통
sid로 표시됩니다. - 지문
- 노드에 지정된 클라이언트 핸드셰이크 지문. 예:
chrome
핸드셰이크 지문은 클라이언트가 핸드셰이크를 시작하는 방식을 결정합니다. 사이트 인증서 지문이 아니며 공개 키를 대신하지 않습니다.
데스크톱에서 v2rayN으로 이 설정을 사용할 때는 현재 적용된 코어가 해당 조합을 지원하는 Xray인지 확인하세요. Android에서는 Xray 코어를 사용하는 v2rayNG에서 해당 항목을 확인할 수 있습니다. v2flyNG는 v2fly 코어를 사용하므로, 특정 링크 접두사를 인식한다는 이유만으로 같은 흐름 제어 및 보안 조합을 지원한다고 판단해서는 안 됩니다.
REALITY 연결 실패 또는 속도 변화 없음: 연결 단계별 문제 해결
SNI를 바꾼 뒤 시간 초과가 발생하면 무엇을 확인해야 하나요?
먼저 구독에 있던 SNI를 복원하고 같은 노드로 다시 테스트하세요. 커널 로그에 노드 주소와 포트 연결 시간 초과가 기록된다면 해당 주소와 포트에 연결할 수 있는지 확인합니다. 연결은 됐지만 핸드셰이크에 실패한다면 SNI, 공개 키, Short ID를 하나씩 대조하세요. 브라우저에서 도메인을 직접 열 수 있다고 해서 프록시 서버가 해당 도메인을 SNI로 허용한다는 뜻은 아닙니다.
가져온 설정에서 Vision이 보이지 않습니다. 흐름 제어를 직접 입력해야 하나요?
먼저 해당 노드의 편집 창을 열어 프로토콜이 실제로 VLESS인지 확인한 다음 ‘흐름 제어’ 또는 ‘Flow’ 항목을 살펴보세요. 원본 공유 링크를 확인할 수 있다면 flow=xtls-rprx-vision이 포함되어 있는지 비교할 수 있습니다. 원래 설정에 해당 값이 없다면 임의로 추가하지 마세요. 값은 있는데 클라이언트에 표시되지 않는다면 가져오기가 정상적으로 완료됐는지, 현재 코어가 호환되는지 먼저 확인하세요.
두 노드 모두 연결되는데 Vision의 지연 시간이 더 짧아지지 않는 이유는 무엇인가요?
지연 시간 테스트는 네트워크 왕복 시간, 핸드셰이크, 테스트 대상의 응답 시간을 주로 반영합니다. 먼저 테스트 요청이 실제로 해당 노드를 통과하는지 확인한 뒤, 같은 대상으로 같은 대용량 HTTPS 파일을 반복 다운로드해 안정적인 전송 구간의 성능을 비교하세요. 대역폭이 이미 병목이라면 암복호화 작업을 줄여도 다운로드 속도가 빨라지지 않을 수 있습니다.
노드 테스트는 성공했지만 브라우저에서 웹페이지가 열리지 않습니다. 먼저 무엇을 확인해야 하나요?
먼저 브라우저가 실제로 클라이언트를 이용하는지 확인하세요. 시스템 프록시 모드에서는 브라우저가 시스템 프록시를 따르는지, 프록시 설정이 클라이언트의 로컬 수신 포트와 일치하는지 점검합니다. 로그에 해당 웹페이지 요청이 이미 기록됐다면 요청에 적용된 라우팅 규칙과 선택된 아웃바운드의 오류를 확인하세요. 노드 테스트 성공은 테스트 요청이 성공했다는 뜻일 뿐, 브라우저 요청도 같은 경로를 이용한다는 뜻은 아닙니다.