윈도우 11 원격 데스크톱 연결 시 인증 오류 CredSSP 해결을 위한 보안 정책 편집기 수동 허용 가이드

재택근무 환경에서 윈도우 11 원격 데스크톱 연결을 시도했는데 “인증 오류가 발생했습니다. 요청한 기능이 지원되지 않습니다”라는 메시지가 뜨는 순간, 솔직히 당황스럽습니다. 특히 사무실 PC는 잘 켜져 있고 네트워크도 정상인데, CredSSP 관련 오류 문구가 나오면 어디서부터 손을 대야 할지 막막해지죠. 현장에서 기업 고객들을 지원하다 보면 이 오류는 생각보다 자주 발생합니다. 대부분은 보안 업데이트 이후 정책 충돌 때문에 생기는 문제입니다.

윈도우 11 원격 데스크톱 연결 시 인증 오류 CredSSP 해결을 위한 보안 정책 편집기 수동 허용 가이드

 

CredSSP(Credential Security Support Provider)는 원격 데스크톱 연결 시 자격 증명을 안전하게 전달하기 위한 보안 프로토콜입니다. 그런데 클라이언트와 서버의 보안 패치 수준이 다르거나, 그룹 정책에서 암호화 오라클 수정(Encryption Oracle Remediation) 설정이 엄격하게 적용되어 있으면 연결이 차단됩니다. 이 글에서는 윈도우 11에서 로컬 보안 정책 편집기를 통해 수동으로 허용하는 방법을 단계별로 정리합니다. 단, 보안 완화 설정은 임시 조치로 사용하는 것이 원칙이라는 점도 함께 짚겠습니다.

1. CredSSP 인증 오류가 발생하는 원인

① 보안 업데이트 불일치

가장 흔한 원인은 클라이언트 PC와 원격 대상 PC 간의 윈도우 보안 업데이트 버전 차이입니다. 마이크로소프트는 과거 CredSSP 취약점 패치를 통해 보안 수준을 강화했는데, 한쪽만 업데이트된 상태라면 정책 불일치로 연결이 거부됩니다.

특히 사무실 PC는 자동 업데이트가 꺼져 있고, 재택용 노트북은 최신 업데이트가 적용된 경우 이런 문제가 자주 발생합니다.

② 암호화 오라클 수정 정책이 강제 적용된 경우

그룹 정책에서 “암호화 오라클 수정” 항목이 ‘강제 업데이트 클라이언트(Force Updated Clients)’로 설정되어 있으면, 보안 수준이 낮은 원격 PC와는 연결이 차단됩니다. 이 설정이 바로 CredSSP 오류의 핵심입니다.

2. 로컬 그룹 정책 편집기로 수동 허용 설정

① 로컬 그룹 정책 편집기 실행

1. 키보드에서 Win + R 입력
2. gpedit.msc 입력 후 Enter

로컬 그룹 정책 편집기가 열리지 않는다면, 해당 윈도우 에디션이 Home 버전일 가능성이 있습니다. Home 버전은 기본적으로 gpedit.msc가 제공되지 않습니다.

② 정책 경로 이동

컴퓨터 구성 → 관리 템플릿 → 시스템 → 자격 증명 위임

오른쪽 항목 중 “암호화 오라클 수정(Encryption Oracle Remediation)”을 찾습니다.

③ 설정 변경 방법

1. 해당 항목 더블 클릭
2. ‘사용’으로 변경
3. 보호 수준을 ‘취약(취약한 클라이언트 허용, Vulnerable)’으로 설정
4. 적용 → 확인

설정 후 명령 프롬프트에서 gpupdate /force를 실행하거나 PC를 재부팅합니다.

3. 레지스트리 편집기로 설정하는 방법 (Home 버전 대안)

① 레지스트리 경로

HKEY_LOCAL_MACHINE\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters

② AllowEncryptionOracle 값 생성

DWORD(32비트) 값으로 AllowEncryptionOracle 생성 후 값 데이터를 2로 설정합니다.

• 0 = 강제 업데이트 클라이언트
• 1 = 완화
• 2 = 취약 허용

설정 후 재부팅이 필요합니다.

4. 보안상 주의해야 할 점

① 취약 설정은 임시 조치

‘취약 허용’은 말 그대로 보안 수준을 낮추는 설정입니다. 장기적으로는 원격 대상 PC를 최신 보안 업데이트 상태로 맞추는 것이 정석입니다.

② 기업 환경에서는 도메인 정책 확인

회사 도메인에 가입된 PC라면 중앙 그룹 정책이 우선 적용됩니다. 로컬에서 바꿔도 다시 덮어씌워질 수 있습니다.

5. 설정 값 비교 표

값	설정 의미	보안 수준	권장 여부
0	Force Updated Clients	높음	권장
1	Mitigated	중간	임시 가능
2	Vulnerable	낮음	임시 해결용

6. 문제 해결 체크리스트

• 양쪽 PC 윈도우 업데이트 확인
• 암호화 오라클 수정 정책 상태 점검
• gpupdate /force 실행
• 도메인 정책 적용 여부 확인
• 방화벽 포트(3389) 확인

7. 자주 묻는 질문

Q1. 설정을 바꿨는데도 안 됩니다

도메인 정책이 덮어쓰고 있을 가능성이 큽니다. IT 관리자에게 확인이 필요합니다.

Q2. 보안이 걱정됩니다

취약 허용 설정은 임시 조치로만 사용하고, 양쪽 PC를 최신 업데이트 상태로 맞추는 것이 가장 안전합니다.

Q3. Home 버전은 무조건 레지스트리로 해야 하나요?

기본적으로는 그렇습니다. 별도 정책 편집기 설치는 권장되지 않습니다.

Q4. 서버 쪽을 수정해야 하나요?

가능하다면 원격 대상 PC의 보안 업데이트를 최신 상태로 맞추는 것이 근본 해결입니다.

윈도우 11 원격 데스크톱 연결 시 CredSSP 인증 오류는 대부분 정책 충돌 문제입니다. 당장 업무가 급하다면 로컬 정책에서 임시 허용 설정을 적용해 연결을 복구하십시오. 그리고 시간이 허락한다면 반드시 양쪽 PC를 최신 업데이트 상태로 맞춰 보안 수준을 정상화하는 것이 장기적으로 안전한 선택입니다.