킥스타트 가이드/Windows 드라이버 시작하기

관리자 (토론 | 기여)님의 2026년 11월 15일 (일) 04:09 판 (Windows 드라이버 킥스타트: WDK 설치, 최소 WDM 예제, VM 서명 설정, OSRLoader 및 sc.exe 로드·복구)
(차이) ← 이전 판 | 최신판 (차이) | 다음 판 → (차이)

킥스타트 가이드로 돌아가기

Windows 커널에서 실행되는 가장 작은 드라이버를 만들고, 테스트용 가상 머신에 올렸다가 내리는 과정이다. 장치를 제어하거나 사용자 프로그램과 통신하기 전에 빌드한 .sys 파일이 실제로 로드되는지부터 확인한다.

예제는 Windows 11 x64에서 수동으로 로드하는 비PnP(non-Plug and Play) 드라이버다. 장치 검색과 전원 관리를 다루는 일반적인 하드웨어 드라이버는 KMDF(Kernel-Mode Driver Framework)와 INF 기반 설치로 시작하는 편이 적합하다. 여기서는 로드·언로드의 흐름을 드러내기 위해 WDM(Windows Driver Model) 프로젝트를 사용한다.

보안 설정 변경과 드라이버 실행은 폐기 가능한 테스트 VM 안에서만 한다. 잘못된 커널 코드는 VM 전체를 중단시킬 수 있다. 호스트 PC의 서명 검증이나 메모리 무결성을 끄지 않는다.

준비물과 작업 위치

  • 빌드 환경: Windows, Visual Studio, Windows SDK, WDK(Windows Driver Kit).
  • 실행 환경: Windows 11 x64 VM, 게스트 관리자 권한, 변경 전 스냅샷.
  • 테스트 파일: 직접 빌드한 HelloDriver.sys.
  • 로더: 이미 확보한 신뢰할 수 있는 OSR Driver Loader 또는 Windows 내장 sc.exe.

빌드는 호스트에서, 실행은 VM에서 해도 된다. VM 안에 개발 도구를 모두 설치해도 되지만, 이하의 보안 설정과 로드 명령은 항상 게스트 Windows를 대상으로 한다. VM에는 업무 계정이나 중요한 데이터를 넣지 않고, 파일 복사가 끝나면 불필요한 공유 폴더와 네트워크 연결을 해제한다.

OSR Online은 2026년 5월에 기존 콘텐츠 제공을 종료했다. 따라서 예전 Driver Loader 다운로드 링크는 현재 설치 파일을 제공하지 않는다. 출처가 불분명한 미러에서 실행 파일을 구하지 말고, 기존에 확보한 도구가 없다면 이 문서의 sc.exe 경로를 사용한다.[1] OSR도 Driver Loader의 역할을 sc.exe로 대체할 수 있다고 설명한다.[2]

WDK 설치

2026년 11월 15일 Microsoft 안내 기준으로 최신 조합은 Visual Studio 2026 + WDK 28000.2526이다. Visual Studio 2022를 유지한다면 WDK 26100.6584를 사용한다. 두 조합의 설치 파일과 확장을 섞지 않는다.[3]

  1. Visual Studio Installer에서 C++를 사용한 데스크톱 개발 워크로드를 선택한다.
  2. 개별 구성 요소에서 해당 도구 집합의 Spectre 완화 라이브러리와 Windows Driver Kit 확장을 추가한다. 현재 WDK 설치 문서가 안내하는 C++·ATL·MFC의 x64/x86 및 ARM64/ARM64EC 구성 요소 목록을 기준으로 설치한다.
  3. WDK 다운로드 문서의 순서대로 Windows SDK와 WDK를 설치한다. SDK와 WDK의 빌드 번호가 맞아야 한다. 최신 조합은 28000 계열이며, Visual Studio의 C++ 워크로드만 설치했다고 최신 SDK까지 설치되는 것은 아니다.
  4. Visual Studio를 다시 실행하고 새 프로젝트에서 Empty WDM Driver를 검색한다. 템플릿이 없다면 Visual Studio Installer의 수정 → 개별 구성 요소 → Windows Driver Kit부터 확인한다.

Visual Studio 2022용 설치 파일은 Other WDK downloads에서 찾는다. 설치 후 프로젝트의 플랫폼 도구 집합과 대상 SDK가 실제로 설치한 버전을 가리키는지 확인한다.

최소 드라이버 작성

프로젝트 생성

  1. Visual Studio에서 새 프로젝트 만들기 → Empty WDM Driver를 선택한다.
  2. 프로젝트 이름을 HelloDriver로 지정한다.
  3. 구성은 Debug, 플랫폼은 x64로 선택한다. 이 문서의 게스트도 x64다.
  4. 소스 파일에 Driver.c를 추가한다. C++ 파일 추가 창을 사용하더라도 확장자를 .c로 지정한다.[4]

DriverEntry와 언로드 함수

#include <ntddk.h>

DRIVER_INITIALIZE DriverEntry;
DRIVER_UNLOAD HelloUnload;

VOID HelloUnload(PDRIVER_OBJECT DriverObject)
{
    UNREFERENCED_PARAMETER(DriverObject);
    DbgPrintEx(DPFLTR_IHVDRIVER_ID, DPFLTR_INFO_LEVEL,
               "HelloDriver: unloaded\n");
}

NTSTATUS DriverEntry(PDRIVER_OBJECT DriverObject,
                     PUNICODE_STRING RegistryPath)
{
    UNREFERENCED_PARAMETER(RegistryPath);
    DriverObject->DriverUnload = HelloUnload;

    DbgPrintEx(DPFLTR_IHVDRIVER_ID, DPFLTR_INFO_LEVEL,
               "HelloDriver: loaded\n");
    return STATUS_SUCCESS;
}

커널이 이미지를 로드하면 DriverEntry를 호출한다. 여기서 언로드 콜백을 등록하고 초기화 성공을 반환한다. 이 예제는 장치 객체를 만들거나 I/O 요청을 처리하지 않는다. 따라서 장치 관리자에 새 하드웨어가 보이거나 콘솔에 문자열이 출력되는 것이 성공 조건은 아니다.[5]

DbgPrintEx의 목적지는 커널 디버거다. WinDbg를 연결하지 않았다면 출력이 보이지 않는 것이 자연스럽고, 연결했더라도 디버그 출력 필터의 영향을 받는다. 우선 서비스 상태로 로드 여부를 확인한다.[6]

빌드와 파일 복사

이 문서의 첫 실행 경로는 서명하지 않은 직접 작성 예제를 한 부팅 세션 동안 실행하는 것이다.

  1. 프로젝트 속성에서 현재 Debug/x64 구성의 Driver Signing → Sign Mode를 Off로 설정한다. 기본값인 Test Sign과 구분한다.[7]
  2. 프로젝트를 빌드한다. 이 예제는 SCM(Service Control Manager)으로 등록하는 비PnP 드라이버이므로 별도 INF 드라이버 패키지는 필요하지 않다. 빈 템플릿에 미완성 INF가 포함되어 패키징 오류가 발생한다면 이 최소 예제에서는 해당 INF를 프로젝트에서 제외하고 .sys 프로젝트를 빌드한다.
  3. 빌드 출력에서 실제 생성된 HelloDriver.sys 경로를 확인한다. 기본 구성이라면 프로젝트의 x64\Debug 아래에서 찾을 수 있으나 출력 디렉터리 설정에 따라 달라진다.
  4. VM의 로컬 디스크에 C:\Drivers\HelloDriver를 만들고 .sys를 복사한다. 네트워크 공유나 호스트 공유 폴더 경로를 서비스 실행 경로로 지정하지 않는다.

디버깅할 예정이라면 같은 빌드의 HelloDriver.pdb도 보관한다. 소스만 수정하고 예전 .sys를 다시 로드하는 실수를 막으려면 복사한 파일의 수정 시각도 확인한다.

VM의 드라이버 서명 적용 일시 해제

여기서 끄려는 것은 드라이버 서명 적용(Driver Signature Enforcement)이다. verifier.exe로 실행하는 Driver Verifier는 별개다. Driver Verifier는 잘못된 메모리 접근과 드라이버 동작을 검사하는 테스트 도구이며, 이를 끈다고 서명되지 않은 드라이버가 로드되지는 않는다.[8]

변경 전 준비

  1. VM을 종료하고 스냅샷 또는 체크포인트를 만든다.
  2. 게스트가 BitLocker 또는 장치 암호화를 사용한다면 복구 키를 먼저 확보한다. 부팅 설정 변경 후 복구 키가 필요할 수 있다.
  3. 게스트의 Windows 보안 → 장치 보안 → 코어 격리 세부 정보 → 메모리 무결성 상태를 기록한다.

메모리 무결성(HVCI)은 서명되지 않은 커널 코드 실행을 추가로 제한한다. 완전히 서명되지 않은 이 예제를 실행하는 테스트 VM에서만 해당 기능이 켜져 있다면 끄고 재부팅한다. 관리 정책 때문에 변경할 수 없다면 업무용 정책을 우회하지 말고 별도 실습 VM을 사용한다.[9] Defender 전체나 취약 드라이버 차단 목록을 일괄적으로 끄는 절차는 필요하지 않다.

한 번의 부팅 세션에만 적용

  1. VM의 시작 메뉴에서 Shift 키를 누른 채 다시 시작하여 Windows 복구 환경으로 진입한다.
  2. 문제 해결 → 고급 옵션 → 시작 설정 → 다시 시작을 선택한다.
  3. 시작 설정 목록에서 7 또는 F7: 드라이버 서명 적용 사용 안 함을 선택한다. 다른 항목, 특히 맬웨어 방지 기능을 끄는 항목과 혼동하지 않는다.
  4. 게스트 Windows에 로그인한 뒤 아래 로드 절차를 진행한다.[10]

이 선택은 현재 부팅 세션에만 적용된다. 다시 시작하면 서명 적용이 돌아오므로, 다음 실습 때도 서명되지 않은 파일을 사용할 경우 같은 시작 옵션을 다시 선택해야 한다.[11]

Secure Boot나 조직의 코드 무결성 정책 등으로 이 경로가 허용되지 않을 수 있다. 오류가 난다고 호스트 설정을 바꾸지 않는다. 실습 VM의 펌웨어 설정을 바꿀 필요가 있다면 VM을 끈 상태에서 기존 값을 기록하고, 복구 키와 스냅샷이 준비된 경우에만 게스트의 Secure Boot 설정을 조정한다.

OSR Driver Loader로 로드

OSR Driver Loader는 서비스 등록과 시작·중지를 화면에서 수행하는 도구다. 서명 정책을 우회하는 도구가 아니다. 이 예제처럼 비PnP 드라이버를 수동으로 올리는 데 사용하며, PnP 장치나 필터 드라이버의 정상적인 INF 설치를 대신하지 않는다.[12]

기존에 확보한 신뢰할 수 있는 OSRLoader가 있을 때 다음 순서로 진행한다. 현재 공식 다운로드가 중단된 상태이므로 없다면 다음 절의 내장 명령을 사용한다.

  1. 게스트에서 OSR Driver Loader를 관리자 권한으로 실행한다.
  2. 드라이버 파일 경로로 C:\Drivers\HelloDriver\HelloDriver.sys를 지정한다.
  3. 시작 유형은 수동 시작인 Demand로 둔다. 부팅 시 자동으로 실행되는 Boot/System 유형을 선택하지 않는다.
  4. Register Service로 등록한다. 등록만으로 드라이버가 실행되지는 않는다.
  5. Start Service로 로드한다. 오류가 없다면 다음 절의 sc.exe query로 상태도 확인한다.
  6. 실습이 끝나면 Stop Service로 언로드하고 Unregister Service로 등록을 제거한다.

OSRLoader 배포본에 따라 화면 배치가 다를 수 있다. 서비스 이름을 확인하고, 아래 조회 명령의 HelloDriver를 실제 등록된 이름으로 맞춘다. 등록 → 시작 → 중지 → 등록 제거 순서를 구분하는 것이 핵심이다.

sc.exe로 동일한 작업 수행

OSRLoader가 없거나 어떤 작업에서 실패했는지 분리해서 확인하려면 게스트에서 관리자 권한 명령 프롬프트를 열고 다음을 실행한다. OSRLoader로 이미 등록했다면 create를 반복하지 않는다.

sc.exe create HelloDriver type= kernel start= demand binPath= "C:\Drivers\HelloDriver\HelloDriver.sys"
sc.exe start HelloDriver
sc.exe query HelloDriver

type= kernel은 일반 사용자 모드 서비스가 아니라 커널 드라이버라는 뜻이고, start= demand는 수동 시작이라는 뜻이다. type=, start=, binPath=의 등호 뒤 공백을 유지한다. PowerShell에서도 별칭 혼동을 피하려면 sc 대신 sc.exe라고 쓴다.[13]

조회 결과에서 STATE : 4 RUNNING이면 드라이버가 로드된 상태다. 아래는 상태를 읽는 예시이며 실제 실습의 캡처가 아니다.

SERVICE_NAME: HelloDriver
        TYPE               : 1  KERNEL_DRIVER
        STATE              : 4  RUNNING

언로드와 등록 제거는 다음 순서다.

sc.exe stop HelloDriver
sc.exe query HelloDriver
sc.exe delete HelloDriver

중지 후에는 STATE : 1 STOPPED를 확인한다. delete는 서비스 등록을 지우는 명령이지 실행 중인 코드를 먼저 언로드해 주는 명령이 아니다. 파일을 교체해 다시 시험할 때도 중지 → 파일 교체 → 시작 순서를 따른다.

오류 확인

증상 먼저 확인할 항목
액세스가 거부됨 로더 또는 명령 프롬프트를 게스트의 관리자 권한으로 실행했는지 확인한다.
파일을 찾을 수 없음 .sys가 게스트 로컬 경로에 실제 존재하는지, sc.exe qc HelloDriver의 BINARY_PATH_NAME이 복사한 위치와 같은지 확인한다.
193 또는 올바른 Win32 응용 프로그램이 아니라는 오류 x64 게스트에 x64 드라이버를 빌드했는지, .sys 대신 다른 파일을 지정하지 않았는지 확인한다.
577 또는 서명을 확인할 수 없다는 오류 F7로 부팅한 세션인지, 이후 재부팅하지 않았는지 확인한다. HVCI와 별도 코드 무결성 정책도 확인한다.
서비스가 이미 존재함 새로 create하지 말고 sc.exe qc HelloDriver로 기존 경로를 확인한다. 다른 서비스 이름을 무작정 삭제하지 않는다.
Start Service 실패 또는 블루스크린 이벤트 뷰어의 시스템 로그 및 CodeIntegrity/Operational 로그, 오류 코드, 덤프를 확인한다. 반복 실행 대신 스냅샷으로 복구한 뒤 원인을 조사한다.

DriverEntry가 실패 상태를 반환하면 서비스 등록은 남아 있어도 드라이버는 정상적으로 올라오지 않는다. 등록 성공, 로드 성공, 디버그 문자열 출력은 서로 다른 확인 단계다.

반복 개발 시 테스트 서명

매번 시작 설정에 들어가는 대신 테스트 인증서로 서명한 드라이버를 사용하는 방법도 있다. 이것은 앞의 완전한 미서명 파일 + F7 경로와 다른 선택지다.

  1. Visual Studio의 Driver Signing → Sign Mode를 Test Sign으로 설정하고 테스트 서명된 .sys를 빌드한다. Test Certificate가 비어 있으면 Visual Studio가 프로젝트용 테스트 인증서를 생성할 수 있다.[7]
  2. 필요한 테스트 인증서를 게스트의 테스트 환경에 배포하고, 게스트 관리자 명령 프롬프트에서 아래 명령을 실행한 다음 재부팅한다.
bcdedit /set TESTSIGNING ON

TESTSIGNING을 켠다고 미서명 .sys가 모두 허용되는 것은 아니다. 드라이버 이미지에는 서명이 있어야 한다. HVCI가 활성화된 환경에서도 미서명 바이너리는 지원되지 않으며, 테스트 서명뿐 아니라 해당 코드의 HVCI 호환성도 필요하다. Secure Boot가 설정 변경을 차단한다면 VM의 펌웨어 설정과 암호화 복구 조건을 먼저 확인한다.[14]

바탕 화면의 Test Mode 표시는 부팅 설정의 표시일 뿐 드라이버 로드 성공 표시가 아니다. 실제 로드 여부는 동일하게 서비스 상태로 확인한다.

실습 종료와 복구

  1. 실행 중인 예제 드라이버를 중지하고 서비스 등록을 제거한다.
  2. F7 경로만 사용했다면 정상적으로 재부팅하여 서명 적용을 되돌린다.
  3. TESTSIGNING을 켰다면 아래 명령을 실행하고 재부팅한다.
bcdedit /set TESTSIGNING OFF
  1. 게스트의 메모리 무결성과 VM Secure Boot를 변경했다면 기록해 둔 원래 상태로 복원한다. 필요한 재부팅을 마친 후 Windows 보안 화면에서 상태를 다시 확인한다.
  2. 부팅이 불안정하거나 어떤 설정을 바꿨는지 불명확하면 실습 전 스냅샷으로 복원한다.

별도 실습에서 Driver Verifier를 켜 놓은 경우에는 verifier /querysettings로 상태를 확인하고, 검사를 종료하려면 관리자 권한으로 verifier /reset 후 재부팅한다. 이 명령은 서명 적용 복구 명령이 아니다.

이 단계까지 완료하면 빌드 결과물과 커널 로드·언로드의 연결이 확인된다. 다음 단계는 WinDbg를 연결해 DriverEntry에 중단점을 걸거나, KMDF 프로젝트에서 장치 객체와 I/O 요청 처리를 추가하는 것이다.

참고 문헌