security/A. Infra Security

[Trouble Shooting] window 11 home에서 vmware esxi 설치 (해결)

xudegloss 2024. 1. 24. 20:57

VMware-workstation-16-pro을 설치하여 vCenter 구축하려고 한다. (vCenter 버전은 6.7을 이용하였다.)

설치 시 유의할 점은 hyper -v는 활성화하지 않는다. 설치할 때 체크 해제한 뒤에 설치하면 된다.

 

문제점

1) window 11 home은 hypervisor를 지원하지 않는다.
2) hypervisor 설치 후 비활성화 진행해도 동일한 에러가 뜬다. 

 

문제의 에러

Virtualized Intel VT-x/EPT is not supported on this platform. Continue without virtualized Intel VT-x/EPT?

 

.

.

.

 

1) 일단, 가상화가 활성화되어 있는지 확인해야 한다. 활성화 되어 있지 않은 경우에는 vmware workstation 설치가 불가능하다.

 

작업 관리자에 cpu 항목에서 활성화되어 있는지 확인 가능하다.

window 10, window 11은 대부분 자동적으로 활성화 되어 있다.


2) window 11 home은 hypervisor가 없기 때문에, 배치 파일을 실행하여 hypervisor를 설치하도록 한다.

pushd "%~dp0"
dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt
for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i"
del hyper-v.txt
Dism /online /enable-feature /featurename:Microsoft-Hyper-V -All /LimitAccess /ALL
pause

 

위와 같은 배치 파일을 .bat 확장자로 저장하여 관리자 권한으로 실행한 뒤 재시작한다.

window-10-home-hyper-v.bat
0.00MB

 

 

3) 재시작한 뒤에 window powershell을 관리자 권한으로 접속한 뒤에 bcdedit 명령어를 통하여 hypervisorlaunchtype을 확인한다. auto로 되어 있는 경우, off로 설정해야 한다.

PS C:\WINDOWS\system32> bcdedit /set hypervisorlaunchtype off // off로 변경하는 명령어
작업을 완료했습니다.

PS C:\WINDOWS\system32> bcdedit

Windows 부팅 관리자
--------------------
identifier              {bootmgr}
device                  partition=\Device\HarddiskVolume1
path                    \EFI\MICROSOFT\BOOT\BOOTMGFW.EFI
description             Windows Boot Manager
locale                  ko-KR
inherit                 {globalsettings}
default                 {current}
resumeobject            {a2479f51-b17d-11ed-a321-9d58440ba4ee}
displayorder            {current}
toolsdisplayorder       {memdiag}
timeout                 30

Windows 부팅 로더
-------------------
identifier              {current}
device                  partition=C:
path                    \WINDOWS\system32\winload.efi
description             Windows 11
locale                  ko-KR
inherit                 {bootloadersettings}
recoverysequence        {8980e59c-8d5d-11ed-8773-d1f14ca5f889}
displaymessageoverride  Recovery
recoveryenabled         Yes
isolatedcontext         Yes
allowedinmemorysettings 0x15000075
osdevice                partition=C:
systemroot              \WINDOWS
resumeobject            {a2479f51-b17d-11ed-a321-9d58440ba4ee}
nx                      OptIn
bootmenupolicy          Standard
hypervisorlaunchtype    Off

 

bcdedit 명령어는 BIOS 설정을 변경하기 위하여 사용하는 명령어이고, hypervisorlaunchtype을 off로 설정하는 것은 vm 안에 vm을 생성할 수 있도록 설정하는 것이다.

 

 

4) 그리고 제어판에서 윈도우 기능 켜기/끄기에서 hyper -v는 체크 해제한다.

 

 

위와 같이 진행 시에도 동일한 에러가 떠서 구글링하니, vmware 홈페이지에서 해결 방안을 찾았다.

 

 

5) 바로 메모리 무결성을 끄는 것이다.

 

설정 > 개인 정보 및 보안 > Windows 보안에서 장치 보안 클릭 후 코어 격리에서 메모리 무결성을 끈 뒤에 재시작한다.

그 후에는 에러 없이 정상적으로 vmware workstation이 설치되었다.

 

.

.

.

위와 같은 5가지 과정을 거치면, window 11 home에서도 hypervisor 설치 후 비활성화가 가능하다.