VMware vSphere Series

엔터프라이즈 가상화의 사실상 표준 — VMware vSphere 아키텍처 이론부터 자동화까지

🎯 시리즈 목적

왜 VMware인가?

VMware vSphere는 20년 이상 엔터프라이즈 가상화 시장을 지배해 온 플랫폼임. 국내 공공/금융/대기업 환경 대부분이 VMware 기반이며, SI 현장에서 가장 많이 접하는 가상화 솔루션.

2023년 Broadcom 인수 이후 라이선스 정책이 크게 바뀌면서 시장에 혼란이 있지만, 기존 인프라가 VMware인 환경은 여전히 많고, 인프라 엔지니어에게 VMware 이해는 기본 소양임.

이 시리즈의 목표

1. vSphere 아키텍처와 핵심 컴포넌트의 내부 동작 원리 이해
2. ESXi / vCenter의 역할과 구조적 설계 파악
3. 주요 기능(vMotion, HA, DRS, vSAN 등)의 동작 메커니즘과 설계 기준 정리
4. Broadcom 인수 이후 라이선스 변화와 실무 영향 정리
5. Proxmox(KVM) 시리즈와의 교차 비교를 통한 기술 시야 확보

누구를 위한 시리즈인가

• VMware 기반 인프라를 운영하거나 구축하는 시스템/인프라 엔지니어
• 공공 SI 사업에서 VMware 환경을 접하는 엔지니어
• VMware에서 다른 플랫폼으로 마이그레이션을 검토하는 관리자
• 가상화 기술의 전체 그림을 잡고 싶은 학습자

📐 시리즈 구성 철학

Proxmox VE Series와 **대칭 구조(9편)**로 설계되어 교차 학습이 가능함.

flowchart TD
    subgraph Phase1["Phase 1: 기초"]
        V1["#1 Overview"]
        V2["#2 ESXi Architecture"]
        V3["#3 vCenter & 관리"]
    end

    subgraph Phase2["Phase 2: 리소스 계층 심화"]
        V4["#4 Compute"]
        V5["#5 Network"]
        V6["#6 Storage"]
    end

    subgraph Phase3["Phase 3: 가용성과 운영"]
        V7["#7 HA, DRS, FT"]
        V8["#8 보안 & 규정 준수"]
        V9["#9 자동화 & 에코시스템"]
    end

    Phase1 --> Phase2 --> Phase3

📚 시리즈 목차

✅ = 작성 완료 / 📋 = 목차 확정, 미작성

📋 각 글의 상세 목차

#1 Overview ✅

아키텍처 전체 그림, Broadcom 인수 후 변화, 도입 판단 기준.

1. vSphere란 (ESXi + vCenter + 부가 기능의 스위트)
2. 핵심 컴포넌트 (ESXi, vCenter, VMFS, vSwitch/dvSwitch)
3. 주요 기능 요약 (vMotion, HA, DRS, FT, vSAN)
4. Broadcom 인수와 라이선스 변화 (타임라인, VVF/VCF, 72코어 논란, 비용 영향)
5. VCF/VVF 9.0 (통합 인스톨러, NVMe 티어링, Compliance Reporting)
6. 강점과 한계
7. 도입 판단 기준 (VMware vs Proxmox 플로우차트)
8. 핵심 용어 정리

→ Proxmox 대응: #1 Overview

#2 ESXi Architecture

VMkernel 내부 구조와 동작 원리. Proxmox #2(KVM)과 가장 직접적인 비교 대상.

1. VMkernel 아키텍처
   - 마이크로커널 설계 철학 — Linux 커널과의 근본적 차이
   - VMkernel의 핵심 서브시스템 (CPU Scheduler, Memory Manager, I/O Stack)
   - User World — 관리 에이전트가 실행되는 공간 (hostd, vpxa 등)

2. ESXi 부팅 과정
   - Boot Bank 구조 (이중화된 부팅 파티션)
   - 이미지 프로파일 (Image Profile)과 VIB 패키지
   - Stateless / Stateful 부팅, Auto Deploy

3. VMM과 VMX 프로세스
   - VMM (Virtual Machine Monitor) — VM별 하드웨어 가상화 담당
   - VMX 프로세스 — User World에서 실행, I/O 에뮬레이션 담당
   - VMM + VMX = KVM의 "QEMU 프로세스 + KVM 모듈"에 대응

4. 하드웨어 추상화
   - VIB(vSphere Installation Bundle) — ESXi 드라이버/모듈 패키지
   - HCL(Hardware Compatibility List)과 드라이버 모델
   - Linux 커널 드라이버(수만 개) vs ESXi VIB(HCL 기반 수백 개)의 트레이드오프

5. 관리 경로
   - DCUI (Direct Console UI) — 물리 콘솔
   - SSH (TSM Shell) — 기본 비활성화, 디버깅용
   - Host Client (웹 UI) — 단일 호스트 관리
   - vSphere Client (vCenter 경유) — 전체 인프라 관리

6. ESXi vs KVM — 아키텍처 비교
   - 전용 커널(VMkernel) vs 범용 커널(Linux) + 모듈(KVM)
   - VMM/VMX vs QEMU 프로세스/vCPU 스레드
   - VIB vs Linux 커널 드라이버
   - 보안 표면, 유연성, 호환성 트레이드오프

→ Proxmox 대응: #2 KVM & QEMU Architecture

#3 vCenter & 관리 아키텍처

중앙 관리 서버의 구조. Proxmox #3(분산 관리)과 정반대 모델.

1. VCSA 내부 구조
   - Photon OS 기반, 내장 PostgreSQL
   - 핵심 서비스: vpxd(관리 데몬), vSphere Client(웹 UI), SSO, Lookup Service
   - VCSA 사이징 (Tiny/Small/Medium/Large/X-Large)

2. 인벤토리 계층
   - Datacenter → Cluster → Host → VM/Template 계층 구조
   - Resource Pool — 리소스 그룹핑과 계층적 자원 제어
   - Folder — 논리적 조직 구조 (VM Folder, Host Folder)

3. 인증 아키텍처
   - vSphere SSO (Single Sign-On) — 토큰 기반 인증
   - Identity Source: vsphere.local, AD/LDAP, OpenID Connect
   - 서비스 계정, 솔루션 사용자
   - 인증서 관리 (VMCA — VMware Certificate Authority)

4. RBAC — 역할 기반 접근제어
   - 권한 모델: 사용자/그룹 + 역할 + 인벤토리 객체
   - 기본 역할 (Administrator, ReadOnly, No Access 등)
   - 커스텀 역할 생성
   - 권한 상속 및 전파 (Propagate to children)
   - Proxmox의 경로 기반 ACL과의 차이

5. vCenter 가용성
   - vCenter HA — Active/Passive/Witness 구성
   - vCenter Backup — 파일 기반 백업/복원
   - Enhanced Linked Mode — 다중 vCenter 연동
   - vCenter 장애 시 영향 범위 (관리 불가, VM은 계속 동작)

6. vCenter vs Proxmox 관리 모델
   - 중앙 집중(vCenter) vs 분산(pmxcfs + Corosync)
   - 단일 장애점 유무
   - 확장 한계 (2,500호스트 vs 32노드)
   - API 구조 비교 (SOAP + REST vs REST only)

→ Proxmox 대응: #3 Management Architecture

#4 Compute — CPU & Memory

VMware의 CPU/메모리 관리는 Proxmox보다 자동화 수준이 높음. 핵심 차별점.

1. CPU 스케줄링
   - VMkernel CPU Scheduler — CFS와 다른 독자 스케줄러
   - 물리 → 가상 CPU 매핑, 코스케줄링(Co-Scheduling)
   - CPU Ready, Co-Stop, %USED, %SYS — 핵심 성능 메트릭
   - CPU 오버커밋 전략과 성능 영향

2. NUMA 최적화
   - ESXi NUMA Scheduler — 자동 NUMA 배치 (KVM은 수동)
   - vNUMA — 대형 VM에 NUMA 토폴로지를 노출
   - Wide VM (NUMA 경계를 넘는 VM)의 성능 영향
   - Proxmox의 수동 CPU Pinning + NUMA 설정과의 차이

3. 메모리 관리 4단계
   - TPS (Transparent Page Sharing) — KSM 대응. 보안 이슈로 기본 비활성화
   - Ballooning — balloon driver로 유휴 메모리 회수. Proxmox와 동일 개념
   - Memory Compression — 스왑 전 압축하여 메모리에 유지. KVM에 없는 기능
   - VMkernel Swap — 최후의 수단. 디스크 스왑
   - 4단계 전환 임계값 (High/Soft/Hard/Low)

4. 리소스 제어 모델
   - Reservation — 최소 보장 (Proxmox balloon 대응)
   - Limit — 최대 허용 (Proxmox memory 대응)
   - Shares — 상대적 우선순위 (Proxmox cpuunits/shares 대응)
   - Resource Pool의 계층적 자원 분배

5. EVC (Enhanced vMotion Compatibility)
   - 이기종 CPU 클러스터에서 vMotion 호환성 확보
   - CPU 기능 마스킹 원리
   - Proxmox의 CPU 타입 선택(host, x86-64-v2 등)과의 대응

6. VMware vs Proxmox Compute 비교 요약

→ Proxmox 대응: #4 Compute

#5 Network

vSwitch/dvSwitch 아키텍처. Proxmox의 Linux Bridge와 설계 철학이 다름.

1. ESXi 네트워크 아키텍처
   - 물리 NIC(vmnic) → 가상 스위치 → 포트 그룹 → VM 구조
   - Uplink, VMkernel 포트, VM Port Group의 역할

2. vSwitch (표준 가상 스위치)
   - 호스트별 독립 설정
   - 포트 그룹, VLAN 태깅
   - NIC Teaming 정책 (Route based on originating port, IP hash, Failover order)
   - 트래픽 셰이핑 (Ingress/Egress)
   - 보안 정책 (Promiscuous Mode, MAC Address Changes, Forged Transmits)

3. dvSwitch (분산 가상 스위치)
   - vCenter에서 전체 호스트에 일괄 배포
   - 관리 평면(vCenter) / 데이터 평면(각 호스트) 분리
   - 포트 바인딩 (Static/Dynamic/Ephemeral)
   - LACP 지원
   - NetFlow, 포트 미러링
   - NIOC (Network I/O Control) — 트래픽 유형별 대역폭 보장
   - Private VLAN

4. VMkernel 포트
   - Management, vMotion, vSAN, FT, NFS, Replication 등 용도별 분리
   - TCP/IP 스택 분리 (기본, vMotion 전용, Provisioning 전용)

5. NSX 개요
   - 오버레이 네트워크 (GENEVE/VXLAN)
   - 마이크로세그멘테이션 — VM 단위 방화벽
   - 분산 라우팅, 분산 방화벽
   - NSX-T vs NSX-V (레거시)
   - Proxmox SDN과의 기능 차이

6. VMware vs Proxmox Network 비교
   - vSwitch vs Linux Bridge
   - dvSwitch vs OVS / SDN
   - VMkernel 포트 vs 용도별 Bridge 분리
   - NSX vs Proxmox SDN (기능 격차)

→ Proxmox 대응: #5 Network

#6 Storage

VMFS와 vSAN 아키텍처. Proxmox의 ZFS/Ceph와 설계 기준이 다름.

1. ESXi 스토리지 아키텍처
   - PSA (Pluggable Storage Architecture) — 스토리지 경로 관리 프레임워크
   - NMP (Native Multipathing Plugin) — 멀티패싱 기본 플러그인
   - SATP(Storage Array Type Plugin) + PSP(Path Selection Plugin)
   - I/O 경로: VM → VMkernel → SCSI Stack → PSA → HBA → 스토리지

2. VMFS
   - 온디스크 구조, 1MB 블록, 리소스 파일
   - 클러스터 파일시스템 — 다중 호스트 동시 접근 (on-disk locking, ATS)
   - VMFS 5 vs VMFS 6 차이
   - Datastore 확장, 확장 한계

3. Datastore 유형
   - VMFS (FC SAN, iSCSI, FCoE)
   - NFS v3 / v4.1 (Kerberos 인증 지원)
   - vVol (Virtual Volumes) — 스토리지 어레이 네이티브 연동
   - vSAN — 로컬 디스크 기반 분산 스토리지

4. VMDK 유형
   - Thick Eager Zeroed — 할당 즉시 전체 0 채움. 최고 성능
   - Thick Lazy Zeroed — 할당만 하고 쓰기 시 제로화. 기본값
   - Thin — 사용한 만큼만 공간 소비
   - RDM (Raw Device Mapping) — 물리 LUN 직접 매핑

5. VAAI (vStorage API for Array Integration)
   - 하드웨어 오프로드: 복사, 제로화, 잠금을 스토리지 어레이에 위임
   - Full Copy, Block Zeroing, Atomic Test & Set (ATS)

6. SPBM (Storage Policy-Based Management)
   - 스토리지 정책으로 VM별 요구사항 정의
   - vSAN 정책: FTT(장애 허용), RAID 유형, 스트라이프 수
   - vVol + SPBM 통합

7. vSAN 아키텍처
   - 디스크 그룹: 캐시 티어 + 용량 티어
   - OSA (Original Storage Architecture) vs ESA (Express Storage Architecture)
   - 오브젝트 모델, FTT/FTM 정책
   - vSAN 글로벌 중복 제거 (v9 신규)

8. VMware vs Proxmox Storage 비교
   - VMFS vs LVM/ZFS
   - vSAN vs Ceph — 아키텍처, 라이선스, 기능 차이
   - SPBM vs Proxmox 스토리지 플러그인
   - VAAI vs io_uring / AIO

→ Proxmox 대응: #6 Storage

#7 HA, DRS, FT

VMware의 가장 성숙한 영역. Proxmox에 없는 DRS, FT를 포함.

1. vSphere HA 내부 동작
   - Master/Slave 선출 알고리즘
   - 하트비트: 네트워크 하트비트 + Datastore 하트비트
   - 호스트 장애 감지 → VM 재시작 프로세스
   - 네트워크 파티션 처리 (Isolation Response)
   - Admission Control 정책 3가지
     - Cluster resource percentage (기본)
     - Slot Policy (고정 크기 슬롯)
     - Dedicated failover hosts
   - VM/Application Monitoring — OS/앱 수준 장애 감지
   - Proactive HA — 하드웨어 상태 기반 사전 마이그레이션
   - Proxmox HA Manager와의 동작 방식 차이

2. DRS (Distributed Resource Scheduler)
   - DRS 알고리즘 — 불균형 메트릭, 마이그레이션 비용 계산
   - 자동화 수준: Manual / Partially / Fully Automated
   - 어피니티 규칙 (VM-VM, VM-Host)
   - 안티어피니티 규칙 설계 패턴 (예: DB 이중화 분리)
   - DPM (Distributed Power Management) — 저부하 시 호스트 절전
   - Proxmox에는 DRS가 없음 — 수동 마이그레이션 또는 외부 스크립트

3. FT (Fault Tolerance)
   - vLockstep → Fast Checkpointing 전환
   - Primary / Secondary VM 동기화 메커니즘
   - 제한사항 (8 vCPU, 리소스 2배)
   - 적합한 워크로드 판단 기준
   - HA + 애플리케이션 클러스터링이 더 현실적인 경우

4. vMotion 심화
   - Pre-copy 알고리즘 상세 (메모리 수렴 조건)
   - Storage vMotion — 디스크 마이그레이션 동작
   - Cross-vCenter vMotion (vSphere 7+)
   - Long Distance vMotion
   - vMotion 요구사항과 제약 (CPU 호환성, 네트워크, 지연)

5. VMware vs Proxmox HA/마이그레이션 비교
   - vSphere HA vs Corosync + HA Manager
   - DRS(자동) vs 수동 마이그레이션
   - FT vs 없음 (앱 레벨 이중화로 대체)
   - vMotion vs Proxmox 라이브 마이그레이션

→ Proxmox 대응: #7 Cluster & HA

#8 보안 & 규정 준수

VMware의 엔터프라이즈 보안 기능. Proxmox에 대응 편이 없는 VMware 고유 주제.

1. ESXi 보안 모델
   - Secure Boot — UEFI 기반 부팅 체인 검증
   - TPM 2.0 연동 — 호스트 무결성 검증
   - Lockdown Mode — 직접 접근 차단 (vCenter 경유만 허용)
   - ESXi 방화벽 — 서비스별 포트 허용/차단

2. VM 보안
   - VM Encryption — vSphere 6.5+ (KMS 연동)
   - vTPM (Virtual TPM) — VM에 가상 TPM 제공 (Windows 11 요구사항)
   - VBS (Virtualization-Based Security) — Windows 보안 기능 지원

3. vSphere Trust Authority
   - 신뢰 체인 아키텍처 — 별도 Trust Authority 클러스터
   - 원격 증명(Attestation) — 호스트 무결성 원격 검증
   - KMS 프록시 — 암호화 키 관리의 분리

4. 네트워크 보안
   - dvSwitch 보안 정책 (Promiscuous, MAC, Forged Transmits)
   - NSX 마이크로세그멘테이션 — VM 단위 방화벽 규칙
   - 분산 방화벽 — 동일 호스트 VM 간 트래픽도 제어
   - IDS/IPS (NSX 3.x+)

5. 감사와 로깅
   - ESXi syslog 구성
   - vCenter Events / Alarms / Tasks
   - Aria Operations for Logs (구 vRealize Log Insight)
   - SIEM 연동 패턴

6. 규정 준수
   - vSphere Configuration Profiles — 호스트 설정 표준화 (v9)
   - STIG (Security Technical Implementation Guide)
   - CIS Benchmark for ESXi
   - vSphere Compliance Check

7. Proxmox 보안 모델과의 차이
   - ESXi(최소 커널) vs Proxmox(Linux — 넓은 공격 표면)
   - 전용 보안 기능(Trust Authority, VM Encryption) vs Linux 보안 도구(AppArmor, SELinux)

→ Proxmox 대응: 없음 (각 편에 분산되어 있거나 미다룸)

#9 자동화 & 에코시스템

VMware 생태계의 자동화 도구와 확장 제품군.

1. PowerCLI
   - PowerShell 기반 VMware 관리 모듈
   - 아키텍처: PowerCLI → vSphere API (SOAP/REST) → vCenter
   - 주요 사용 패턴 (대량 VM 관리, 리포팅, 설정 감사)

2. vSphere REST API
   - vSphere Automation API (REST) — 7.0+에서 확장
   - CIS (Content Library), vCenter, Tagging 등
   - SOAP API (레거시, 기능이 더 많음) vs REST API (신규, 점진적 확장)

3. Ansible
   - vmware.vmware 컬렉션 (구 community.vmware)
   - 주요 모듈: vmware_guest, vmware_host_config, vmware_cluster_ha
   - Proxmox의 community.general.proxmox과의 비교

4. Terraform
   - hashicorp/vsphere Provider
   - VM, 네트워크, 스토리지 선언적 관리
   - Proxmox의 bpg/proxmox Provider와의 비교

5. vSphere with Tanzu
   - Kubernetes 통합 아키텍처 개요
   - Supervisor Cluster, vSphere Namespace
   - VM 위에서 K8s Pod 직접 실행 (VM Service)

6. Content Library
   - 템플릿/ISO/OVF 중앙 관리
   - 게시/구독 모델 — 다중 vCenter 간 동기화
   - Proxmox 템플릿 + pveam과의 비교

7. Aria Suite 개요
   - Aria Operations (구 vROps) — 모니터링/용량 계획
   - Aria Automation (구 vRA) — 셀프서비스 포털, 블루프린트
   - Aria Cost — 비용 분석

8. 마이그레이션 도구
   - HCX — 하이브리드 클라우드 마이그레이션
   - V2V 개념 — VMware ↔ KVM/Hyper-V 변환
   - P2V 개념 — 물리 → 가상 변환
   - 디스크 포맷 변환 (VMDK → QCOW2, VHD)

9. VMware vs Proxmox 자동화 비교
   - PowerCLI vs pvesh/API
   - Terraform Provider 비교
   - Ansible 모듈 비교
   - Content Library vs pveam

→ Proxmox 대응: #9 Automation & API

🔄 Proxmox 시리즈와의 교차 참조 맵

🔗 관련 문서

• Proxmox VE Series — 교차 비교 대상 (KVM 기반)
• XCP-ng & Xen Series — Xen 기반 비교
• Hyper-V Series — Windows 기반 비교
• Hypervisor Virtualization — Type 1/2 하이퍼바이저 개념
• Container Virtualization — 컨테이너 vs VM

📝 참고 자료

• VMware vSphere Documentation
• Broadcom VMware Portfolio
• VMware Cloud Foundation 9.0 Blog
• VMUG — VMware User Group
• VMUG Advantage
• VMware PowerCLI