Tja, begge er bra. ESXi er nok populært fordi endel bruker det i jobb-sammenheng.
Proxmox kan betraktelig mer enn gratis ESXi, kanskje først og fremst det som i VMWare-verden heter vCenter, dvs støtte for flere Proxmox hosts (servere) og "live" migrering mellom disse. Hvis du har tenkt å kjøre noe viktig på serveren din er dette kanskje noe som kan være interessant. Det er f.eks ikke noe problem å starte med en server, og så legge til en ny server - migrere VM'ene dine over til den nye og så oppgradere/slå av den gamle.
En annen potensiell veldig kul ting er innebygd støtte for å lage cluster filsystem (Vmware kaller deres tilsvarende funksjonalitet vSan) - dvs at du lager et form for "raid" mellom flere fysiske servere, og dermed kan du miste en server uten at VM'ene dine mister data.
Terskelen for å bruke noen av funksjonene er litt høy, f.eks cluster filsystem er på ingen måte "pek og klikk og virk".
I mine øyne er Proxmox like stabilt, gratis, og ikke ment som en "prøve-versjon" for betalte utgaver.
Derfor velger jeg selv ihvertfall Proxmox i mange tilfeller.
Jeg kan kanskje nevne at jeg i jobbsammenheng drifter både vCenter og Proxmox, så erfaringene er ikke kun basert på hjemmebruk.