NVMe Hot-Swap: bezahlbar und praktikabel?

greystone

Active Member
Hallo zusammen,

was mich interessieren würde: Gibt es in Sachen NVMe HotSwap-fähige Lösungen wobei ich für einen Server (16Core, 128GB RAM, 4x2 TB SSD) inkl. dieser Hot-Swap-SSD Lösung ungefähr in der Preisklasse 3200 EUR (netto) suche. Nur um Mal eine preisliche Hausnummer zu geben, was ich jetzt an System mit normalen SATA-SSDs habe.

Ich frage mich auch, ob das Hotswapping damit auch sauber funktioniert. D. h. gibt's hier jemanden, der damit Erfahrungen gemacht hat? Das sollen jetzt Postgres-DB-Cluster werden. Postgres-Multi-Master wird aufgrund der Kundenanforderung wohl eher nicht gehen. Wäre unschön, wenn die mal eben so ausfallen.

Ich habe mal einen Serverdistributor gefragt. Der meinte, dass, was er anbietet - er verwendet da Supermicro-Boards und Gehäuse - ist nicht HotSwap-fähig und außerdem gäbe es bei der Thematik ganz schön viel zu beachten.

Selbst bastel ich mir auch keine Server zusammen. Dafür mache ich das viel zu selten.

Viele Grüße,
greystone
 
Last edited:
Das habe ich natürlich auch gefunden. Aber offensichtlich nicht ausführlich genug gelesen. ;-) Also: Danke! Ja! Genau!

Ansonsten gibt's von Icy Dock auch noch das gleiche in 4-fach:

https://de.icydock.com/product_182.html (~300 EUR)

Für den/die benötigten 5,25" Slots (für das CP060 3,5") muss es da allerdings schon mindestens 2-HE (1x 5,25") oder 3-HE (2x 5,25") sein.

Habe mal nachgelesen. Beide Produkte unterstützen HotSwap. Allerdings braucht es da noch einen U.2 - Host.

Damit kann man schon was anfangen.
 
Thomas Krenn bietet solche Systeme fertig konfiguriert an. Ich habe mal das gleiche System dort annähernd identisch konfiguriert. Da bin ich dann allerdings schon bei 6000 EUR. Allerdings ist die Basis-CPU alleine schon wesentlich höher dimensioniert, die alleine schon 1500 EUR mehr kostet.
 
Last edited:
Ich habe nochmal mit dem Techniker vom Distributor (1he-server.com. Ich empfehle den gerne. Habe gute Erfahrungen mit dieser Firma gemacht.) telefoniert. Der meinte: garantiertes Hot-Plug mit NVMe gibt es derzeit nicht. Da soll es aktuell noch Softwareprobleme (Treiberebene?) geben. D. h. in 90% aller Fälle geht das. In 10% aller Fälle geht das stark schief mit wenig klar umrissenem Fehlerbild. Ein Fehlerbild, was ihm berichtet wurde: NVMe wurde erkannt. Aber 3 andere NVMe sind gleichzeitig weggeflogen. Ich würde da dann eine zusätzliche Hotswap-SSD reinbauen.

U.3 soll aktuell noch überhaupt nicht ausgereift sein. Schlechte Performance.

Und so grundsätzlich funktioniert das mit AMD Server CPUs wohl besser, weil die deutlich mehr breitbandige PCIe - Lanes haben als Intel und da braucht man bei NVMe jede Menge von.

Und ich bin auch wenig amused, wenn ich das höre:

"Um das System an verschieden lange NVMe-SSDs anzupassen, kann es sein, dass man das Servermainboard ausbauen muss."
 
Last edited:
NVMe hat aus diesen Gründen in 19" Servern eigentlich nichts zu suchen. Das ist schlicht kein Formfaktor fürs 19" Gehäuse und auch nicht für Hotplug und somit nichts für Server.

Man nehme U.2 oder U.3, oder halt SAS (oder SATA) SSDs (mit den bekannten Geschwindigkeitseinschränkungen). Idealerweise nimmt man einen Server, der gleich mit SSDs konzipiert und ausgeliefert wird, dann sollte es auch so funktionieren wie versprochen.
 
Ähem ja. Sorry. Konkret geht es aktuell um ein Server-Gehäuse (also nicht um die 3,5"/5,25" Slot-Adapter, die oben erwähnt wurden). Ich vergaß das zu erwähnen.

Dieses Gehäuse:
https://www.supermicro.com/de/products/system/storage/1u/ssg-110p-ntr10

Mit meinem begrenzten Wissen sieht mir das so aus, als ob da eine Firma, die Server/Gehäuse baut, ein Gehäuse für Server und NVMe entwickelt hat, was grundsätzlich auch so mit HotSwap funktionieren soll und trotzdem tut das aktuell wohl nicht - aus den beschriebenen Gründen.

Die allwissende Müllhalde sagt, dass die HotSwap-Unterstützung bei NVMe über PCIe gelöst wird. Und wenn U.2/U.3 hotswappiger hotswappt als NVMe soll mir das egal sein, solange beides einwandfrei geht. Im Moment sammle ich Informationen und höre den Erfahrungsbericht, von jemandem, der deutlich mehr Ahnung von Servern hat, als ich, dass eines von beiden (NVMe) schon einmal nicht einwandfrei funktioniert. Von dem anderen (U.2) habe ich gar keine Ahnung.

Mit U.3 will ich lieber aktuell noch nix zu tun haben, weil mir dass zu sehr nach Beta / Einführungsproblemen riecht.
 
Last edited:
Naja, Ausnahmen bestätigen trotzdem die Regel. Aber ja, genau sowas muss man dann kaufen, wenn man will, dass Hot Plug etc. funktioniert.
 
Ich habe irgendwo anders auf der Supermicro irgendwelche Specs über das Gehäuse gelesen und dort stand dann die Bezeichnung "U.2". Hinter der Seite mit obigem Link steht die Bezeichnung U.2 aber komischerweise nicht. Im PDF-Handbuch steht's dann nochmal drin:

"Ten front 2.5" hot-swap U.2 NVMe drives"
 
Habe zwischenzeitlich auch nochmal mit Thomas-Krenn gesprochen. Die meinten, das HotSwap bei U.2 funktioniere bei denen einwandfrei. Habe mich jetzt aufgrund des Preisunterschiedes für die Systeme bei 1he-server entschieden. Ich werde das mit dem HotSwap mal testen und schauen, wie (un-) zuverlässig das ist. Ich habe mich mal darauf eingestellt, dass eine Downtime 1-2x pro Jahr notwendig sein wird und zusätzlich eine HotSpare-NVMe konfiguriert.

Im Übrigen:

Ich hatte oben noch ein Mißverständnis in der Sache, was ich gerne für die Mitleser aufklären möchte:

Mir war nicht klar, dass ich Formfaktor und Technik durcheinanderwerfe, bzw. es mir gar nicht klar war, wie dass sich überhaupt verhält.
  • Formfaktoren sind z. B. M.2, U.2, 2,5-Zoll-SATA oder 3,5-Zoll-SATA. Bei letzteren beiden ist der Name der Technik dabei, weil ich keinen separaten Namen für den Anschluß kenne bzw. Formfaktor durch in der technischen Definition enthalten ist. Die Formfaktoren spezifieren die genau erforderlichen Maße und Beschaffenheit der Anschlüsse und Laufwerke, bzw. Laufwerksträger.
  • Technik bzw. Protokolle sind z. B. SATA, SAS, NVMe.
Das Neue bei SSDs ist, dass über gleiche Formfaktoren/Anschlüsse unterschiedliche Technik angebunden wird: NVMe und SATA laufen sowohl über einen U.2- als auch über einen M.2-Anschluß. M.2 ist hier die Kontaktleiste, in die man eine SSD als Platine einklinkt. U.2 ist der Einschub, in den man einen SSD-Träger einführen kann. Ich vermute auch, dass der U.2 - Anschluß in einer spezifischen Anordnung einen M.2 - Anschluß beinhaltet.

Wie das Ganze optisch genauer aussieht, werde ich ja in Kürze erfahren, sobald die Server da sind.
 
Last edited:
Ich habe inzwischen auch mal bei Hetzner eine NVMe-SSD tauschen lassen müssen. Ging bei denen auch nur mit Downtime. Das Board in dem Server ist ein Fujitsu D3417-B. Ob die keine U.2 Gehäuse haben? Oder doch nur gemerkt haben, dass das nicht stabil im laufenden Betrieb tauschbar ist?
 
Ich habe inzwischen auch mal bei Hetzner eine NVMe-SSD tauschen lassen müssen. Ging bei denen auch nur mit Downtime. Das Board in dem Server ist ein Fujitsu D3417-B. Ob die keine U.2 Gehäuse haben? Oder doch nur gemerkt haben, dass das nicht stabil im laufenden Betrieb tauschbar ist?
Hetzner hat alles mögliche: von - immer noch - Desktop Gehäusen in Regalen, über Dell Server im 19" Format hin zu ihren eigenen Gehäusen, die definitiv keinem Standard folgen und im Prinzip einfach nur die Bestandteile mit möglichst geringen Kosten und wenigen Handgriffen hosten. Die günstigeren Server (sub 80-1XX€) haben definitiv keine U.2 Slots.
 
Back
Top