Tower-Gehäuse lassen sich besser kühlen und sind demnach auch leiser, da die Lüfter mit geringerer Drehzahl arbeiten können.
Dann gibt es spezielle Low-Noise-Gehäuse.
Lautstärke wird auch von Festplatten verursacht, daher würde ich direkt auf SSDs gehen. Da der Zweck nicht angegeben ist nehme ich mal an es soll kein Dateiserver werden, denn hier wäre eine NAS ggf. sinnvoller.
Der Rest ist dann relativ egal. Microsofts Server-Betriebssysteme eignen sich allerdings weniger als Desktop-System. Server-Systeme die als Desktop mitbenutzt werden unterliegen einem höheren Sicherheitsrisiko.