服務器機柜由框架和蓋板（門）組成，一般具有長方體的外形，落地放置。它為電子設(shè)備正常工作提供相適應的環(huán)境和防護。這是僅次于系統(tǒng)級的一級組裝。不具備封閉結(jié)構(gòu)的機柜稱為機架。

早期所用的服務器機柜大都是用鑄件或角鋼經(jīng)螺釘、鉚釘連接或焊接成機柜框架，再加由薄鋼板制成的蓋板（門）而成。這種機柜的體積大、笨重、外形簡陋，已被淘汰。隨著晶體管、集成電路的使用和各種元件、器件的超小型化，機柜的結(jié)構(gòu)也向小型化、積木化方向發(fā)展。