服务器归根结底还是一台计算机，其硬件结构也是从PC发展而来，服务器的一些基本特性和PC有很大的相似之处。服务器则完全不同，许多重要的数据都保存在服务器上，许多网络服务都在服务器上运行，一旦服务器发生故障，将会丢失大量的数据，造成的损失是难以估计的，而且服务器提供的功能如代理上网、安全验证、电子邮件服务等都将失效，从而造成网络的瘫痪，对服务器可靠性的要求可见一斑。服务器内存和PC内存也有不同。为了实现更高的数据可靠性和稳定，服务器内存集成了ECC、Chipkill等内存检错纠错功能，近年来内存全缓冲技术的出现，使数据可以通过类似PCI-E的串行方式进行传输，显著提升了数据传输速度，提高了内存性能。
按网络规模划分，服务器分为工作组级服务器、部门级服务器、企业级服务器。工作组级服务器用于联网计算机在几十台左右或者对处理速度和系统可靠性要求不高的小型网络，其硬件配置相对比较低，可靠性不是很高。为了实现如此高的稳定，服务器的硬件结构需要进行专门设计。比如机箱、电源、风扇这些在PC机上要求并不苛刻的部件在服务器上就需要进行专门的设计，并且提供冗余。如果您在自动取款机上不能正常的存取，您应该考虑在这些设备系统的幕后指挥者————服务器，而不是埋怨工作人员的素质和其他客观条件的限制。
服务器具有高速的CPU运算能力、长时间的可靠运行、强大的I/O外部数据吞吐能力以及更好的扩展性。根据服务器所提供的服务，一般来说服务器都具备承担响应服务请求、承担服务、保障服务的能力。服务器在网络中为其它客户机（如PC机、智能手机、ATM等终端甚至是火车系统等大型设备）提供计算或者应用服务。服务器在成本上远高于PC，并且承担企业关键任务，一旦更新换代需要投入很大的资金和维护成本，所以相对来说服务器更新换代比较慢。