Die Exchange-Infrastruktur erstreckt sich in der Regel über mehrere physische oder virtuelle Server. Welche Teilfunktionen der Software genau auf den jeweiligen Servern installiert werden, wird durch sogenannte Serverrollen definiert. Während die Bereitstellung der Postfächer einzelner Benutzer und die Annahme von Client-Verbindungen in der Vorgängerversion noch durch die separaten Rollen Mailbox und Client Access realisiert wurden, sind ab Exchange Server 2016 nun alle Hauptfunktionen im Postfachserver enthalten. Hier werden die Datenbanken vorgehalten und Client-Anfragen entgegengenommen. Ein zusätzlicher Client-Access-Server entfällt.
Der Edge-Transport-Server hingegen bleibt auch in der aktuellen Version als zweite Serverrolle erhalten. Dieser wird in der Regel gesondert in einem vorgeschalteten Umkreisnetzwerk, der sogenannten Demilitarized Zone (DMZ), installiert und dient der zusätzlichen Absicherung der E-Mail-Übertragung zwischen dem lokalen Netzwerk und dem Internet durch Anti-Spam- und E-Mail-Fluss-Regeln. Eine klassische Exchange-Architektur besteht somit aus einem Edge-Transport-Server und einer beliebigen Anzahl an Postfachservern, die in einer Datenbank-Verfügbarkeitsgruppe (Database Availability Group, DAG) organisiert sind. Die Lastenverteilung wird durch einen Load-Balancer geregelt.
Der Zugriff auf die Mailbox-Server erfolgt in der Regel über das Client-Programm Outlook, die Web-App Outlook on the web oder ein Mobilgerät. Alternativ lassen sich die Funktionen von Microsoft Exchange Server über die Linux-Software Evolution nutzen. Zentrale Schnittstelle zur Kommunikation mit Windows-Clientprogrammen ist MAPI (Messaging Application Programming Interface). Outlook für Macintosh nutzt die Serverschnittstelle EWS (Exchange Webservices). Als Übertragungsprotokolle kommen RPC (Remote Procedure Call) oder HTTP (Hypertext Transfer Protocol) zum Einsatz.
Während Client-Anfragen aus dem lokalen Netzwerk oder extern via Internet über den Load-Balancer direkt auf die Postfachserver der Exchange-Architektur zugreifen, passieren E-Mails, die von einem externen SMTP-Server stammen, zuerst das Umkreisnetzwerk mit dem Edge-Transport-Server, bevor sie an den Load-Balancer und damit an die Postfachserver weitergeleitet werden. Folgende Grafik zeigt den klassischen Aufbau einer Exchange-Architektur (Version 2016):