Der Network Layer (OSI Schicht drei) ist hauptsächlich für das Routing über mehrere Netze hinweg zuständig. Wurden in der Sicherungsschicht nur direkte Verbindungen hergestellt, macht es die Vermittlungsschicht möglich Netze verschiedener Topologien miteinander zu verbinden. Verschiedene Routing Algorithmen sollen versuchen Pakete über unterschiedliche Zwischenstationen ans Ziel zu bringen.
Grundsätzlich gibt es verbindungslose und verbindungsorientierte Dienste auf der Vermittlungsschicht.
Verbindungsorientierte Dienste (z.B. ATM) handeln zum Beginn der Verbindung Parameter aus und können eine Flusssteuerung gewährleisten. Außerdem ist so eine Fehlerkontrolle möglich. Durch Verbindungskennungen müssen nicht alle Pakete die komplette Ziel-Adresse beinhalten. Daraus folgt, dass jedes Paket einer Verbindung den gleichen Weg nehmen muss. Wenn also ein Verbindungsstück ausfällt, bricht die Verbindung ab. Ein Nachteil von verbindungsorientierten Diensten ist der Zeitaufwand für den Verbindungsaufbau.
Bei verbindungslosen Diensten kann jedes Paket einen anderen Weg nehmen. Das macht das Verfahren sehr robust gegenüber dem Ausfall einzelner Verbindungsstücke bei redundanten Netzverbindungen. Da so aber jedes Paket die komplette Zieladresse enthalten muss, wird ein overhead erzeugt. Außerdem haben die Router mehr Arbeit, weil sie jedes Paket einzeln routen müssen. Im verbindungslosen Dienst findet in der Regel auch keine Überwachung statt und es ist schwierig eine Überlast des Systems zu vermeiden. Das weit verbreitete IP ist ein verbindungsloses Protokoll.
Es gibt verschiedene Routing Algorithmen um den Weg eines Pakets durch ein Netz zu steuern. Weit verbreitet ist das Distance Vektor Routing, welches in Protokollen wie RIP oder BGP umgesetzt wurde. Als Alternative gibt es das in OSPF umgesetzte Link State Routing.
Aufgrund der Größe des Internet kommt ein hierarchisches Routing zum Einsatz. Das heißt, das nicht jeder Router jedes Ziel kennt. Durch die Einteilung in Netze bzw. Autonomous Systems (AS) kann aber trotzdem die Richtung bestimmt werden, in die ein Paket weitergeleitet werden muss. Wichtig ist hierbei die Syntax der IP-Adresse und deren Netzmasken. Früher gab es eine statische Einteilung in verschiedene Netztypen (Klasse A, B, C usw), die sich aber als kotraproduktiv ergab, da dadurch viele IP-Adressen ungenutzt blieben und es sowieso schon eine Knappheit an IPv4-Adressen gibt (siehe IPv6). Heute verwendet man ein klassenlosen Routing (als CIDR = Classless Inter Domain Routing bekannt).
Eine weitere Möglichkeit IP-Adressen einzusparen ist die Network Adress Translation (NAT), die es möglich macht mit Rechnern die nur lokale (und somit weltweit nicht eindeutige) Adressen haben über einen Router ins Internet zu gehen.
Die beiden wichtigsten Protokolle zur Datenübertragung im Internet sind IP (verbindungslos) und ATM (verbindungsorientiert). Wobei ATM hauptsächlich Internet Service Provider intern nutzen und ansonsten das Internet Protokoll benutzt wird. Wegen einem Mangel an IP-Adressen wurde das IPv6 entwickelt, welches längere Adressen unterstützt.
Da wären die verschiedenen Routing Protokolle: Das veraltete RIP (Routing Information Protokoll) und Varianten für größere Netzte wie OSPF (Open Shortest Path First) und das auch nicht technische Routing Kriterien einbeziehende BGP (Border Gateway Protokol).
Zum Austausch von Nachrichten benutzt IP das Internet Control Message Protokoll (ICMP), welches in den Datenteil eines IP-Pakets integriert wird.
Um in einem lokalen Netz Computer, die erstmal nur feste MAC-Adressen haben IP-Adressen zuweisen zu können gibt es ARP (Adress Resolution Protocol) und die Umkehr dazu (RARP) sowie die weiterentwickelte Varianten BootP und DHCP.