网关一词源自英文“Gateway”，源自“gate”与“way”。“gate”原意为“门”，“way”原意为“道路”。从一个网络向另一个网络发送信息，必须要经过一道门口与通路，像是关口一样，因此被称为网关。网关在使用不同的通信协议、数据格式或语言，甚至体系结构完全不同的两种系统之间，充当两者交换内容的转换器和翻译器。

在早期的因特网中，术语网关即指路由器。随着因特网的发展，路由器的概念被赋予新的内容，从而失去了原有的网关概念。而术语网关依然沿用下来。

根据开放系统互连参考模型（简称OSI模型）的七层网络模型，主要有两类网关：传输层网关用于在两个网络间建立传输连接，在OSI模型的第二层或第三层进行协议转换；应用层网关在第四层以上进行不同数据格式间的数据翻译。网关功能日益增多，有一类新的典型应用层网关是安全网关，通常被描述为第三代防火墙。