在计算机网络中，当两台主机处于不同的网段，但通过交换机进行连接，并且每台主机配置了有效的网关时，它们能够互相ping通，主要是由于网络层的寻址和路由机制。在此情景下，我们首先需要了解IP地址的构成以及网关的作用。每台主机都拥有一个唯一的IP地址，通常由网络部分和主机部分组成。网络部分用于标识该设备所属的网络，而主机部分则标识该网络中的具体设备。网关是网络中一个重要的节点，主要负责将数据从一个网络转发到另一个网络。
当两台主机的IP地址处于不同的网段时，这意味着它们各自的网络部分有所不同。在这种情况下，如果主机A想要向主机B发送数据包，主机A会检查其自己的IP地址和主机B的IP地址，以确认这两者是否在同一网络中。由于它们不在同一网络，因此主机A无法直接与主机B通信。于是，主机A会将数据包发送到其配置的默认网关。网关的IP地址通常设置在主机网络配置的IP地址的同一网络段内。
网关收到数据包后，会根据其自己的路由表决定数据包的去向。如果网关具备通往主机B所在网络的路由信息，它就会将数据包转发给主机B的网关。每个网络通常都有一个路由设备，可以将数据包转发到其他网络或子网。也就是说，数据包在中间的网关和路由设备之间进行了一系列的转发，最终到达目标主机。
当数据包抵达主机B的网关时，B的网关会确认目标地址并将数据包传送到主机B。值得注意的是，Ping命令就是通过ICMP（Internet Control Message Protocol）协议进行操作的，这种协议用于发送探测报文，以确定目的主机是否可达。因此，即便主机A和主机B位于不同的网段，只要它们各自的网关设置正确，并且网络连接是健全的，它们依然能够通过Ping命令互相验证连通性。
在网络中，具备合理的路由表和互联设备是确保数据包顺利传递的一项重要保障。路由表中包含了目的地址和下一跳的对应关系。当数据包沿途经过多个网络的时候，路由设备会根据路由表进行相应的转发决策。主机A的网关、主机B的网关，以及可能经过的其他路由器都会在这个过程中发挥作用。
还有一个关键因素是网络协议的封装过程。当数据包从主机A通过网关发送到主机B时，数据包会经过多个层的封装与解封装。在发送数据前，IP层会将数据分为有效载荷和包头，这些包头中包含了源IP地址和目标IP地址。每一层数据包都会被不同的协议处理。当Packet到达目的地址时，每一层会根据其特定协议进行解析，最终还原为用户应用层数据。
因此，从这个角度来看，尽管主机和主机之间不直接处于同一网络中，只要通过网关及路由机制，业务依旧可以正常运行。同时，有效的网关配置以及适当的路由策略可确保即使在复杂的网络环境中，数据包依然能找到通往目的地的路径。简而言之，正是因为在网络架构中网关和路由的协同作用，使得即使两台主机不在同一网段，它们依然能够互相进行数据通信。
在实践中，网络管理员经常需要为不同网段的主机配置网关，以确保它们能够相互ping通。这种设置也适用于大型企业网络或各种复杂的IT基础设施环境。对于每个独立的局域网（LAN），配置合理的默认网关能够减少网络通信中的延时，提高网络效率。