Суть проста — нам хочется иметь возможность напрямую подключаться к удаленному серверу или пулу серверов за NAT. Можно использовать для этого vpn-туннель, или настроить ssh-проксирование. Для этого делается один общий гейт, назовем его условно Gate_01, который имеет белый ip или к которому можно подключиться по vpn — тут все зависит от конфигурации сети.
Пример конфигурации — с выдуманными параментарми для двухразных гейтов для двух разных сетей:

Gate_01 ip: 55.18.47.99
 ip серверов за натом к которым будем подключаться:
 10.20.0.30 10.20.0.40 10.20.0.50

Gate_01 ip: 55.18.48.98
 ip серверов за натом к которым будем подключаться:
 10.20.0.30 10.20.0.40 10.20.0.50

конфигурацию добавляем в файл: ~/.ssh/config

Host 10.20.0.30 10.20.0.40 10.20.0.50
 Hostname %h
 User ubuntu
 IdentityFile ~/.ssh/gate_01/id_rsa_gate_01
 ProxyCommand ssh ubuntu@55.18.47.99 -W %h:%p
Host 10.30.50.10 10.30.50.20 10.30.50.30
 Hostname %h
 User ubuntu
 IdentityFile ~/.ssh/gate_02/id_rsa_gate_02
 ProxyCommand ssh ubuntu@55.18.48.98 -W %h:%p

Для того чтобы все корректно работало, нам нужно предварительно добавить свой публичный ключ на все нужные сервера.

и после этого для соединения с любым нужным описанным сервером, просто набираем команду:
ssh <servername>
например:

 ssh 10.20.0.30