Sus casos de prueba en los que no puede conectarse con "ServerName\Instance" pero PUEDE conectarse al servidor a través de "ServerName,Port" es lo que sucede cuando conecta VPN a una red con Microsoft VPN. (Tuve este problema). Para mi problema de VPN, simplemente uso los números de puerto estáticos para sortearlo.
Aparentemente, esto se debe a que VPN no reenvía paquetes UDP, y solo permite conexiones TCP.
En su caso, su firewall o configuración de seguridad o antivirus o lo que sea que pueda estar bloqueando UDP.
Le sugiero que verifique la configuración de su firewall para permitir específicamente UDP .
