¿Se está ejecutando SQL Server Browser en la máquina? Para instancias con nombre, como \SQLExpress, el navegador SQL permite que las máquinas cliente identifiquen a qué puerto conectarse.
De manera predeterminada, solo la instancia predeterminada se ejecuta en TCP 1433. Si el cliente no puede conectarse en el puerto predeterminado, consulta el navegador SQL en UDP 1434 para ubicar el puerto correcto para usar para una instancia con nombre determinado.