A primera vista, me parece que su SQL Server Management Studio se está conectando a través de una biblioteca de red diferente, como Named Pipes, mientras que el cliente sqlcmd intenta conectarse a través de TCP y el servidor no está escuchando allí (o tal vez en un puerto no estándar). Es por eso que obtiene el error de TCP en el último caso.
