El controlador jtds no tiene la misma sintaxis que el controlador ms. Debe enviar el nombre de la instancia como una propiedad, es decir, así:
"jdbc:jtds:sqlserver://localhost/master;instance=TESTDATA;..."
Observe también que el nombre de la base de datos se envía como /master
en lugar de como una propiedad. ¡Buena suerte!