Debería asegurarse de que su servidor SQL esté instalado en inglés. Una vez que esté seguro de que la función de conversión debería hacer el trabajo
SELECT CONVERT(DATETIME, '02-Sep-2017')
Y si necesita convertir eso en esa cadena que compartió:
SELECT CONVERT(VARCHAR, CONVERT(DATETIME, '02-Sep-2017'), 103)
Referencia de estilo aquí