Si no puede crear una función y tiene que usar algo que ya existe en la base de datos:
sys.fn_repl_hash_binary
se puede hacer que funcione usando la sintaxis:
sys.fn_repl_hash_binary(cast('some really long string' as varbinary(max)))
Tomado de:http://www .sqlnotes.info/2012/01/16/generate-md5-value-from-big-data/