¿Cómo actualizar una parte de la cadena usando la función de reemplazo en tsql?

Esto reemplazará en toda la columna

REPLACE(MyColumn, '&', '&')

Tendrás que anidar otros reemplazos...

REPLACE(REPLACE(MyColumn, '&', '&'), '>', '>')

Todos juntos

UPDATE myTable
SET MyColumn = REPLACE(MyColumn, '&', '&')
WHERE MyColumn LIKE '%&%'