La consulta XML () funciona, value () requiere singleton encontrado xdt:untypedAtomic

Necesitas usar esto:

SELECT 
        x.requestpayload.value('declare namespace s="http://blah.ca/api";
            (/s:validate-student-request/s:student-id)[1]', 'int') 
    AS
        studentid
    FROM 
        xoutput x

Debe poner su XPath en ( ... ) y agrega un [1] para simplemente seleccionar el primer valor de esa secuencia.