¿Cómo puedo crear una restricción única de SQL basada en 2 columnas?

Puedes probar esto:

CREATE UNIQUE CLUSTERED INDEX index_name ON TABLE (col1,col2)

o

CREATE UNIQUE NONCLUSTERED INDEX index_name ON TABLE (col1,col2)

o

ALTER TABLE [dbo].[TABLE] ADD CONSTRAINT
    UNIQUE_Table UNIQUE CLUSTERED
    (
       col1,
       col2
    ) ON [PRIMARY]