No hay una anotación de Hibernate que verifique la unicidad antes de insertar/actualizar. Pero hay una anotación que generará tal restricción a la base de datos si se usa la creación automática de bases de datos:
@Table(
name="ACTIVE_BAND",
uniqueConstraints=
@UniqueConstraint(columnNames={"active_band_user", "active_band_date"})
)