¿Cómo se elimina un valor predeterminado de una columna en una tabla?

Es una restricción predeterminada, debe realizar una:

ALTER TABLE {TableName} 
DROP CONSTRAINT ConstraintName

Si no especificó un nombre cuando creó la restricción, entonces SQL Server creó uno para usted. Puede usar SQL Server Management Studio para encontrar el nombre de la restricción navegando a la tabla, abriendo su nodo de árbol y luego abriendo el nodo Restricciones.

Si no recuerdo mal, la restricción tendrá un nombre similar a DF_SomeStuff_ColumnName.

EDITAR:Josh W.'s la respuesta contiene un enlace a un SO pregunta que le muestra cómo encontrar el nombre de restricción generado automáticamente usando SQL en lugar de usar la interfaz de Management Studio.