Para SQL Server 2005 o anterior, puede ejecutar:
sp_configure 'max text repl size', 2147483647
Para SQL Server 2008 o posterior, puede ejecutar:
sp_configure 'max text repl size', -1
El primero aumenta el tamaño máximo permitido, el segundo esencialmente dice "eliminar el límite". Una vez que se aumente o elimine el tamaño máximo, se podrán replicar LOB grandes.