Debido a que el carácter \ es utilizado por el propio operador LIKE, debe duplicarlo cuando lo utiliza para escapar de otro carácter como las comillas dobles.
SELECT * FROM table_name WHERE column_name LIKE "%\\"%";
debería funcionar para usted.
al igual que cambiar las comillas dobles por comillas simples para encerrar el literal
SELECT * FROM table_name WHERE column_name LIKE '%"%';
como publicaste aquí