Cómo escapar de los guiones bajos en Postgresql

Debe usar una barra invertida para escapar del guión bajo. Cambie la consulta de ejemplo a la siguiente:

SELECT table_name, column_name FROM information_schema.columns
WHERE column_name LIKE '%\_by'