Solo usa la date
palabra clave y constantes ISO:
select *
from file_log f
where F.DCP_SRCE_FILENM_FK in ('ABC','DEF') and
F.TRANS_DT >= date '2017-08-25' and
F.TRANS_DT <= date '2017-08-30';
Está recibiendo el error porque falta la segunda constante to_date()
. Pero también podría usar la sintaxis adecuada para una constante de fecha.