Tuve exactamente el mismo problema que ha informado. Mi conexión ODBC estaba usando el controlador MySQL ODBC 5.3 Unicode (/usr/local/lib/libmyodbc5w.so) Aunque podía conectarme con iSQL, los comandos SQL reales devolvían basura.
Intenté cambiar mi odbc.ini para usar el controlador ANSI (/usr/local/lib/libmyodbc5a.so). Funcionó y ahora RODBC puede conectarse a mi base de datos MySQL.