Simplemente cambie el conjunto de caracteres de toda la base de datos:
ALTER DATABASE databasename CHARACTER SET utf8 COLLATE utf8_unicode_ci;
Y por supuesto puedes hacerlo para alguna mesa.
Más información, consulte la documentación aquí.
EDITAR:
De lo contrario, si sus datos ya están almacenados en "?" marcas, la realidad es que está dañado.