Creo que su instalación de MySQL es de 64 bits (como Windows), ¿correcto?
Ruby es de 32 bits, por lo que no puede vincular 32 bits con 64 bits .
He publicado un artículo sobre los pasos de instalación en mi blog:
http://blog.mmediasys.com/2011/07/07/instalando-mysql-en-windows-7-x64-y-usando-ruby-con-él/
Estos pasos utilizan MySQL Connector/C para solucionar los problemas de 32 bits frente a 64 bits.
Ambos mysql
o mysql2
la gema debería funcionar con esto.