Puede conectarse directamente a MySQL, pero no es una buena práctica, especialmente para aplicaciones de producción. Mi consejo es utilizar un servicio web que facilite la conexión.
Los servicios web son servicios que están disponibles desde el servidor web de una empresa para usuarios web u otros programas conectados a la web, en este caso, su aplicación de Android.
Aquí hay un excelente tutorial para comenzar Android, MySQL y PHP