He realizado migraciones similares y creo que estás en el camino correcto.
Simplemente tome un mysqldump de su base de datos y guárdelo en un archivo, por ejemplo:
mysqldump -h [host] -u [user] -p[password] [dbname] > dumpfilename.sql
Absolutamente. Puede conectarse a una instancia RDS de MySQL como lo haría con cualquier otra instancia de MySQL. El nombre de host se denomina "punto final" en la Consola de administración de AWS.
Una vez que haya creado la instancia de RDS y configurado el grupo de seguridad, estará listo para cargar el volcado:
mysql -h [endpoint] -u [user] -p[password] [dbname] < dumpfilename.sql