¿Qué protocolo de comunicación utiliza MySQL?

Simplemente se llama "protocolo MySQL".

Consulte https://dev.mysql.com/doc /dev/mysql-server/latest/PAGE_PROTOCOL.html