El '[2002] Conexión rechazada' significa que puede acceder al servidor de la base de datos, pero no tiene acceso correcto para el usuario (en su caso, administrador). Por defecto, mariadb tiene un usuario root con la contraseña proporcionada por MYSQL_ROOT_PASSWORD y este usuario puede conectarse desde cualquier servidor (%).
Si desea utilizar un inicio de sesión superior a sus bases de datos, debe crearlo en el servidor de bases de datos con la concesión correcta en las bases de datos de las ubicaciones elegidas.
El problema aquí es que nombró a su servidor de base de datos como 'mysql' (nombre del servicio en el archivo docker-compose). Pero por defecto, phpmyadmin intenta conectarse a un servidor de base de datos llamado 'db'. Agregando PMA_HOST: mysql
en la sección de entorno del servicio phpmyadmin resolverá este problema.
Creo que MYSQL_USERNAME y PMA_ARBITRARY no sirven de nada si trabajas con la configuración por defecto (conexión con root a tu servidor de bases de datos)