¿Qué tal esto:
SELECT *
FROM users
ORDER BY RAND()
HAVING RAND() * 1000 < 10
La cláusula WHERE RAND() * 1000 < 10
elige aleatoriamente incluir cada fila con una probabilidad del 1%. No es exactamente una LIMIT variable
pero hará más o menos lo mismo.