No puede usar ordenar por y limitar en la instrucción de actualización en el caso de varias tablas.
Citando de la documentación de MySQL:
UPDATE user u
INNER JOIN
(
SELECT
*,
(@i := (@i + 1)) AS row_number
FROM user u
CROSS JOIN (SELECT @i := 0) r
WHERE user_active=1
ORDER BY user_planets DESC
)AS t
ON u.Primary_key = t.primary_key
SET u.user_rank_planets = t.row_number.
u.Primary_key
y t.primary_key
por la clave principal de user
mesa.
Lea los primeros párrafos http://dev.mysql.com/doc /refman/5.7/en/update.html