La consulta se conoce como grupo máximo , que (en MySQL, al menos) se puede implementar con una subconsulta. Por ejemplo:
SELECT my_table.* FROM my_table NATURAL JOIN (
SELECT user_id, MAX(created_at) created_at
FROM my_table
GROUP BY user_id
) t
Véalo en sqlfiddle .