¿MySQL InnoDB bloquea solo las filas afectadas?

Para resolver la primera parte de su pregunta, cree un índice único en user_id y name.

alter table `users` add unique index ak_user_id_name(user_id,name);

Eso evitará la duplicación de registros de id_usuario y nombre.