La forma más fácil que encontré es:
su postgres
psql
alter role user_name superuser;
#then create the extension as the user in a different screen
alter role user_name nosuperuser;
Básicamente, otorgue al usuario poderes de superusuario por un corto tiempo y cree la extensión. Luego revoca los poderes de superusuario.
También puede usar \connect user_name
para convertirse en ese usuario y crear la extensión directamente desde postgres
usuario.