Ese error implica que está intentando agregar un PostgreSQL base de datos en lugar de un PostGIS base de datos. Debe agregar la extensión PostGIS a la base de datos con este comando:
psql -d yourdatabase -c "CREATE EXTENSION postgis;"
psql -d yourdatabase -c "CREATE EXTENSION postgis_topology;"
Esto le permitirá almacenar geometrías (y geografías) en sus tablas que GeoServer puede mostrar como capas de mapas.
