Un índice agrupado altera la forma en que se almacenan las filas. Cuando crea un índice agrupado en una columna (o varias columnas), el servidor SQL ordena las filas de la tabla por esa(s) columna(s). Es como un diccionario, donde todas las palabras están ordenadas alfabéticamente en todo el libro.
Un índice no agrupado, por otro lado, no altera la forma en que se almacenan las filas en la tabla. Crea un objeto completamente diferente dentro de la tabla que contiene las columnas seleccionadas para la indexación y un puntero a las filas de la tabla que contienen los datos. Es como un índice en las últimas páginas de un libro, donde las palabras clave se ordenan y contienen el número de página del material del libro para una referencia más rápida.