Realmente debería convertir todos los datos en una unidad común (por ejemplo, bytes) o agregar una columna que contenga una "unidad de medida" y mantener la columna de tamaño en sí misma numérica.
Habiendo dicho eso, lo siguiente debería funcionar en datos que terminan en GB/MB/KB o B.
select size
from t
order
by case when size like '%GB' then power(1024, 3) * substr(size, 1, length(size) - 2)
when size like '%MB' then power(1024, 2) * substr(size, 1, length(size) - 2)
when size like '%KB' then power(1024, 1) * substr(size, 1, length(size) - 2)
when size like '%B' then substr(size, 1, length(size) - 1)
end desc;
+-------+------------+
| size | bytes |
+-------+------------+
| 1GB | 1073741824 |
| 10MB | 10485760 |
| 100KB | 102400 |
| 1000B | 1000 |
+-------+------------+