Estás pensando demasiado en esto:
- las claves primarias (sin importar cuántas columnas estén involucradas) deben ser únicas
- su clave principal son las dos columnas a, b
Por lo tanto a y b juntos debe ser único.
Los valores individuales de a y b son irrelevantes.