Según Precedencia de operadores para MySQL
AND
tiene mayor precedencia que OR
.
Entonces C1 AND C2 OR C3
será tratado como (C1 AND C2) OR C3
Para anular la precedencia predeterminada, debe usar paréntesis como:C1 AND (C2 OR C3)
En su caso, la consulta correcta es:
SELECT name, sex, fur, color
FROM dogs
WHERE sex='male' AND fur='short' AND (color='black' OR size="big");