Según Precedencia de operadores para MySQL
AND tiene mayor precedencia que OR .
Entonces C1 AND C2 OR C3 será tratado como (C1 AND C2) OR C3
Para anular la precedencia predeterminada, debe usar paréntesis como:C1 AND (C2 OR C3)
En su caso, la consulta correcta es:
SELECT name, sex, fur, color
FROM dogs
WHERE sex='male' AND fur='short' AND (color='black' OR size="big");