Creo que MySQL no proporciona tal funcionalidad incorporada. Una solución es que puede crear un disparador.
CREATE TRIGGER your_trigger_name
BEFORE INSERT ON your_table_name
FOR EACH ROW
BEGIN
DECLARE cnt INT;
SELECT count(*) INTO cnt FROM your_table_name;
IF cnt = 10 THEN
SIGNAL SQLSTATE '45000' SET MESSAGE_TEXT = 'You can store only 10 records.';
END IF;
END;
Pruebe el gatillo anterior en su mesa. Reemplace su table_name con your_table_name .
Espero que esto te ayude.