Parece que MySQL lo acepta (no se queja de la sintaxis), pero la clave externa no se crea realmente.
Para crear esta clave externa, ejecute este comando:
ALTER TABLE employee ADD CONSTRAINT fk_department FOREIGN KEY (departmentID) REFERENCES department (departmentID);