Ok, creo que tu problema es que estás usando AJAX para descargar el archivo.
No es posible descargar archivos usando AJAX (o mejor dicho, JS) de manera normal. Ya sabes, hay un agujero demasiado grande para que los exploits permitan eso (creo que sí), de todos modos, no existe tal posibilidad.
Sin embargo, hay soluciones. Uno de ellos es crear un iframe oculto de forma dinámica en la página y luego cambiar su ubicación a su secuencia de comandos de descarga. Entonces no estás usando JS para descargar, sino capacidades simples de navegador.
En esta página se describe otra forma:
http://www.filamentgroup.com/lab/jquery_plugin_for_requesting_ajax_like_file_downloads/
Puede que te sirva de ayuda.
