Nato nell'odierna Leopoli, in Polonia, Emanuel Ax si trasferì a Winnipeg, in Canada, con la sua famiglia da bambino. I suoi studi alla Juilliard School furono resi possibili grazie al sostegno del programma di borse di studio Epstein dei Boys Clubs of America, e in seguito vinse il Young Concert Artists Award. Frequentò inoltre la Columbia University, dove si laureò in francese. Ax debuttò a New York nell'ambito della Young Concert Artists Series e catturò l'attenzione del pubblico nel 1974 vincendo la prima edizione del Concorso Pianistico Internazionale Arthur Rubinstein a Tel Aviv. Nel 1975 vinse il Michaels Award of Young Concert Artists, seguito quattro anni dopo dal prestigioso Avery Fisher Prize.
Artista esclusivo di Sony Classical dal 1987, tra le sue recenti pubblicazioni figurano i Trii di Mendelssohn con Yo-Yo Ma e Itzhak Perlman, l'Enoch Arden di Strauss con la narrazione di Patrick Stewart e dischi di musica per due pianoforti di Brahms e Rachmaninoff con Yefim Bronfman. Nel 2015 Deutsche Grammophon ha pubblicato una registrazione in duo con Perlman delle Sonate di Fauré e Strauss, che i due artisti hanno presentato in tournée durante la stagione 2015/2016. Ax ha ricevuto i Grammy Award per il secondo e il terzo volume del suo ciclo di sonate per pianoforte di Haydn. Ha inoltre realizzato una serie di registrazioni premiate con i Grammy Award con il violoncellista Yo-Yo Ma delle sonate per violoncello e pianoforte di Beethoven e Brahms. Tra le sue altre registrazioni figurano i concerti di Liszt e Schoenberg, tre album dedicati a Brahms da solista, un album di tanghi di Astor Piazzolla e la prima registrazione di Century Rolls di John Adams con la Cleveland Orchestra per la Nonesuch. Nella stagione 2004/05, Ax ha anche contribuito a un documentario della BBC, vincitore di un International Emmy® Award, in memoria dell'Olocausto, andato in onda in occasione del 60° anniversario della liberazione di Auschwitz. Nel 2013, la registrazione Variations di Ax ha ricevuto l'Echo Klassik Award come miglior registrazione solista dell'anno (musica del XIX secolo/pianoforte).
Collaboratore frequente e assiduo nel campo della musica da camera, ha lavorato regolarmente con artisti del calibro di Young Uck Kim, Cho-Liang Lin, Mr. Ma, Edgar Meyer, Peter Serkin, Jaime Laredo e il compianto Isaac Stern.
Il signor Ax risiede a New York con la moglie, la pianista Yoko Nozaki. Hanno due figli, Joseph e Sarah. È membro dell'American Academy of Arts and Sciences e ha ricevuto lauree honoris causa in musica dallo Skidmore College, dalla Yale University e dalla Columbia University.