S’inicià en el piano durant la infància. Als nou anys quedà cec, però seguí estudiant música i piano, incloent-hi diversos instruments de vent, en una escola per a invidents. Més tard ho feu a l’American Conservatory de Chicago. Durant un temps fou clarinetista en una orquestra d’estil Dixieland.
El 1946 es traslladà a Nova York, on tocà amb Charlie Parker i Dizzy Gillespie, entre altres músics. Poc després formà un sextet i enregistrà algunes peces. A partir del 1950 reduí la seva activitat interpretativa i es dedicà principalment a la docència. Les seves teories tingueren una gran repercussió en el desenvolupament del cool.
Fou la figura central d’un subgrup estilístic del be-bop que incloïa els seus deixebles Lee Konitz, Warne Marsh, Billy Bauer i Sal Mosca, entre d’altres. Com a instrumentista es prodigà poc, i el seu estil es caracteritzà per un gran rigor formal. Els escassos enregistraments comercials que dugué a terme, entre els quals destaca The New Tristano (1961), mostren les seves experimentacions pioneres amb el contrapunt, els compassos d’amalgama, la improvisació col·lectiva lliure i les pistes de gravació sobreposades.
L’any 1965 feu una gira europea i el 1968 aparegué per darrera vegada en públic. Després de la seva mort se’n reeditaren antics àlbums i els seus alumnes comercialitzaren enregistraments del mestre que ells mateixos havien fet.