De jove tocà en grups de swing de l’àrea de Boston i, a la meitat dels anys quaranta, després de pertànyer a l’orquestra de Luis Russell, començà a treballar a Nova York, sobretot amb Lester Young i Charlie Parker. Als anys cinquanta formà part del trio de Sarah Vaughan, i també actuà i enregistrà amb els millors músics de l’època, com ara Bud Powell, Thelonious Monk i Phineas Newborn. Els anys seixanta creà el seu propi conjunt i enregistrà l’àlbum Out of the Afternoon (1962). També col·laborà amb John Coltrane i Chick Corea, entre molts altres. Mantingué un alt nivell creatiu durant tota la seva carrera, que el portà a col·laborar amb els millors músics de totes les generacions.
Bateria de gran personalitat, un dels més influents del jazz, ha estat reconegut per la seva contribució fonamental a l’evolució del llenguatge rítmic del jazz durant més de vuit dècades. Apodat Snap Crackle per la seva sonoritat viva i precisa amb la caixa, destacà per un estil versàtil que abastava des del swing i el bebop fins al jazz d’avanguarda i la fusió.
Publicà àlbums com Fountain of Youth (2004) i Whereas (2006), participà en projectes singulars com la banda sonora de Bird (1988) i prestà la seva veu com a DJ en el videojoc Grand Theft Auto IV (2008). Entre d’altres, fou guardonat amb el Jazzpar Prize (1994), un Grammy a la trajectòria artística (2012) i la Peabody Medal (2012).