Legfigyelemreméltóbb munkája a Cannonball Adderley Quintettel volt az 1970-es években, de számos más jelentős jazz zenésszel is dolgozott, köztük Thelonious Monkkal, Miles Davis-szel, Dizzy Gillespie-vel, Dexter Gordonnal és Herbie Hancockkal.
A mellékemberként végzett munkája mellett Poole több szólóalbumot is kiadott, köztük a "The Essence of John Poole" (1977), a "Sweet Lucy" (1978) és a "Blue Planet Man" (1980).
Poole zeneszerző és hangszerelő is, és írt zenét filmekhez és televízióhoz. Jazzt és latin ütőhangszereket is tanított a Dél-Kaliforniai Egyetemen és a California Institute of the Arts-on.
Poole 2004-ben és 2005-ben megkapta a Jazz Journalists Association "Az év dobosa" díját, emellett tagja a National Academy of Recording Arts and Sciences (NARAS)-nak is.