A philadelphiai születésű Tyner olyan zongoristák mellett, mint Bill Evans, Herbie Hancock, vagy Chick Corea a modern jazz alakítója volt. Karrierje 1960-ban indult, amikor a világhírű szaxofonos, John Coltrane megalakítja kvartettjét, amiben Tyner az egyik meghatározó személyiség. Azért esik rá Coltrane választása, mert Tyler már az ötvenes évek végén lemezre veszi Clotrane több szerzeményét. 1960 és 1966 között a kvartettel turnézik és készít mára klasszikussá váló lemez felvételeket, az Impulse kiadónál. E korszakból az 1964-es “A Love Supreme,” minden idők egyik legkiemelkedőbb és legnagyobb hatású jazz albuma. Érdemes megemlíteni, hogy a kvartett dobosa Elvin Jones, bőgőse Jimmy Garrison. A kvartettnek Tyner volt az utolsó élő tagja.

1966-ban megalakítja saját trióját, és a Bluer Note kiadónál készít post-bob stílusú albumokat. E korszakából az 1968-ban kiadott “Expansions” album a legfigyelemreméltóbb. Legendáját a hetvenes évek elején kezdi kiépíteni. Az 1972-ben kiadott “Sahara” c. dal, amelyben a zongora mellett fuvolán is játszik, anyagilag is nagy siker. Az Atlantis kiadónál 1974-ben megjelent “Enlightenment” c. albumával bebetonozza magát a világ legjobb és leghaladóbb jazz előadói közé. A hetvenes évek végén Billy Cobham dobossal dolgozik. Első Grammy díját az 1987-es “Blues for Coltrane” c. szerzeményéért kapja, 12-szer jelölik erre a díjra, amit ötször el is nyer. 2005-ben a világhírű zeneakadémia, a Berklee College díszdoktorává választják. A Variety zenei magazin azt írja róla, hogy „mint ember, csendes, közvetlen, de visszahúzódó volt, egyedül akkor nyílt meg, amikor a zongora mellett ült, mert lelkét teljes egészében a zene töltötte ki.” 2020. március 6-án New Jersey-ben lévő otthonában érte a halál.