Bolin az iowai Sioux Cityben született. Hatévesen kezdett gitározni, 17 évesen pedig professzionálisan helyi zenekarokban játszott. 1969-ben csatlakozott a Zephyr együtteshez, amely két albumot adott ki, mielőtt 1971-ben feloszlott. Bolin ezután csatlakozott a James Ganghoz, Joe Walsh helyére. Három albumot vett fel a bandával, mielőtt 1973-ban kilépett.
1975-ben Bolin csatlakozott a Deep Purple-hez, Ritchie Blackmore helyére. Egy albumot rögzített a bandával Come Taste the Band címmel, mielőtt 1976-ban távozott. Bolin 25 évesen, 1976. december 4-én kábítószer-túladagolásban halt meg a floridai Miami Beachen.
Bolin magasan képzett gitáros volt, akire számos zenész hatott, köztük Jimi Hendrix, Eric Clapton és Jeff Beck. Folyékony játékstílusáról, valamint összetett dallamok és szólók létrehozásának képességéről volt ismert. Tehetséges dalszerző és énekes is volt.
Bolin halála nagy veszteség volt a zenei világ számára. Tehetséges zenész volt, aki képes volt generációja egyik legnagyobb gitárosává válni.