Wilson 1947. június 23-án született a dél-dakotai sziú indián rezervátumban. Egy telivér sziú nő és egy ír apa fia volt. Wilson a rezervátumban nevelkedett, és fiatalon kezdett gitározni. Hatással voltak rá népének hagyományos zenéje, valamint az 1950-es, 1960-as évek rock and rollja.
A középiskola után Wilson a minnesotai Minneapolisba költözött. ahol megalapította a Sugarloaf nevű zenekart sógorával, Craig Fullerrel és énekes-dalszerző társával, Michael Omartiannal.
A csoport sikereket ért el, és két albumot is rögzített az RCA Records számára, mielőtt 1971-ben feloszlott.
A Sugarloaf felbomlása után , Wilson a kaliforniai Los Angelesbe költözött, ahol megalakította a Pure Prairie League-et 1972-ben.
A banda gyorsan követőkre tett szert, és az 1970-es években számos sikeres albumot adtak ki.
A legnépszerűbb dalaik közé tartozik az "Amie" , „Bukott angyalok” és " Let Me Love You Tonight ".
1979-ben Wilson otthagyta a Pure Prairie League-et, hogy szólókarrierbe kezdjen.
Két szólóalbumot adott ki, "Jeff Wilson" címmel (1981) és "Soha ne légy ugyanaz" (1983), de nem voltak olyan sikeresek, mint a Pure Prairie League-ben végzett munkája.
Wilson az 1980-as és 1990-es években folytatta a turnét és fellépést, de az 1980-as évek végén egészsége romlani kezdett. Torokrákot diagnosztizáltak nála, és több kezelésen is átesett.
1991. december 12-én Jeff Wilson torokrákban halt meg, 44 évesen .
Felesége, két lánya és két fia maradt.