Olsson az angliai Cheshire állambeli Wallaseyben született. 12 évesen kezdett dobolni, és számos helyi bandában játszott, mielőtt 1970-ben csatlakozott a John's bandához. Azóta John összes stúdióalbumán játszott, és sokat turnézott is vele.
Johnnal végzett munkája mellett Olsson más előadóknak is dobolt, köztük George Harrisonnak, Ringo Starrnak és Stevie Wondernek. Két szólóalbuma is megjelent, a "Nigel Olsson" (1975) és a "Move the Universe" (1980).
Olssont a rock and roll egyik legjobb dobosának tartják. Jól ismert időmérőjéről, erőteljes dobolásáról, és arról, hogy képes beleolvadni a banda többi hangszerébe. Bekerült a Modern Drummer Hall of Fame és a Rock and Roll Hírességek Csarnokába.