Anderson Philadelphiában, Pennsylvaniában született 1902-ben. Korán kezdett templomban énekelni, és nagy tehetségről tett tanúbizonyságot. Zenei tanulmányait a Philadelphiai Zenei Akadémián, majd a New York-i Juilliard Schoolon végezte. 1925-ben New Yorkban debütált szakmailag.
Anderson karrierje kezdettől fogva sikeres volt. Bejárta az Egyesült Államokat és Európát, és fellépett a világ legrangosabb koncerttermeiben. Több albumot is rögzített és több filmben is szerepelt.
Sikerei ellenére Anderson jelentős faji megkülönböztetéssel szembesült karrierje során. Gyakran megtagadták tőle a lehetőséget, hogy bizonyos helyszíneken fellépjen a versenye miatt. 1939-ben a washingtoni Constitution Hallban kellett volna fellépnie, de a terem tulajdonosa az Amerikai Forradalom Lányai (DAR) nem engedte, hogy fellépjen faji hovatartozása miatt. Ez a döntés országos felháborodást váltott ki, és Anderson végül koncertet adott a Lincoln Memorial lépcsőjén.
Anderson koncertje a Lincoln Memorialban jelentős fordulópont volt a polgárjogi mozgalomban. Segített felhívni a nemzeti figyelmet a faji szegregáció kérdésére, és az egyenlő jogokért való küzdelemre inspirálta az embereket. Anderson egész életében fellépett, és a remény és a bátorság szimbólumává vált az afroamerikaiak számára.
Andersont számos kitüntetésben és kitüntetésben részesítették munkásságáért, köztük az Elnöki Szabadságérmet, amely a legmagasabb civil kitüntetés az Egyesült Államokban. 1993-ban halt meg Portlandben, Oregon államban.