A dal úgy kezdődik, hogy a narrátor leírja az idős férfi megjelenését:"Öreg, nézd az életemet, nagyon hasonlítok rád." A narrátor a továbbiakban arról beszél, hogy sok mindenen ment keresztül élete során, és sokat tanult tapasztalataiból. Elismeri, hogy nem tökéletes, de igyekszik a tőle telhető legjobbat kihozni.
A narrátor ezután tanácsot kér az öregtől, hogyan élje le életét. Az öreg azt mondja neki, hogy "legyen kedves" és "nyugodjon". Azt is mondja neki, hogy "menjen lassan" és "élvezze az utazást". Az öreg tanácsa egyszerű, de mély, és saját bölcsességét és tapasztalatát tükrözi.
A dal azzal zárul, hogy a narrátor megköszöni az öreg tanácsát. Azt mondja neki, hogy mindig emlékezni fog a szavaira, és megpróbálja az öreg tanítása szerint élni az életét.
Az "Old Man" egy gyönyörű és megrendítő dal az öregedésről és a halandóságról. Emlékeztet arra, hogy mindannyian úton vagyunk, és sokat tanulhatunk azoktól, akik előttünk jártak. A dal egyben az élet ünnepe is, és arra ösztönöz bennünket, hogy amíg lehet, élvezzük a Földön töltött időt.