Pieseň sa začína tým, že rozprávač opisuje vzhľad starého muža:"Starý muž, pozri sa na môj život, som veľmi podobný tebe." Rozprávač ďalej rozpráva o tom, ako toho v živote veľa prežil a veľa sa zo svojich skúseností naučil. Uznáva, že nie je dokonalý, no snaží sa robiť to najlepšie, čo vie.
Rozprávač potom požiada starého muža o radu, ako má žiť svoj život. Starý muž mu hovorí, aby „bol láskavý“ a „upokoj sa“. Tiež mu hovorí, aby „šiel pomaly“ a „užíval si jazdu“. Rada starého muža je jednoduchá, ale hlboká a odráža jeho vlastnú múdrosť a skúsenosti.
Pieseň končí tým, že rozprávač poďakuje starcovi za radu. Povie mu, že si jeho slová vždy zapamätá a bude sa snažiť žiť svoj život podľa starcovho učenia.
"Old Man" je krásna a dojemná pieseň o starnutí a smrteľnosti. Je to pripomienka toho, že sme všetci na ceste a že sa môžeme veľa naučiť od tých, ktorí prišli pred nami. Pieseň je tiež oslavou života a povzbudzuje nás, aby sme si užili čas na Zemi, kým môžeme.