Refrén opakuje líniu „Smoke on the water“, aby vytvoril živý obraz dymu stúpajúceho nad jazerom, ktorým je Ženevské jazero. V piesni sa spomína aj herňa kasína Montreux a ako „horela ako pes“. Medzi ďalšie pozoruhodné vety patrí „Všetci sme vyšli do Montreux na brehu Ženevského jazera“, „Funky Claude behal dnu a von a ťahal deti zo zeme,“ odkazujúc na majiteľa podniku Claude Nobsa, ktorý pomáhal pri záchrane, a „Keď prišiel ticho si to všetko pamätáme, na časy dávno minulé, ktoré sme volali domov,“ premýšľajúc o následkoch a spomienkach na tú noc.
Pieseň sa stala jedným z najúspešnejších a najznámejších hitov Deep Purple a v priebehu rokov ju prekrylo množstvo ďalších interpretov.