Najstaršie dôkazy o karnatskej hudbe možno nájsť v hudobných tradíciách starých Tamilov. Starovekí Tamilovia vyvinuli hudobný systém nazývaný Tamizh Isai, ktorý bol založený na sedemtónovej stupnici (Saptha Swaras) a používal rôzne hudobné nástroje vrátane yazh (strunový nástroj) a kudam (bicie nástroje). Tamizh Isai sa používal na náboženské obrady a kultúrne vystúpenia.
Karnatická hudba sa neskôr rozvinula pod vplyvom hinduistického náboženstva a pod patronátom vládnucich dynastií južnej Indie. V 14. storočí vznikla ríša Vidžajanagara ako mocné kráľovstvo v južnej Indii a stalo sa hlavným centrom rozvoja karnatskej hudby. Vijayanagarskí vládcovia boli veľkými patrónmi hudby a tanca a podporovali rast hudobných škôl a inštitúcií. Objednali tiež zloženie mnohých nových hudobných diel, vrátane kritis, swaras a jathis.
Počas 17. a 18. storočia karnatská hudba prekvitala pod vládou Maratha Empire a Mysoreského kráľovstva. Vládcovia Maratha boli veľkými znalcami hudby a tanca a na svojich dvoroch podporovali rast karnatickej hudby. Vládca Mysore Krishnaraja Wodeyar III bol veľkým patrónom hudby a tanca a objednal si zloženie mnohých nových hudobných diel.
V 19. storočí sa karnatická hudba dostala do kontaktu so západnou hudbou v dôsledku britskej kolonizácie Indie. Niektorí karnatskí hudobníci začali do svojej hudby začleňovať západné prvky, ako napríklad používanie klavíra a huslí. Karnatická hudba si však zachovala svoj tradičný charakter a naďalej vychádzala zo sedemnovej stupnice a používania rág a talasov.
Dnes je karnatická hudba prosperujúcou formou umenia a hrajú ju hudobníci po celom svete. Je považovaný za jeden z najsofistikovanejších a najkomplexnejších hudobných systémov na svete a je obdivovaný pre svoju krásu, emocionálnu hĺbku a duchovný význam.