A karnatikus zene legkorábbi bizonyítékai az ókori tamil nép zenei hagyományaiban találhatók. Az ókori tamilok kifejlesztették a Tamizh Isai nevű zenei rendszert, amely a héthangos skálán (Saptha Swaras) alapult, és különféle hangszereket használt, köztük a yazh-t (húros hangszer) és a kudamot (ütőhangszer). A Tamizh Isai-t vallási szertartásokhoz és kulturális előadásokhoz használták.
A karnatikus zene később a hindu vallás és a dél-indiai uralkodó dinasztiák védnöksége alatt fejlődött ki. A 14. században a Vijayanagara Birodalom hatalmas királysággá alakult Dél-Indiában, és a karnatikus zene fejlődésének fő központjává vált. A Vijayanagara uralkodók a zene és a tánc nagy pártfogói voltak, és ösztönözték a zenei iskolák és intézmények növekedését. Számos új zenei mű megalkotását is megrendelték, köztük kritis, swaras és jathis.
A 17. és 18. században a karnatikus zene virágzott a Maratha Birodalom és a Mysore Királyság uralma alatt. A Maratha uralkodói a zene és a tánc nagy ismerői voltak, és udvaraikban ösztönözték a karnatikus zene növekedését. A Mysore uralkodója, Krishnaraja Wodeyar III a zene és a tánc nagy mecénása volt, és sok új zenemű megalkotását bízta meg.
A 19. században a karnatikus zene India brit gyarmatosítása miatt került kapcsolatba a nyugati zenével. Néhány karnatikus zenész nyugati elemeket kezdett beépíteni zenéjébe, például a zongorát és a hegedűt. A karnatikus zene azonban megőrizte hagyományos jellegét, és továbbra is a héthangos skálán, valamint a ragák és talák használatán alapult.
Ma a Carnatic zene virágzó művészeti forma, és zenészek adják elő a világ minden tájáról. A világ egyik legkifinomultabb és legösszetettebb zenei rendszereként tartják számon, szépségéért, érzelmi mélységéért és spirituális jelentőségéért csodálják.