Ha avuto un’adolescenza difficile, dopo aver perduto il padre all’età di nove anni, e a tredici ha iniziato a commettere furti, tanto da finire per qualche tempo in riformatorio.
Ha trascorso gran parte degli anni Cinquanta in carcere, inclusi tre anni di detenzione a San Quentin per rapina a mano armata. Durante quest’ultima detenzione ha potuto ascoltare Johnny Cash in una celeberrima esibizione all’interno del carcere, e al suo rilascio (nel 1960) si è dedicato seriamente alla musica, alternandola inizialmente col lavoro di manovale.
Tra le sue ispirazioni, oltre a Cash, vi è un famoso esponente dell’Honky tonk come Lefty Frizzell, ma Haggard riconosce anche l’influenza di personaggi come Bob Wills e Jimmie Rodgers.
Tra i suoi brani più famosi vi sono Okie from Muskogee e Workin’ Man Blues, entrambi del 1969. Ha portato 40 diversi brani al primo posto delle classifiche statunitensi di vendita.