Connick è cresciuto a New Orleans, dove suo padre, un procuratore distrettuale di lunga data, e sua madre, un giudice, possedevano un negozio di dischi. Ha iniziato ad esibirsi quando aveva cinque anni e in seguito ha studiato con Ellis Marsalis e James Booker al New Orleans Center for Creative Arts. Dopo il liceo si trasferisce a New York City per frequentare Hunter College e la Manhattan School of Music. Connick firmò un contratto con la Columbia Records e nel 1987 pubblicò il suo primo album, Harry Connick, Jr., in cui suonava il pianoforte., Nel suo secondo sforzo, 20 (1988), ha anche cantato.
Nel 1989 Connick coprodusse la colonna sonora del film di Rob Reiner When Harry ti presento Sally included, che includeva esibizioni del suo trio jazz e la sua interpretazione di canzoni classiche come “But Not for Me” e “I Could Write a Book.”L’album è diventato multiplatino e ha guadagnato Connick il suo primo Grammy Award, per la migliore performance vocale jazz. Nel 1990 ha pubblicato due album, We Are in Love, un suono big-band con voce, e Roach Soufflé di Lofty, in mostra il jazz strumentale., Connick ha vinto un secondo Grammy Award per la migliore performance vocale jazz per We Are in Love. I successivi album di Connick includevano Blue Light, Red Light (1991), 25 (1992), She (1994), l’album big-band Come by Me (1999), il Grammy Award-winning pop album Songs I Heard (2001), Only You (2004), Your Songs (2009), In Concert on Broadway (2011), Every Man Should Know (2013), e That Would Be Me (2015). True Love: A Celebration of Cole Porter è stato rilasciato in 2019.
Nel 2007 Connick ha pubblicato due omaggi alla sua città natale, Oh, My Nola e Chanson du Vieux Carré., Inoltre, ha scritto la colonna sonora del musical di Broadway Thou Shalt Not (2001), per il quale ha ricevuto una nomination al Tony Award. Nel 2014-16 Connick è stato giudice del programma televisivo American Idol, avendo già fatto da mentore ai concorrenti nel 2010.
Connick ha anche perseguito una carriera di attore. Nel 1990 ha fatto il suo debutto cinematografico a Memphis Belle., In seguito ha interpretato personaggi così diversi come l’amico adulto di un ragazzino solitario in Little Man Tate (1991), un serial killer in Copycat (1995), un pilota di caccia hotshot in Independence Day (1996) e un dottore in Dolphin Tale (2011) e Dolphin Tale 2 (2014). Ha anche recitato nelle commedie romantiche Hope Floats (1998) e New in Town (2009). Il suo lavoro televisivo ha incluso un ruolo ricorrente (2002-06; 2017) nella sitcom Will & Grace, e nel 2016-18 ha ospitato il talk show diurno Harry.,
Inoltre, Connick si è esibito sul palco e nel 2006 ha fatto il suo debutto a Broadway nel gioco del pigiama. Nel 2011-12 è apparso come Dr. Mark Bruckner in una rivisitazione del musical On a Clear Day You Can See Forever.
A New Orleans, dove ha cofondato (1993) il primo Mardi Gras krewe multirazziale, Connick è stato coinvolto nella ricostruzione della città dopo l’uragano Katrina (2005). Lui e Branford Marsalis sponsorizzarono il Musicians ‘ Village for displaced New Orleans musicians e il suo Ellis Marsalis Center for Music.