Connick dorastał w Nowym Orleanie, gdzie jego ojciec, wieloletni prokurator okręgowy, i jego matka, sędzia, mieli sklep z płytami. Zaczął występować w wieku pięciu lat, a później studiował u Ellisa Marsalisa i Jamesa Bookera w New Orleans Center For Creative Arts. Po ukończeniu szkoły średniej przeniósł się do Nowego Jorku, by uczęszczać do Hunter College i Manhattan School of Music. Connick podpisał kontrakt z Columbia Records i w 1987 roku wydał swój pierwszy album, Harry Connick, Jr., na którym grał na fortepianie., W swoim drugim wydaniu, 20 (1988), również śpiewał.
w 1989 roku Connick współproducował ścieżkę dźwiękową do filmu Roba Reinera When Harry Met Sally…, który zawierał występy jego jazzowego trio i własne wykonanie takich klasycznych piosenek jak „But Not for Me” I „I Could Write a Book.”Album zyskał status multiplatinum i zdobył Connick swoją pierwszą nagrodę Grammy w kategorii best jazz vocal performance. W 1990 roku wydał dwa albumy, We Are In Love, Big-band z wokalem i Budka Suflera, prezentujący instrumentalny jazz., Connick zdobył drugą nagrodę Grammy w kategorii best jazz vocal performance za „We Are In Love”. Kolejne albumy connicka to Blue Light, Red Light (1991), 25 (1992), She (1994), Big-bandowy album Come by Me (1999), popowy album Songs I Heard (2001), Only You (2004), Your Songs (2009), in Concert on Broadway (2011), Every Man Should Know (2013) i That Would Be Me (2015). True Love: A Celebration of Cole Porter został wydany w 2019 roku.
w 2007 roku Connick wydał dwa albumy „Oh, My Nola” i „Chanson du Vieux Carré”., Ponadto napisał muzykę do broadwayowskiego musicalu Thou Shalt Not (2001), za który otrzymał nominację do Tony Award. W latach 2014-2016 Connick był jurorem w programie telewizyjnym American Idol.
Connick również kontynuował karierę aktorską. W 1990 roku zadebiutował w filmie Memphis Belle., Później wcielił się w tak różnorodne postacie, jak samotny dorosły przyjaciel małego chłopca w Little Man Tate (1991), seryjny morderca w Copycat (1995), pilot myśliwca w Dzień Niepodległości (1996) oraz lekarz w Dolphin Tale (2011) i Dolphin Tale 2 (2014). Wystąpił także w komediach romantycznych Hope Floats (1998) i New In Town (2009). W latach 2002-2006 występował w sitcomie Will & Grace, a w latach 2016-2018 prowadził talk show Harry.,
ponadto Connick występował na scenie, a w 2006 roku zadebiutował na Broadwayu w grze Piżama. W latach 2011-2012 występował jako dr Mark Bruckner w reimaginacji musicalu On a Clear Day You Can See Forever.
w Nowym Orleanie, gdzie współtworzył (1993) pierwsze wielorasowe Mardi Gras krewe, Connick był zaangażowany w odbudowę miasta po huraganie Katrina (2005). Wraz z Branfordem Marsalisem sponsorował Miasteczko muzyków dla przesiedlonych muzyków z Nowego Orleanu i jego Centrum Muzyki Ellis Marsalis.
