Pentru interpretarea sa a lui Charles Lane în Shattered Glass, Sarsgaard a câștigat Premiul Societății Naționale a Criticilor de Film pentru Cel Mai Bun Actor în Rol Secundar și a fost nominalizat la Premiul Golden Globe din 2004 pentru Cel Mai Bun Actor în Rol Secundar. Sarsgaard a apărut într-o gamă eclectică de filme, inclusiv comedia-dramă din 2004 Garden State, filmul biografic Kinsey (2004), drama The Dying Gaul (2005) și filme de buget mare precum Flightplan (2005), Jarhead (2005), The Skeleton Key (2005), Orphan (2009), An Education (2009), Knight and Day (2010), Green Lantern (2011), Lovelace (2013), Night Moves (2013) de Kelly Reichardt, Blue Jasmine (2013), Black Mass (2015) și The Magnificent Seven (2016). Sarsgaard a apărut de asemenea în serialul american The Killing (2013) ca un bărbat aflat pe coridorul morții, poate condamnat pe nedrept pentru uciderea brutală a soției sale—o interpretare pe care el spune că a inclus „unele dintre cele mai bune acte pe care le-am făcut vreodată în viața mea.” În 2021, a avut un rol recurent în miniseria Hulu Dopesick.
Sarsgaard a apărut în producții Off-Broadway, inclusiv Kingdom of Earth, Laura Dennis, Burn This și Uncle Vanya. În septembrie 2008, a debutat pe Broadway ca Boris Alexeyevich Trigorin în The Seagull. Este căsătorit cu actrița Maggie Gyllenhaal.