Duvall a început să apară pe scenă la sfârșitul anilor 1950, trecând la roluri în televiziune și film la începutul anilor 1960, interpretându-l pe Boo Radley în Să ucizi o pasăre cântătoare (1962) și apărând în Captain Newman, M.D. (1963), ca maiorul Frank Burns în comedia de succes M*A*S*H (1970) și în rolul principal din THX 1138 (1971), precum și în adaptarea lui Horton Foote a lucrării lui William Faulkner, Tomorrow (1972), care a fost dezvoltată la The Actors Studio și este preferata sa personală. Aceasta a fost urmată de o serie de interpretări apreciate de critici în filme de succes comercial.
A jucat în numeroase filme și serii de televiziune, inclusiv The Twilight Zone (1963), The Outer Limits (1964), The F.B.I. (1966), Bullitt (1968), True Grit (1969), Joe Kidd (1972), Nașul (1972), Nașul Partea II (1974), The Conversation (1974), Network (1976), Apocalypse Now (1979), The Great Santini (1979), Tender Mercies (1983) (care i-a adus Premiul Oscar pentru Cel mai bun actor), The Natural (1984), Colors (1988), Lonesome Dove (1989), The Handmaid's Tale (1990), Days of Thunder (1990), Rambling Rose (1991), Falling Down (1993), Secondhand Lions (2003), The Judge (2014) și Widows (2018).