Jones s-a născut în Buffalo, New York, și a studiat actorie la Putney School, London Academy of Music and Dramatic Art și Lawrence University. A început cariera sa de actor în roluri mici în film și televiziune în anii 1970. În cele mai cunoscute roluri ale sale ca Împăratul Joseph II în Amadeus, Charles Deetz în Beetlejuice și Edward R. Rooney în Ferris Bueller's Day Off, expresia sa impasibilă și fața sa distinctivă aduc o notă comică personajelor sale prin reacțiile lor la situațiile în care se află, mai mult decât umorul din replicile scrise.
Jones a avut, de asemenea, o carieră de succes pe scenă, apărând în producții precum The Crucible, The Importance of Being Earnest și The Glass Menagerie. A fost nominalizat la două premii Tony, pentru Cel mai bun actor în rol secundar într-o piesă pentru interpretarea sa din The Crucible (1988) și pentru Cel mai bun actor în rol secundar într-un musical pentru interpretarea sa din The Secret Garden (1991).
În 2002, Jones a fost arestat sub acuzația de pornografie infantilă. A pledat vinovat pentru o acuzație de posesie de pornografie infantilă și a fost condamnat la doi ani de probă.