O'Loughlin s-a născut pe 24 august 1976, în Canberra, Australia, având descendență irlandeză și scoțiană. Tatăl său este profesor de fizică și astronomie în Sydney, iar mama sa este asistentă medicală.
O'Loughlin a suferit de tulburare obsesiv-compulsivă când era copil. S-a înscris la Institutul Național de Artă Dramatică (NIDA) din Sydney în 1999 și a absolvit în iunie 2002, după ce a finalizat un program de licență în Artă Dramatică de trei ani, cu normă întreagă.
O'Loughlin a început să lucreze în scurtmetraje și teatru de nișă ca adolescent în Sydney. Una dintre primele sale slujbe de actor a fost ca figurant într-o reclamă, jucând un marinar. După absolvirea NIDA (Institutul Național de Arte Dramatică), și-a început cariera în producții de televiziune și film australiene. Unele dintre creditele sale TV includ roluri în BlackJack: Sweet Science, Love Bytes și White Collar Blue.