เจค จิลเลนฮาล เคยมีผลงานแสดงร่วมกับบรรดานักแสดงที่เป็นที่ยอมรับนับถืออย่างมากของวันนี้ อย่างเช่น ดัสติน ฮอฟแมน, ลอร่า เดิร์น, ฮอลลี่ ฮันเตอร์, คริส คูเปอร์, จอห์น ซี. เรลลี และซูซาน ซาแรนดอน จิลเลนฮาลเคยแสดงในภาพยนตร์ซึ่งมีบทดัดแปลงมาจากละครที่ได้รับรางวัลพุลลิทเซอร์ เรื่อง Proof ให้กับผู้กำกับฯ จอห์น แมดเดน ร่วมแสดงโดย กวินเน็ธ พัทโธรล และแอนโทนี ฮอพกินส์ เขายังได้รับบทแจ็คที่ทุกคนหมายตาในภาพยนตร์ดัดแปลงเรื่อง Broken Mountain ซึ่งเป็นเรื่องราวความสัมพันธ์ที่แน่นแฟ้นระหว่างสองหนุ่มชาวไวโอมิ่ง กำกับฯ โดยอังลี ร่วมแสดงโดย ฮีธ เลดเจอร์
จิลเลนฮาลได้รับการเสนอชื่อเข้าชิงรางวัล Independent Spirit Award สาขา Best Male Lead ในภาพยนตร์เรื่องดัง Donnie Darko ผลงานยอดนิยมของ Sundance Film Festival ซึ่งผสมผสานองค์ประกอบของแฟนตาซีและไซไฟเข้ากับความรักวัยรุ่น กำกับฯโดยริชาร์ด เคลลี่ เรื่อง Donnie Darko ร่วมแสดงโดยดรูว์ แบรี่มอร์, เจน่า มาโลน และโนอาห์ ไวล์
เขายังได้แสดงในหนังเรื่องฮิตของ Sundance เมื่อปี 2002 ภาพยนตร์ของ Fox Searchlight เรื่อง The Good Girl ซึ่งได้รับการเสนอชื่อเข้าชิงสี่รางวัลจาก 2003 Independent Spirit Award ในหนังดาร์กคอมเมดี้เรื่องนี้เขาได้รับบทชายหนุ่มที่ตกหลุมรัก และมีความสัมพันธ์ลึกบ้ำกับหญิงที่แต่งงานแล้ว ซึ่งรับบทโดยเจนนิเฟอร์ อนิสตัน กำกับฯ โดยมิกูเอล อาร์เทต้า และร่วมแสดงโดย จอห์น ซี เรลลี, ซูอี้ เดสแชแนล และแคธรีน โอฮาร์รา ภาพยนตร์เรื่องนี้จัดจำหน่ายโดย Fox Searchlight
ช่วงใบไม้ร่วงปี 2002 เขาได้แสดงในหนังเรื่อง Moonlight Mile เขียนบทและกำกับฯโดยแบรด ซิเบอลิงก์ เดินเรื่องในนิวอิงแลนด์ในช่วงต้นทศวรรษ 70 เรื่องของความรักที่เป็นไปไม่ได้ของหนุ่มน้อยที่ผูกพันกับบ้านของครอบครัวคู่หมั้นสาวของเขาที่เสียชีวิตไปก่อนวัยอันควร ในขณะที่ร่วมเศร้าโศกไปกับพ่อแม่ของเธอ ซึ่งรับบทโดยดัสติน ฮอฟแมน และซูซาน ซาแรนดอน เขากลับต้องเข้าไปยุ่งเกี่ยวกับเรื่องของกฎหมายที่ได้รับการดูแลโดยทนายท้องถิ่น (ฮอลลี่ ฮันเตอร์) ที่เรียกร้องเพื่อหาความยุติธรรมให้กับครอบครัวของเขา และได้พบว่าตัวเองกลับไปตกหลุมรักกับหญิงสาวอีกคน ซึ่งเป็นสิ่งที่ตรงข้ามกับความตั้งใจแต่แรกของเขา
ผลงานเรื่องแรกบนเวทีละครของจิลเลนฮาลคือการแสดงในบทนำของละครลอนดอนที่ถูกนำมาทำใหม่ โดยเคนเน็ธ โลเนอแกรน เรื่อง This Is Our Youth ละครเรื่องนี้ได้รับการวิจารณ์อย่างมากในบรอดเวย์ เปิดแสดงนานถึงแปดอาทิตย์ที่ West End ในลอนดอน เขาได้รับบทเศรษฐีเด็กที่ใช้เวลาช่วงสุดสัปดาห์ในการขโมย ซื้อขายและเสพยา ร่วมกับเฮย์เดน คริสเตนเซน และแอนนา พาควิน สำหรับบทนี้จิลเลนฮาาลได้รับรางวัล Evening Standard Theater Award ในประเภท Outstanding Newcomer
เขาได้รับคำชมอย่างมากจากนักวิจารณ์ในผลงานภาพยนตร์เรื่อง October Sky กำกับฯโดยโจ จอห์นสตัน เรื่องราวชัยชนะของโฮเมอร์ ฮิคแมน จูเนียร์ (จิลเลนฮาล) เป็นนักเรียนมัธยมที่มีพรสวรรค์ของแถบเวสท์เวอร์จิเนีย ซึ่งเหมือนถูกลิขิตชีวิตให้เดินตามรอยเท้าพ่อในการเป็นคนทำงานในเหมือง จนกระทั่งได้เปลี่ยนความสนใจไปสู่ฟ้าเบื้องบน