Народився на початку весни 1923 року у місті Бруклін (США) в сім’ї євреїв-росіян за походженням. Батьки – Азек і Анна Геллер. Ще з дитячих років привчався писати. Навчався в школі Авраама Лінкольна, яку закінчив в 1941 році. Працював на різних робота: помічник коваля, кур’єр, клерк. У 1942 році вступає в лави ВПС США. В Італії ним було здійснено понад шістдесят бойових вильотів бомбардувальником В-25.
Навчався в Колумбійському університеті і здобув ступінь магістра мистецтв у 1949 році. З 1949 по 1950 роки – в Оксфордському університеті займається науковою роботою з стипендіальної програми Фулбрайта. З 1950 – 1952 роки – викладацька діяльність в Пенсільванському університеті. З 1952 по 1958 працює над написанням текстів до реклами в журналах «Тайм» та «Есквайр», рекламним агентом «Макколсу».
У 1961 році – займається проведенням таких творчих семінарів як літературна проза та драматургія спочатку в Єльському університеті (штат Пенсільванія). У 1953 році – розпочинає роботу над романом «Пастка-22» (антивоєнний жанр ) поруч з «Веселкою тяжіння» Пінчона та «Бійнею номер пять, або Хрестовим походом дітей» Воннегута, дружба з яким почалася у 1968 році. У 1970 році режисер Майкл Ніколс поставив екранізацію фільму на основі роману Геллера. А 1994 року роман був продовжений, але з іншою назвою «Лавка зачиняється». У творчий доробок митця увійшли романи, п’єси, серед них можна виділити такі: «Щось сталось» (написана 1974 року), у 1979 – «Чисте золото», 1984 – «Господу відомо», 1988 – «Уяви собі картину».
Ще до цих творів ним була зроблена п’єса «Ми бомбили Нью-Хайвен», закінчує цей літературний цикл книга, написана у співавторстві з Фогелем «Це не жарт» 1986 року. У 1998 році зявляється його автобіографічна книга «Час від часу». Відомий американський літератор Джозеф Геллер страждав важкою хворобою серцевої недостатності. Помер у власному будинку взимку 1999 року в місті Лонг-Айленд.
Після його смерті у 2000 році вийшов опублікований роман «Портрет художника в старості».
Пегас