Geboren te Oklahoma City, Oklahoma. Joseph William Haldeman is een Amerikaanse sciencefictionschrijver. Zijn familie reisde veel en hij leefde als kind in Puerto Rico, New Orleans, Washington D.C. en Anchorage (Alaska). Hij moest als nieuwkomer herhaaldelijk lessen volgen op plaatselijke scholen. Studeerde astronomie aan de Universiteit van Maryland. In het jaar van zijn afstuderen werd hij opgeroepen voor militaire dienst. Hij diende als gevechtsingenieur in de oorlog in Vietnam, raakte gewond tijdens een gevecht en ontving een Purple Heart. Hij had moeite om zich aan te passen aan het burgerleven nadat hij naar huis was teruggekeerd. Zijn oorlogservaring inspireerde zijn debuutroman War Year; zijn latere romans, zoals The Hemingway Hoax en The Forever War, bleven de ervaringen van soldaten in oorlogstijd en na thuiskomst onderzoeken. Joe Haldeman begon in 1983 met doceren aan het MIT. Heeft een graad in Engels. Gaf een cursus creatief schrijven aan de universiteit van Iowa.
Wijdde zich vanaf 1975 volledig aan het schrijven. Zijn roman The Forever War, won zowel de Nebula Award als de Hugo Award. Het boek werd door Belgische striptekenaar Marvano (pseudoniem van Mark van Oppen) omgewerkt tot een striptrilogie. De filmrechten van deze stripversie zijn gekocht door regisseur Ridley Scott, die de rechten van het boek niet kon verkrijgen. De samenwerking tussen de Haldeman en Marvano leverde later een vervolg trilogie op: Een nieuw begin, gebaseerd op Forever free.
In 1965 trouwde Haldeman met Mary Gay Potter, beter bekend als Gay Haldeman. Jack C. Haldeman II, ook een SF-schrijver, is zijn broer.