За два года до рождения Джошуа его родители эмигрировали в Америку из тогдашней Палестины. Окончив школу в Нью-Йорке, Ледерберг начал изучать зоологию в Колумбийском университете и в возрасте 19 лет получил степень бакалавра с отличием. Затем он поступил в медицинскую школу Колледжа врачей и хирургов Колумбийского университета, а в 1944г. перешёл в Йельский университет и продолжил учёбу и исследовательскую работу под руководством микробиолога Эдуарда Тейтема.
    В 1947г. Ледерберг стал профессором генетики в Висконсинском университете и продолжил исследования по генетической рекомбинации бактерий. В следующем году он получил докторскую степень по микробиологии от Йельского университета. Ледерберг разработал специальный метод изоляции мутантов того или иного вида бактерий с помощью ультрафиолетовых лучей. Он доказал, что мутации происходят спонтанно, и тем самым подтвердил прежде существовавшую гипотезу в эволюционной генетике. Эта работа привела к открытию одного из типов рекомбинации у бактерий - конъюгации.
    Ледерберг совместно с Нортоном Зиндером открыл в 1952г. феномен трансдукции - направленного переноса умеренным фагом информации от бактерии-донора к бактерии-реципиенту. В следующем году этот феномен был продемонстрирован на сальмонеллах. Опыты по трансдукции положили начало работам по картированию генов. В 1957г. Ледербергу было поручено организовать и возглавить кафедру генетики в Висконсинском университете. Перед тем как приступить к новым обязанностям, он благодаря стипендии, учреждённой Фондом Фулбрайта, смог провести исследования в Мельбурнском университете в Австралии.
   В 1958г. Ледербергу была присуждена Нобелевская премия по физиологии и медицине "за открытия, касающиеся генетической рекомбинации и организации генетического материала у бактерий". Вторая половина премии была присуждена Дж. Бидлу и Э. Тейтему "за открытия, касающиеся роли генов в биохимических процессах".
    В 1962г. Ледерберг стал директором лаборатории молекулярной медицины в Станфордском университете. Кроме того, он был консультантом космической программы "Викинг" (проекта космического полёта на Марс) и советником Всемирной Организации Здравоохранения по биологическому оружию и возможным последствиям биологической войны.
    В 1978 г. Ледерберг ушёл из Станфордского университета и стал ректором Рокфеллеровского университета. Кроме работ по генетике, он написал много статей, посвящённых биологическим наукам и будущему человека как вида. Ледерберг обладает почётными степенями Йельского, Колумбийского, Нью-Йоркского и Туринского университетов, является членом Национальной академии наук США, Американского химического общества и Американского общества генетиков. В 1979г. он был избран иностранным членом Лондонского королевского научного общества.

Вне Нью-Йорка

- Мемориальная доска в честь Ледерберга установлена в Висконсинском университете (г. Мэдисон).

- Памятный знак установлен на Бульваре Нобелевских Лауреатов в Ришон ле-Ционе, Израиль.