Родители Эйбрахама иммигрировали из Баварии в 1837г. Эйбрахам был слабого здоровья и мечтал стать скрипачом. С 14-ти лет он начал работать в торговой фирме в Ньюарке за 1 доллар в неделю (вместе с ним там работали Саймон Блумингдейл и Бенджамин Олтман). Когда началась Гражданская война, Эйбрахам убежал в Чикаго, чтобы вступить в армию северян, но отец привёз его обратно.
    В 1865г. вместе с партнёром, Джозефом Векслером, Эйбрахам открыл большой универсальный магазин на Фултон-стрит в Бруклине. Компания, позднее превратившаяся в “Эйбрахам и Страус”, открыла сеть подобных магазинов и процветала в течение десятилетий. Эйбрахам был также видным филантропом, в частности, основал Бруклинскую еврейскую больницу и был её президентом. Был также директором Бруклинского института искусств и наук, попечителем Фонда барона де Гирша.