Хиллман учился в хедере, с 14 лет - в ешиве в Ковно (ныне Каунас). Примкнул к подпольному кружку Бунда; в апреле 1905г. за участие в антиправительственной демонстрации был брошен в тюрьму, где провел полгода. Выйдя по амнистии на свободу, продолжил революционную деятельность. В октябре 1906г., когда революция пошла на спад, уехал в Великобританию, а через год - в США. Работал в Чикаго упаковщиком, кладовщиком, несколько месяцев был безработным.

    Устроившись в 1909г. на швейную фабрику, Хиллман быстро стал здесь одним из рабочих лидеров, а в 1910г. - предводителем забастовки, результатом которой явилось соглашение, предусматривавшее, в частности, создание первого в стране арбитражного совета по трудовым конфликтам. В 1911г. он возглавил созданное на этом предприятии отделение Объединённого союза рабочих швейной промышленности - профсоюза, в котором преобладали евреи. В феврале 1914г. Хиллман перебрался в Нью-Йорк и стал президентом Единого союза рабочих швейной промышленности, возникшего в результате раскола Объединённого союза; занимал эту должность до конца жизни. В 1916г. и 1919г. профсоюз провёл две крупные забастовки, заставившие предпринимателей согласиться на 44-часовую рабочую неделю.

    Хиллман сравнительно рано осознал, что благосостояние наёмного работника зависит от того, как идут дела у его работодателя, а потому для обеих сторон сотрудничество, основанное на переговорах и компромиссе, выгоднее, чем разрушительная конфронтация. Два банка, учреждённые при активном участии Хиллмана, спасли от банкротства многие швейные предприятия в период Великой депрессии. Благодаря Хиллману и его единомышленникам, после 1920г. забастовки в швейной промышленности почти прекратились. Вместе с тем средний почасовой заработок по отрасли увеличился в межвоенный период в девять раз, всем рабочим было гарантировано страхование на случай увольнения, пенсионное обеспечение и т.п.

    В годы Второй мировой войны Хиллман был главным советником президента Рузвельта по профсоюзным делам, входил в его ближайшее окружение. С 1940г. он занял пост заместителя генерального директора Бюро по управлению производством, в 1942г. - директора департамента труда Совета по военному производству. Хиллман был также председателем Американской партии труда, вице-президентом Всемирной федерации профсоюзов, членом Американской академии политических и социальных наук.

    Убежденный социалист, Хиллман всегда оставался непримиримым противником тоталитаризма, как правого, так и левого толка. Поэтому во времена пакта Молотова-Риббентропа он активно противостоял коммунистическому крылу в рабочем движении, но после нападения Германии на СССР пошёл на сотрудничество с ним. Сочувствовал сионистскому рабочему движению в Эрец-Исраэль и в 1929г. вошёл в правление Еврейского агентства, позднее - в исполнительный комитет Объединённого еврейского призыва. Был похоронен по еврейскому обряду, который провёл Стивен Вайз.