Леонид Мильграм родился в Москве 25 февраля 1921 года в семье польского еврея, одного из первых советских разведчиков. В 1937 году его отец был арестован, а через год расстрелян. В 1939 году Мильграм сумел попасть в Красную армию, несмотря на статус сына «врага народа».

Леонид Мильграм награжден званием «народный учитель СССР», орденом Почета, орденом Отечественной войны II степени, орденом Красной Звезды; он также являлся почетным гражданином Москвы.