Отец Александра искал счастья в Москве и оставил сына на попечение деда по материнской линии, охотника.
В биографии Пэнна много неясного. Его отца биографы Пэнна считают потомком легендарного Шнеур Залмана из Ляда*. Мать Пэнна происходила из аристократической шведской семьи и принадлежала к секте субботников. Сам Пэнн утверждал, что его предком по материнской линии является полярник, шведский граф Йенсен.
Но это лишь одна из версий. Часть биографов Пэнна ставили под сомнение достоверность этих биографических данных и были даже такие, которые утверждали, что отец Пэнна вовсе не был евреем.
Первые 10 лет своей жизни Пэнн прожил у деда охотника и рыболова. После смерти деда, которого смертельно ранил на охоте белый медведь, десятилетний Александр отправляется через всю Россию искать отца. Он преодолевает огромные расстояния от берегов Северного Ледовитого океана до Кавказа, пешком идёт через Тайгу, бродяжничает и ночует где придётся: то на вокзалах, то под открытым небом.
В 1920 году он добрался до Москвы и здесь разыскал своего отца, который наконец-то занялся воспитанием сына. Под присмотром отца, Александр заканчивает среднюю школу, затем продолжает учёбу в Государственном Институте Слова и государственном техникуме кинематографии. Одновременно, он серьёзно занимается боксом, выступая на ринге и добиваясь значимых спортивных результатов.
Здесь же, в Москве, Александр по настоянию отца проходит гиюр переход в иудаизм, поскольку его мать по законам иудаизма не считалась еврейкой**. Также благодаря отцу Пэнн сближается с молодёжными сионистскими организациями и участвует в их деятельности. В частности, будучи хорошим боксёром, он вскоре стал тренером по боксу в сионистском спортивном обществе «Маккаби» (по совместительству в спортивном обществе «Динамо»).
В это же время Пэнн публикует первые свои стихи, которые он писал с юных лет. Первое его стихотворение, опубликованное в журнале «Крестьянская нива», называлось «Беспризорный» и было посвящено годам бродяжничества Пэнна, которые навсегда оставили след в его жизни и творчестве.
Молодой талант не остался незамеченным. Поэт-символист Иван Рукавишников обратил внимание на творчество Пэнна и ввёл его в круг московских поэтов. Так юный поэт познакомился со многими представителями Серебряного века русской поэзии.
Ему посчастливилось быть лично знакомым с Есениным и Маяковским. Особенно он сблизился с Маяковским. Пэнн читал ему свои стихи, а Маяковский слушал. В юном поэте Маяковский увидел яркий талант и не жалел для него своего времени.
Творчество Маяковского оказало колоссальное влияние на Пэнна и отразилось в его стихах. Маяковский был кумиром Пэнна на протяжении всей его жизни и творчества. До сих пор Александр Пэнн считается лучшим переводчиком стихов Маяковского на иврит.
Это был один из самых ярких и счастливых периодов в жизни Пэнна. Но длился он не долго.
В 1926 году Пэн был арестован по обвинению в сионизме. Александр отверг предъявленные ему обвинения, но также категорически он отверг и предъявленное ему требование публично заявить о своём неприятии сионизма.
После этого отказа Пэнн был сослан в Узбекистан, где провёл год. В ссылке он оказался вместе с активистами сионистских организаций, но не только не сблизился, а напротив, нередко конфликтовал с ними.
Впрочем, он конфликтовал не только с ними, но и с тюремным начальством и с местной администрацией. И те, кому приходилось с ним сталкиваться, почувствовали, что называется, на себе его нелёгкий характер.
Неоднократно он совершает побеги из ссылки и неизвестно чем бы всё это закончилось для него и как сложилась бы судьба израильского Маяковского, но за него вступилась вторая жена Максима Горького, председатель Ассоциации помощи политическим заключённым (действовала с 1920 по 1938 годы) Е. М. Пешкова, которая добилась освобождения Пэнна и помогла ему выехать в Палестину.
Пэнн уезжает немедленно после освобождения.
Хотите, чтобы я был сионистом? Хорошо, я буду сионистом!
Палестина? Пусть будет Палестина! в сердцах заявляет он перед отъездом. В этих словах гнев, обида, разочарование. Но в них проявился и гордый, независимый нрав Поэта. Он не стал ни просить, ни требовать, ни оправдываться. Просто повернулся и уехал.
В Палестине ему приходится нелегко. Пэнн работает разнорабочим, трудится на апельсиновых плантациях, перебиваясь временными заработками во время сбора урожая цитрусовых. Свою жизнь и переживания на новом месте Пэнн выражает в стихах: