Народная память упорно хранила предание о нем как уроженце северной русской деревни. В старинных двинских летописях можно прочесть, что славный атаман происходил из волости Борок на Северной Двине. Был он обыкновенным крестьянином. Однако северное крестьянство не знало дворянского произвола, а нелегкая жизнь в постоянных трудах и невзгодах приучала к долготерпению, воспитывала отвагу и выносливость. Эти люди умели любить и защищать родную землю.
Мы не знаем, что вынудило Ермака покинуть отчий дом. Обычно крестьяне становились казаками из-за крайней нужды. Так или иначе молодой северянин оказался на южных окраинах, кода вольные казаки лишь начали осваивать ордынское поле. Биография Ермака стала частицей истории казачества, он был одним из ее подлинных творцов.
Будущий покоритель Сибири не менее четверти века прожил на Волге: то в Жигулях, то на лесистых речных островах. Вместе с другими волжскими атаманами и казаками Ермак участвовал в постоянных столкновениях с Ногайской ордой, кочевавшей в низовьях Волги.
Степняки жгли казачьи станицы, совершали набеги на Русь, уводили в плен русское население. Казаки нападали на степные становища, отбивали пленников, угоняли ногайские стада. В этих битвах Ермак приобрел большой боевой опыт, стал известным казачьим атаманом.
Известно, что в июне 1581 года он возглавлял речную флотилию в войске воеводы Хворостинина, действовавшего под Могилевом против литовцев. 27 июня флотилия Ермака Тимофеевича неожиданно появилась у города, и казаки завязали упорные бои с королевскими ротами. Поляки и литовцы пытались отразить натиск русских воинов, но с подходом главных сил были опрокинуты и «втоптаны» в город.