Весной 1926 года святитель Иларион был отправлен обратно на Соловки. В пересыльный лагерь на Поповом острове владыка прибыл незадолго до Пасхи. Пасхальную заутреню владыка Иларион служил вместе с епископом Нектарием (Трезвинским) и священником Павлом Чехрановым в недостроенной пекарне, несмотря на строгое запрещение лагерного начальства.
С началом навигации владыка Иларион был перевезен с Попова острова на Соловки, где 7 июня участвовал в тайном совещании, посвященном положению Церкви. В результате совещания появилась знаменитая «Памятная записка Соловецких епископов», обращенная к правительству СССР. Этим документом Русская Церковь устами своих святителей и исповедников выразила свой взгляд на крайне трудную и болезненную тему взаимоотношений Православной Церкви и советского государства.
В ноябре 1926 года заканчивался срок заключения владыки Илариона, и он вновь был перевезен на материк. 19 ноября 1926 года особое совещание при Коллегии ОГПУ приговорило святителя Илариона еще к трем годам заключения на Соловках: «Гражданин Троицкий, находясь в ссылке, не прекратил контрреволюционной работы и является социально опасным элементом». Его обвинили в «разглашении государственных тайн», то есть разглашении его разговора с Тучковым в Ярославской тюрьме. Прибыв на Соловки, владыка шутил: «На повторительный курс оставлен».
Осенью 1927 года возникло новое разделение, отчасти вызванное появлением «Декларации митрополита Сергия», в которой заявлялось о лояльности властям. Владыка Иларион предостерегал всех от раскола, прекрасно понимая вынужденность некоторых мер. «Никакого раскола! говорил он. Что бы нам ни стали говорить, будем смотреть на это как на провокацию!»
«Что реку о сем? писал владыка Иларион в своих письмах. А то, что всем отделяющимся я до крайней степени не сочувствую. Считаю их дело совершенно не основательным, вздорным и крайне вредным. Не напрасно каноны 1315 Двукратного Собора определяют черту, после которой отделение даже похвально, а до этой черты отделение есть церковное преступление. А по условиям текущего момента преступление весьма тяжкое Я ровно ничего не вижу в действиях митрополита Сергия и Синода его, что бы превосходило меру снисхождения и терпения».
В это время архиепископ писал своей родственнице: «Выкинут я стихией на далекий остров. Но сожаления я стараюсь не растравливать в душе моей, на окружающее стараюсь не обращать внимания, а жизнь наполнять тем, чем можно. И так за долгие годы привык и живу не тужу. На лучшее не надеюсь, от худшего не отрекаюсь. Какова о мне воля Божия так пусть и будет».
В конце 1929 года власти приговорили владыку Илариона к трем годам ссылки в Казахстане. Самое мучительное было то, что к месту ссылки, через всю страну, владыка должен был ехать этапным порядком, останавливаясь на неопределенный срок в пересыльных тюрьмах. Почти сразу же после отправки на материк его обокрали, и в Ленинград он прибыл на праздник Введения во храм Пресвятой Богородицы уже больным, в кишащем паразитами рубище.
19 декабря владыка был помещен в тюремную больницу им. Гааза, путь к которой ему пришлось пройти пешком, страшно изнемогая от болезни. Из больницы он писал: «Я тяжело болен сыпным тифом, лежу в тюремной больнице, заразился, должно быть, в дороге, 28 декабря решается моя участь (кризис болезни), вряд ли переживу»
В больнице ему сказали, что его надо обрить, владыка ответил: «Делайте со мной теперь, что хотите» В бреду он говорил: «Вот теперь-то я совсем свободен». По рассказу М.Ф.Анфимовой, дочери последнего протодиакона Воскресенского Новодевичьего монастыря, перед смертью владыку Илариона причастил Святых Христовых Таин келейник митрополита Серафима (Чичагова) иеромонах Никандр.
За несколько минут до кончины к нему подошел врач и сказал, что кризис миновал и теперь он может поправиться. Святитель в ответ едва слышно сказал: «Как хорошо. Теперь мы далеки от» И с этими словами тихо скончался. Преставился владыка 28 декабря 1929 года, в 4 часа 20 минут утра.
Митрополит Серафим (Чичагов), занимавший тогда Санкт-Петербургскую кафедру, попросил для погребения тело почившего святителя. Власти поставили условие, чтобы не было никаких надгробных речей. Ночью грубо сколоченный гроб выдали родственникам. Святителя было невозможно узнать. В гробу лежал изможденный старец с обритой головой. Владыке Илариону было всего 43 года.