Начались изнурительные допросы, выдвигались самые нелепые обвинения.
Но епископ Августин спокойно излагал факты:
Кружков я не организовывал, рекомендовал лишь использовать верующими законную возможность изучать Закон Божий Это я говорил с амвона в церкви.
В заключении по делу епископа значилось и возводилось ему в вину, что им бала создана для управления Иваново-Вознесенской епархией епархиальная канцелярия как нелегальная организация, не зарегистрированная в отделе Управления. Кроме этого епископ Августин обвинялся в создании нелегального кружка, куда вовлекались несовершеннолетние дети дла изучения Закона Божия.
22 октября 1926 года Особое Совещание при Коллегии ОГПУ приговорило епископа к трем годам ссылки в Среднюю Азию. Время высылки владыки (26 октября) стало известно его духовным чадам из Москвы и Иваново заранее, и к поезду на Казанский вокзал собралось множество народа. Среди провожающих были и дочери епископа. Женщины упросили конвоиров разрешить епископу проститься со своими детьми, которым на то время было 12 и 7 лет. Владыка вышел из вагона и благословил девочек.
Епископ Августин (Беляев).
Сразу же после высылки владыки верующие Иваново произвели сбор денежных средств как для самого епископа, так и для находившихся в тех же местах ссыльных священнослужителей. Власти на это ответили жестоким террором. Инициаторы были осуждены на различные сроки заключения за организацию «несанкционированного властями Красного Креста».
Первоначально епископ Августин попал в город Ходжент, позднее в город Педжикент Таджикской ССР, где он пробыл до марта 1930 года. Здесь его и нашёл приехавший к нему его преданный келейник и иподиакон Борис Семёнов. Поселился владыка в небольшой комнате, где оборудовал домашнюю церковь. Здесь он служил сам, сюда приходили некоторые ссыльные, которым он мог доверять.
Его духовные чада утешались редкими письмами, приходящими из ссылки. Эти письма читались вслух, пересказывались, обсуждались в узких кругах. У каждого болела душа за любимого пастыря. А владыка старался утешить и успокоить каждого:
Верю, что если моё пребывание среди вас было добрым семенем, то эти добрые семена в вас не умрут
Более всего владыка просил своих чад уповать на Бога, не терять веру (не смотря на внешнюю пропаганду и жестокие гонения), не оставлять по возможности богослужения и посещать храм Божий:
Родные деточки мои о Господе. Весьма радуюсь вашим учебным успехам, но скорблю, что в такой тесноте ваша религиозная совесть, вам уже заметили, что ношение креста позорит науку. Вот это характерно очень, ведь крест символ терпения, самоограничения, которые необходимы для тех, кто встал на путь борьбы со всякой подлостью, живущей в человеке и в человечестве. Как же поэтому возражать против крестоношения
По завершении срока ссылки Особым Совещанием ОГПУ 14 октября 1929 года было принято решение: запретить преосвященному Августину в течение трех лет проживать в крупных городах и областях России и в Ивановской области.
Заместитель Местоблюстителя митрополит Сергий назначил епископа Августина на Алма-Атинскую кафедру. Но в Алма-Ате владыке было отказано в проживании. Вследствии чего митрополит Сергий направил владыку на кафедру в Сызрань. В апреле 1930 года преосвященный Августин прибыл в Сызрань, где снял часть дома. Сюда к нему приехал его келейник Борис Семёнов. Здесь, в Сызрани, владыка рукоположил его в сан диакона.
Весной 1930 года в Сызрани развернулась активная кампания по изъятию церковных ценностей и закрытию храмов. Прихожане закрытых церквей направили в Москву делегацию. В этот период епископ Августин объединил вокруг себя все духовенство, явившись для всех и заботливым отцом, и мудрым руководителем. Это укрепило его авторитет среди верующих и вызвало глубокое недовольство местных властей, которые стали искать повод для ареста архиерея и активной части духовенства и верующих. Не прошло и года от начала пребывания владыки в Сызрани, как последовал его очередной арест.
21 февраля 1931 года епископ Августин был арестован. Вместе с ним были заключены под стражу шестнадцать священников, монах и тридцать девять мирян (включая церковных старост и членов церковных двадцаток), был арестован келейник епископа Августина диакон Борис. Арестованным были выдвинуты обвинения в борьбе против советской власти, против колхозного строительства и ликвидации кулачества как класса, в организации движения за политические права Церкви, в пропаганде тихоновской церкви, в организации незаконной помощи политическим ссыльным.