Основную часть сотрудников Абвернебенштелле «Юг Украины», составляли белоэмигранты члены Российского общевоинского союза (РОВС) и Национально-Трудового Союза (НТС). Они возглавляли штатные контрразведывательные агентуры, состоящие из 23 резидентов, самостоятельно вербовавших агентуру. Помимо этого ими производилась вербовка новых членов в ряды РОВС и НТС. Штатные резидентуры органа были в Николаеве, Херсоне, Кировограде, Вознесенске, Одессе и других городах Украины. Вся работа органа велась в тесном взаимодействии с СД и ГФП.
При отступлении немецкой армии в феврале марте 1944, Абвернебенштелле «Юг Украины» был расформирован. Часть его официальных сотрудников и наиболее квалифицированные агенты были направлены в ряд абвергрупп, прибывших в городе Николаев, остальные выбыли вслед за отступающими немецкими войсками на Запад.
Советскими органами Госбезопасности были вскрыты следующие контрразведывательные резидентуры Абвернебенштелле «Юг Украины», действовавшие под прикрытием различных организаций и научных учреждений:
1) Резидентура в Николаеве (резиденты Громов и Кошарновский), которая действовала с начала 1942 по февраль 1944
2) Резидентура в Кировограде действовала под видом «Технической группы по строительству мостов» или «Лаборатории по борьбе с полевыми вредителями», также маскировалась под труппу артистов. Руководил «артистами» поляк Врублевский (он же Вроновский). С резидентурой на связи находился Вольбериц Роберт, работавший художественным руководителем городского театра. В свою очередь Вольбериц создал свою резидентуру из настоящих артистов, которая затем была передислоцирована в западные области Украины.
3) Таганрогская резидентура была создана в декабре 1941, под условным наименованием «Риттершпорен» («Рыцарская шпора»). Возглавлял ее белоэмигрант Яренко (он же полковник Воронов)
4) Резидентура в селе Новая Одесса Николаевской области действовала под видом филиала Исследовательского рыбного института «Фишварт». Во главе стоял белоэмигрант Триколич (псевдонимы «Генбержевский» и «Кусин»). В мае 1943, резедентура Триколича велаи активную разработку местного подполья и партизан. Перед началом немецкого отступления произвели многочисленные аресты и принимали участие в следствии.
5) Резидентура в городе Вознесенск действовала с весны 1943, под прикрытием того же рыбного института, под руководством штатного резидента белоэмигранта Носкова (псевдоним Кюстер). Носков вербовал агентуру из числа интеллигенции и сотрудников оккупационных учреждений и использовал сотрудников абверштелле, прибывших вместе с ним из Николаева.
По данным советской разведки Носков завербовал в Вознесенске и его окрестностях до 60 человек. На них была заведена картотека, часть которой была захвачена советскими войсками.
В мае июне 1943, резидентура Носкова при содействии ортскомендатуры Вознесенска проводила массовые аресты подозреваемых в причастности к партизанскому движению. В дальнейшем 100 человек из числа арестованных были расстреляны.
В октябре 1943, резидентуры Носкова и Триколича объединились в селе Новая Одесса и располагались там до наступления советских войск.
6) Резидентура в горде Херсоне. Херсонскую резидентуру до апреля 1943, возглавлял Триколич, позднее Закржевсклй. В качестве конспиративных квартир использовались херсонский яхтклуб и квартира начальника городской полиции Липко. Помимо вербовки осведомителей, руководителями этой резидентуры была создана агентурная сеть в среде технического персонала судостроительного завода,
и засылались агенты-провокаторы в херсонское партийное подполье.
Аналогичные резидентуры действовали в Мариуполе, Керчи, Одессе, Первомайске, Феодосии, Мелитополе, Кривом Роге, Никополе и других городах.
Другим подразделением германской разведки в Крыму являлась абвергруппа «Марине абверштелле Крым», которая вела контрразведывательную работу через местные резидентуры в приморских городах Крыма. Резидентами органа работали, в основном, члены военной белоэмигрантской организации «Российский общевоинский союз» (РОВС), проживавшие до войны в Болгарии. Они же вербовали агентуру из местных жителей.
Помимо уже упомянутой «Марине абверштелле Крым», на территории Крыма и Севастополя действовали и другие мощные структуры морской разведки и контрразведки относившиеся непосредственно к германским военно-морским силам (Кригсмарине). Это прежде всего сформированная в Берлине в конце 1941 начале 1942 года, специальная морская разведывательная команда «Нахрихтенбеобахтер» (НБО). Радиопозывной команды «Татар». Начальники НБО (до июля 1942 года) капитан Боде, затем корветтен-капитан (капитан 3 ранга) Рикгоф. До конца 1943 года НБО и все ее подразделения имели общую полевую почту 47585, с января 1944 полевая почта НБО 19930.
Вскоре после своего создания НБО была направлена в Симферополь, где находилась с 1 июля 1942 по 1 февраля 1943 (по другим данным до октября 1943 года). Первоначально в Симферополе НБО размещалась по адресу улица Севастопольская, дом 6.
В оперативном отношении НБО, подчиняясь непосредственно отделу «Абвер-заграница» и была придана штабу адмирала Шустера командующего немецкими военно-морскими силами в бассейне Черного моря.