Наконец, сбылось. В 1843 году он получает назначение в тифлисскую инженерную команду. Кавказ того времени представлял собой арену упорной, тяжелой борьбы России с воинственными горными племенами, поддерживаемыми Турцией. Произведенный в штабс-капитаны и назначенный старшим адъютантом штаба отдельного Кавказского корпуса, Кауфман очутился в атмосфере, о которой мечтал бесконечных стычек, изнурительных походов и атак.
Почти тринадцать лет прослужил Константин Петрович в рядах кавказской армии. За это время он показал себя мужественным и храбрым офицером. Штурм укрепления Гергебиль и взятие аула Чох, сделали его имя широко известным в военной среде. Во время Крымской войны (18531856), командуя Кавказским саперным батальоном, он участвует в сражении под Кюрюк-Дара и взятии крепости Карс, укреплённой англичанами. Именно Кауфману генерал Муравьёв поручил принять капитуляцию крепости и турецкой анатолийской армии у английского комиссара Уильямса.
К. П. фон Кауфман. Литография по рисунку Гельферта из издания «Портреты лиц, отличившихся
заслугами и командовавших действующими частями в войне 1853, 1854, 1855 и 1856 гг.». СПб, 1858-
1861. И У. Ф. Уильямс со знаком Кавалера ордена Бани (1852)
За участие в осаде и штурме крепости Карс фон Кауфман получает свою первую боевую награду орден Св. Георгия 4-й степени.
Вот, что пишет о своём боевом товарище участник тех событий А. С. Корсаков:
«Подполковник фон-Кауфман, очутившись с первым батальоном Рязанского полка между турецкими батареями, прошел насквозь весь лагерь и вышел к отряду генерал-майора Базина, потеряв из батальона только около 70 человек. Впоследствии Алексей Петрович Ермолов, узнав о подвиге Кауфмана, в письме своем к сыну в отряд, просил поздравить его и сказать ему, что он молодец. Подполковник Кауфман говорил, что такой отзыв генерала Ермолова был бантиком на полученный им орден Георгия».
Другой участник боя, полковник Лек, так писал о подвиге Кауфмана: «Я видел, как мимо всей линии наших укреплений шла горсть ваших молодцов, под сильным огнем наших батарей; они не только сохраняли полный порядок, но даже подбирали своих раненых. Я хотел остановить огонь на своей батарее и салютовать им».
Вслед за первой наградой Константин Петрович награждается орденами: Анны 2-й степени с императорской короной, Владимира 3-й степени с мечами и золотой саблей с надписью: «за храбрость». В 38 лет он становится генералом, но чины и награды дались тяжёлым ратным трудом. За время кавказской службы Кауфман дважды был тяжело ранен в Даргинской экспедиции и под Чохом.
Заслуги молодого генерала высоко оценила Императорская Военная Академия и в 1856 году Кауфман назначается членом совета своей alma mater.
Деятельность Константина Петровича не проходит мимо внимания императора Александра II.
В 1857 году Кауфману объявляется Монаршее благоволение за отличное исполнение обязанностей в комитете, учрежденном «для составления предположений о преобразовании заведений военных кантонистов в училища военного ведомства». А еще через год его можно видеть в свите Его Императорского Величества.
30 августа 1861 г. Кауфман становится директором канцелярии военного министерства, во главе которой прослужил четыре года. Это было время реформ. У руля Военного министерства стоял выдающийся сподвижник Александра II, горячий приверженец преобразования русской армии, военный историк и теоретик, учёный, писатель Дмитрий Алексеевич Милютин. В лице Кауфмана, военный министр нашёл активного сторонника своих идей.
Результаты реформы впечатляли: были созданы военные округа, началось перевооружение армии, была введена всеобщая воинская повинность и система призыва резервистов, изменена система боевой подготовки солдат. Срок воинской службы сократился с 25 до 16 лет, ввели обучение рядовых грамоте и ликвидировали существовавший порядок физического наказания нижних чинов. Началось перевооружение армии и флота современными образцами оружия и техники. Учреждены были и новые военные учебные заведения, заложены основы новых наук военной статистики и военной географии. В результате через полтора десятка лет, новая русская армия блистательно показала себя в Русско-турецкой войне.
Этот славный период жизни Константина Петровича, принёс ему чин генерал-лейтенанта и звание генерал-адъютанта.