І батькова, і материна родини належали до шведської аристократії Фінляндії, їхньою рідною мовою була шведська. Шведи захопили країну ще в XII сторіччі, і на початок XIX віку фінську мову було практично витіснено з усіх сфер культурного життя нею розмовляли лише селяни, які, втім, складали 80 відсотків населення країни. Не випадково, що першим пунктом вимог (чи побажань) громадян Фінляндії, які Маннергейм-прадід привіз до російського імператора, було затвердження шведської як єдиної мови адміністрації і суду в новоствореному Великому князівстві. Національне фінське відродження почалося лише в середині XIX сторіччя, і першою реакцією на це з боку шведської громади став випрошений в російського царя указ 1850 року, який забороняв видання книг фінською мовою. Лише за рік до народження майбутнього героя Зимової війни, у 1866 році, фінській громаді вдалося запровадити у початкових сільських школах викладання фінською мовою нарівні зі шведською.
Нині фінські патріоти намагаються довести, що родини Маннергеймів та Юлінів були двомовними, користувалися нарівні шведською і фінською, проте це виглядає доволі сумнівним. Принаймні 1918 року, коли Маннергейм повернувся до Фінляндії, він мав величезні труднощі в спілкуванні фінською та й потім, до самої смерті, розмовляв першою державною мовою країни з дуже помітним акцентом, припускаючися багатьох помилок.
Як би там не було, середню освіту Маннергейм здобував шведською і в Гельсінському приватліцеї (18741880), і в гімназії в Гаміні (18811882), і в Гамінському кадетському корпусі (18821886). З кадетського корпусу майбутнього маршала було з ганьбою виключено за численні порушення дисципліни. Лише наступного року він екстерном склав випускні іспити у Гельсінському приватліцеї і, отримавши атестат про середню освіту, зробив другу спробу військової карєри. Хоча ще 1878 року в складі російської армії було створено окремі збройні сили автономної Фінляндії, молодий аристократ не горів бажанням служити в цьому провінційному корпусі. 1887 року двадцятирічний Маннергейм вступив до одного з найпривілейованіших юнкерських училищ Росії Миколаївського кавалерійського в Санкт-Петербурзі. Так розпочалася його тридцятирічна військова служба в імперській армії.
У Санкт-Петербурзі юнкер вже не бешкетував і через два роки з відзнакою закінчив училище, отримавши звання корнета. Прослуживши два роки в Польщі, Маннергейм 1891 року повернувся до Петербурга і став корнетом Лейб-гвардії Її Імператорської Величності Кінногвардійського полку одного з найпривілейованіших полків російської гвардії. Наступного року він одружився з Анастасією, дочкою генерал-майора від кавалерії Ніколая Арапова і мав з нею двох дочок Анастасію та Софію. Аристократичне походження та вдалий шлюб сприяли блискучій карєрі гвардійського кавалериста, натомість стримував її брак коштів золота гвардійська молодь, як правило, жила набагато «ширше», аніж це дозволяла порівняно скромна платня молодшого офіцера. Маннергейм же з Фінляндії ніякої матеріальної підтримки не отримував. Хоча, звичайно, вирішальну роль у карєрі відіграли його особисті якості розум, лідерські здібності та відвага на полі бою. Гвардії поручик Маннергейм стояв у почесному караулі під час коронації останнього російського царя Ніколая II. А восени 1905 року за особливу мужність, проявлену у битвах з японцями під Сандепу, Інкоу та Мукденом, спеціальним указом імператора йому було достроково присвоєно звання полковника.
1906 року французький вчений Поль Пелло звернувся до російського та китайського урядів за дозволом провести комплексну наукову археологічно-етнографічно-біологічну експедицію з Ташкента до Пекіна дослідити Західний (російський) та Східний (китайський) Туркестан. Російський уряд поставив умовою участь у експедиції російського «вченого», яким став полковник Маннергейм. Його кандидатуру підібрав особисто начальник Генштабу Паліцин. Маннергейм «подав у відставку» і навіть спеціально зїздив до Фінляндії, щоб отримати замість загальноросійського фінляндський паспорт.
Кінна експедиція тривала понад два роки і зібрала величезну кількість різноманітних наукових матеріалів. Здобув славу етнографа та географа також і Маннергейм, який зробив за час експедиції понад 1300 фотографій. 1200 зібраних ним експонатів матеріальної культури сартів, киргизів, уйгурів та тибетців склали спеціальну експозицію в Національному музеї Гельсінки. Справжнім же підсумком його «наукової» роботи був секретний меморандум, де полковник обґрунтовував необхідність та можливість завоювання і включення до складу Російської імперії двох китайських провінцій Сінцзяну та Ганьсу.