Прогресс Альберта на тромбоне был поразительным. Очень скоро о нём заговорили в узких кругах, очень скоро эти круги стали широкими, и уже в 1952 году 24-летнему Мангельсдорфу было предложено записаться на пластинку это в послевоенной-то Германии, которой предстояло не только перестроиться на новые рельсы в плане восприятия «расово чуждой музыки», но и вообще опомниться от итогов Второй мировой, переломавшей и куда более важные для страны отрасли, чем звукозапись! Правда, лидером этого проекта был тенор-саксофонист Ханс Коллер, ещё с довоенных времён стоявший на беспрецедентной позиции пропаганды джаза в условиях его безусловного партийного запрета. Официально числясь в рядах германской армии и имея на руках консерваторский диплом, он умело балансировал на грани дозволенного и умудрился в течение всей войны иметь действующий джаз-ансамбль, который особо не маскировался под «популярную музыку», а Мангельсдорфф и вовсе попал в сферу его внимания ещё в 1947-м, когда ни о каком тромбоне не было ещё и речи.
В 50-х Мангельсдорфф сотрудничал, разумеется, не только с Коллером: музыкант такого класса, каким он обещал стать, просто обязан был пробовать разные варианты, разные стили, разные форматы. Среди лидеров, в коллективах которых он играл, пианист Джо Климм (19501953), пианистка Ютта Хипп (19541955), в 1955 и 1956 годах, он уже входил в состав с говорящим названием Frankfurt All Stars, а в 1957-м стал ставить своё имя в качество co-лидера: первым коллективом в ряду его собственных ансамблей стал исполнявший хардбоп квинтет, вторым фронтменом которого был тенор-саксофонист Йоки Фройнд. Наконец, к 1958 году Мангельсдорффа, достигшего тридцатилетнего возраста, распространённый стереотип обязывал выходить на международную арену, если он рассчитывал говорить о себе как о музыканте высшего эшелона своего государства. Мангельсдорфф вышел, причём мастерски: именно он стал единственным представителем Германии в сборном интернациональном оркестре Ньюпортского джаз-фестиваля 1958 года, куда получил путёвку из одного из многочисленных сборных молодёжных оркестров тех лет.
Любопытно то, что этот выезд в Америку (которая наверняка для выросшего при нацистах немецкого музыканта казалась таким же музыкальным раем, как и для выросшего при коммунистах советского) не стал отправной точкой для музыкальной эмиграции. Мангельсдорфф без малейших сомнений вернулся в Германию и пошёл на родине «по нарастающей» благо и эхо войны всё отдалялось, и экономическая мощь и благосостояние государства росли на глазах, и молодое поколение партнёров внушало оптимизм.
В шестидесятых стоит отметить сразу несколько проектов. Мангельсдорфф повторил тему «всех звёзд», но на сей раз на две ступеньки выше городского уровня, с European All Stars. Он образовал квинтет очень необычного инструментального состава с участием барабанщика Ральфа Хюбнера, басиста Гюнтера Ленца и двух саксофонистов Хайнца Зауэра и Гюнтера Кронберга: ансамбль остаётся одним из самых интересных явлений европейского джаза 60-х, его игру могла видеть на концертах не только Германия и Европа, но и США, Азия и даже Южная Африка. После поворота в сторону фри-джаза и ухода Кронберга коллектив существовал в виде квартета вплоть до 1971 года. Кроме того, Мангельсдорфф сделал две любопытных записи: с пианистом Modern Jazz Quartet Джоном Льюисом (альбом 1962 года «Animal Dance», Atlantic) и со своим квинтетом (альбом «Now Jazz Ramwong», записанный в 1964 году после тура по Азии по инициативе культурного института имени Гёте и включавший много материала, основанного на этнических азиатских мотивах).
В конце 60-х Мангельсдорфф всё дальше и дальше уходит во фри-джаз, переживавший тогда во всём мире свои лучшие годы. Список проектов с его участием, исповедующих это направление, пополняет трио самого Петера Брётцманна, а также знаменитый Globe Unity Orchestra, через который в разное время прошли едва ли не все ключевые фигуры европейского фри-джаза и авангарда. Именно в этот период Мангельсдорфф и открыл для себя то, что принято называть «мультифоникой» технику совмещения традиционной игры на тромбоне с одновременным пением, что позволяет получить на выходе одновременно несколько нот, в зависимости от мастерства тромбониста превращающих его игру либо в цирк, либо в осознанные аккордовые построения. Его всё больше увлекают длинные сольные партии, эксперименты со звуком, и упомянутый выше выход с сольным сетом на концерте в рамках Олимпийских игр в Мюнхене 1972 года становится если не вершиной его работы в этой области, то как минимум наиболее убедительным доказательством того, что игра стоит свеч и может привлечь к себе внимание внушительной аудитории. Мангельсдорфф начинает даже выпускать альбомы, на которых звучит только его тромбон правда, на не оставивших заметного следа в мировой истории лейблах звукозаписи, но зато не в единственном экземпляре, возвращаясь к идее раз за разом и совершенствуя её. Рассматривая эти релизы в ретроспективе, известный джазовый критик Скотт Янов заметил: «целый альбом одного тромбона затея довольно странная, но Альберт Мангельсдорфф находится совсем не на том же уровне, что большинство тромбонистов». В его игре появляются элементы модальной импровизации и даже приёмов рок-музыки (вплоть до использования педали-«квакушки» для обработки звука).