Монография "Мысль и язык" (1862) открыла Потебне возможность получить командировку Министерства просвещения для "приготовления к профессорскому званию", которая прошла в Германии, в Берлинском университете, где Потебня в числе прочего изучал санскрит, и в ряде славянских стран, где он изучал словенский и сербохорватский языки. Возвратившись в 1863 г. в Харьковский университет, Потебня стал доцентом, затем профессором кафедры русского языка и словесности. Первая докторская диссертация Потебни "О мифическом значении некоторых обрядов и поверий" (1866) была отклонена ученым советом Харьковского университета; вторая докторская диссертация "Из записок по русской грамматике" (в 2 частях) была защищена в 1874 г. В 1875 г. он был избран членом-корреспондентом Петербургской Академии наук и действительным членом Общества любителей российской словесности при Московском университете.
Следует подчеркнуть, что Потебня был в первую очередь лингвистом, и как новатор, по свидетельству В.В. Виноградова, он зарекомендовал себя в области исследований грамматики. Сам ученый в автобиографии, впервые опубликованной А.Н. Пыпиным в 1892 г., писал о том, что еще со студенческих лет увлеченно занимался славянским языкознанием и был "оставлен при университете" именно в качестве лингвиста; в дальнейшем его интересовали "вопросы языкознания", прежде всего грамматика, и он читал курс теории словесности.
Однако еще в юности Потебня стал фольклористом-собирателем, в 1863 г. он опубликовал сборник украинских народных песен. Кроме того, он был философом, эстетиком, психологом, этнографом. Основное направление деятельности ученого состояло в исследовании того, как язык формирует мысль. Отсюда интерес к мифу, фольклору и литературе. В монографии "Мысль и язык" (1862) была сформулирована не только теория "внутренней формы слова", но и "внутренней формы искусства", оказавшая серьезное влияние на символистское искусство и теорию символизма А. Белого, Вяч. И. Иванова, В.Я. Брюсова. Среди значимых трудов Потебни – работы "Слово о полку Игореве. Текст и примечания" (1878), "Объяснение малорусских и сродных народных песен" (в 2 томах; 1883, 1887). После смерти ученого была опубликована его статья "Психология поэтического и прозаического мышления" (1910).
Вдова Потебни и его ученики собрали, подготовили к печати и издали две книги – "Из лекций по теории словесности" (1905) и "Из записок по теории словесности" (1905).
В первой книге (лекционном курсе, стенографическая запись которого была в целом проверена самим ученым) центром внимания Потебни, с одной стороны, стала басня – ее поэтика, прежде всего аллегорический (эмблематический) и нравоучительный характер, и происхождение, а также связь жанра басни с пословицей и поговоркой. Другой гранью интересов ученого стала одна из важнейших проблем эстетики и теории литературы – многозначность образа и его природа; материалом исследования были разнообразные литературные источники – "Фауст" И.В. Гёте, "Песня торжествующей любви" и "Клара Милич" И.С. Тургенева, стихотворения М.Ю. Лермонтова и его поэма "Мцыри" и др. Вопросы иносказательности слова и иносказательности образа были рассмотрены сквозь призму поэзии Ф.И. Тютчева, романа А.С. Пушкина "Евгений Онегин".
Во второй книге, в которой собраны многочисленные не опубликованные при жизни ученого рукописи, представлены, с одной стороны, исследования в области поэтического иносказания – вопросы метафоры, метонимии, синекдохи, гиперболы и др.; материалом исследований Потебни были произведения Н.В. Гоголя ("Ревизор", "Невский проспект", "Портрет", "Мертвые души" и др.), роман А.С. Пушкина "Евгений Онегин", произведения древнерусской литературы ("Слово о полку Игореве"), славянские источники и др. Вторую группу трудов составили труды Потебни по проблемам мифа и вопросам его формирования, характера "мифического" (мифологического) мышления и др.; ученый рассмотрел первичные исторические мифы и вторичные календарные мифы и обряды.
Труды Потебни отразили движение науки 2-й половины XIX века, и о нем "в современной филологической науке непременно упоминают, когда говорят <…> о мифологическом, культурно-историческом и сравнительно-историческом направлениях в филологии". Однако поскольку на протяжении всей своей жизни Потебня занимался проблемами психологии – мышлением, восприятием, усвоением и др., то его ученики Д.Н. Овсянико-Куликовский, А.Г. Горнфельд, В.И. Харциев, Б.А. Лезин и др. способствовали тому, чтобы научную деятельность ученого связали с психологическим направлением в литературоведении. В дальнейшем труды Потебни, и в первую очередь его теории "внутренней формы слова" и "внутренней формы искусства", окажут значительное влияние на развитие идей научно-формальной школы. Хотя некоторые представители ОПОЯЗа полемически открещивались от Потебни, объективно они в своих исканиях занимались тем, что Потебня определил как "внутреннюю форму искусства".
Определяя место ученого в науке, Ю.Н. Тынянов в рецензии на книгу Т. Райнова "Александр Афанасьевич Потебня" (1924) писал о "гениальности Потебни", об "огромном значении" его трудов "как в области лингвистики, так и в области теории литературы": "новые течения в обеих областях не обходят его, а или отправляются от него, или так или иначе определяют свое к нему отношение".