После того как проекты, связанные с глубоким обучением, перешли на графические процессоры, исследователи ИИ из ведущих технологических компаний начали разрабатывать программные средства, способные дать толчок созданию глубоких нейронных сетей. Google, Facebook и Baidu выпустили нацеленные на глубокое обучение программы с открытым исходным кодом, которые можно было бесплатно скачивать, использовать и обновлять. Самой широко используемой платформой является TensorFlow компании Google, выпущенная в 2015 году. TensorFlow это комплексная программная платформа для глубокого обучения, предлагающая как исследователям, так и инженерам, разрабатывающим практические приложения, оптимизированный код для реализации глубоких нейронных сетей, а также разнообразные инструменты, увеличивающие эффективность разработок. Такие пакеты, как TensorFlow и PyTorch, конкурирующая платформа от Facebook, освобождают исследователей от необходимости писать и тестировать программный код, разбираясь в тонкостях, и позволяют сосредоточиться на задачах более высокого уровня при построении систем.
В процессе революции в области глубокого обучения NVIDIA и некоторые ее конкуренты перешли к разработке еще более мощных микропроцессоров, специально оптимизированных для задач глубокого обучения. Intel, IBM, Apple и Tesla сегодня создают компьютерные чипы, которые ускоряют вычисления, необходимые глубоким нейронным сетям. Чипы для глубокого обучения находят применение в бесчисленных устройствах, включая смартфоны, беспилотные автомобили и роботов, а также высокопроизводительные серверы. В результате появилась постоянно расширяющаяся сеть устройств, разработанных для поддержки искусственного интеллекта. В 2016 году Google объявила о создании собственного чипа, который назвала тензорным процессором. Эти процессоры разработаны специально для оптимизации приложений глубокого обучения, построенных на платформе TensorFlow. Первоначально Google использовала новые чипы в собственных дата-центрах, но с 2018 года их стали встраивать в серверы облачных вычислений компании. В результате клиенты, пользующиеся облачным сервисом Google, получили доступ к самой передовой функции глубокого обучения, что, похоже, и привело к доминированию этого канала распространения искусственного интеллекта.
Конкуренция известных производителей микропроцессоров и новой поросли стартапов за долю быстро растущего рынка искусственного интеллекта вызвала в технологической сфере шквал инноваций и всплеск деловой активности. Некоторые исследователи открывают совершенно новые направления в сфере разработки чипов. Специализированные чипы для глубокого обучения, созданные на основе графических процессоров, оптимизируются с целью ускорения ресурсоемких математических вычислений, выполняемых программами, которые поддерживают глубокие нейронные сети. Новый класс чипов в значительно большей мере имитирует работу мозга, позволяя урезать аппетиты требующего слишком много ресурсов программного слоя и реализовать нейронную сеть на аппаратной основе.
Разрабатываемые «нейроморфные» чипы воплощают аппаратные аналоги нейронов непосредственно в кремнии. IBM и Intel вложили значительные средства в исследования нейроморфных вычислений. Например, экспериментальные чипы Loihi разработки Intel используют 130 000 аппаратных нейронов, каждый из которых может связываться с тысячами других[10]. Одно из важнейших преимуществ ухода от массированных программных вычислений это энергоэффективность. Человеческий мозг, далеко превосходящий своими возможностями любой существующий компьютер, потребляет лишь около 20 Вт существенно меньше, чем средняя лампа накаливания. В отличие от него, системы глубокого обучения на основе графических процессоров требуют очень много электричества, и, как будет показано в главе 5, их масштабирование при таком энергопотреблении, скорее всего, невозможно. Нейроморфные чипы, конструкция которых восходит к нейронной сети головного мозга, гораздо менее прожорливы. Intel заявляет, что в некоторых модификациях ее чипы Loihi до 10 000 раз более энергоэффективны, чем традиционные микропроцессоры. После запуска коммерческого производства эти чипы, скорее всего, быстро найдут применение в мобильных и других устройствах, для которых важна энергоэффективность. Ряд специалистов в области ИИ идут намного дальше в своих прогнозах, полагая, что нейроморфные чипы это будущее искусственного интеллекта. Например, по мнению исследовательской фирмы Gartner, нейроморфные структуры вытеснят графические процессоры в качестве основной аппаратной платформы ИИ к 2025 году[11].