Сергей Александрович Шумский (кандидат физико-математических наук, Центр науки и технологий искусственного интеллекта МФТИ) объясняет, что первая идея о машинном интеллекте заключалась в том, что его можно запрограммировать: можно понять алгоритм разума и запрограммировать машину мыслить. Первые 50 лет наука шла по этому пути, но результаты не оправдали ожиданий. Компьютеры многое умеют. Однако того, что обычно подразумевается под интеллектом, мы до сих пор не наблюдали.
Новая парадигма, которая появилась в науке о машинном интеллекте и позволила существенно продвинуться в этом направлении, исходит из того, что не надо программировать разум. Разум это, по определению, очень сложная система. Ее трудно понять извне, но ее можно вырастить, воспитать. Разум может появиться в процессе обучения. Нужно только научить его учиться. Другими словами, задача ученых найти алгоритмы обучения, а не алгоритмы разума. Этот подход позволил создать прорывы в 2 областях.
Во-первых, возник сенсорный интеллект (или искусственные органы чувств): компьютеры распознают объекты, речь, могут генерировать речь, музыку, рисовать картины.
Во-вторых, возник стратегический интеллект (или стратегия достижения целей в борьбе с противником, который мешает достичь этих целей): сюда относятся всевозможные игры шахматы, Go, покер. В этой сфере достигнуты впечатляющие успехи. Сегодня машины обыгрывают человека во все стратегические игры, что стало полной неожиданностью для многих.
Следующий шаг за сенсорным и стратегическим интеллектом это искусственная психика робота, свидетелем которой мы станем, по мнению С. А. Шумского, в ближайшие 5 лет: «Это такой искусственный зверушка с архитектурой мозга, примерно как у млекопитающих, который способен на то, на что способны зверушки. Потом уже мы будем доводить этого зверушку до уровня человека со всеми последствиями (здесь и далее выделение подчеркиванием во всех цитатах сделано автором)».13
Я не знаю в деталях, как ученые намерены «воспитывать» разум, посредством какого «обучения», но знаю некоторые (не все) особенности того, как функционирует разум или психика у человека как он есть, в истинном его понимании. Поэтому первой моей реакцией на изложенное выше было: «Это невозможно». Вероятность создания машинного интеллекта, подобного человеческому, равна 0. А вслед за этой первой, интуитивной реакцией возник вопрос ко всем, кто так или иначе вовлечен в этот проект: Как вы собираетесь научить искусственный интеллект принимать решения? Так же, как обучают людей, по Методу проб и ошибок? Перебором вариантов, субъективных гипотез и особых мнений? Но ведь ничего другого человечество и не умеет. Вообще, эта инициатива очень похожа на историю с изобретением Эдисоном научно-исследовательского института. Напомню, что при создании им, например, электрической лампы накаливания первые заметные успехи появились только после 6 тысяч опытов, а при изобретении щелочного аккумулятора после 50 тысяч!.. Чем сложнее становились изобретательские задачи, тем больше вариантов приходилось проверять, прежде чем найдется эффективное решение. Тогда Эдисон и придумал создать научно-исследовательский институт, что стало главным его изобретением. 50 тысяч проб он поделил на 1000 сотрудников в надежде, что с главным недостатком Метода проб и ошибок покончено навсегда. Однако он ошибся. Количество и сложность задач возрастают из года в год, а рост научно-исследовательских лабораторий сдерживается ограниченностью ресурсов финансовых, людских, материальных.14 И вот опять человечество пытается изобрести очередной НИИ, в данном случае в виде искусственного интеллекта, чтобы обойти трудности, создаваемые Методом проб и ошибок.
Да и сам искусственный интеллект создается по Методу проб и ошибок, о чем свидетельствуют и колоссальные инвестиции, и численность вовлеченного в проект персонала. Не пора ли ученым, наконец, всерьез задуматься об альтернативе этому не только разорительному, но и безнравственному и разрушительному методу? А ведь такая альтернатива давно уже сформулирована Е. П. Молчановым. Чтобы подойти к ней, я воспользуюсь вопросами, которые были заданы в ходе панельной дискуссии. Они касаются того, кто мы, где наше место во вселенной. Один из этих вопросов был задан из аудитории: «Насколько велика, если это оценено, вероятность психологического краха от проблем с самооценкой у человечества в связи с возникновением искусственного интеллекта, в плане: они великие, могут все, а мы уже вроде как ничто. Зачем мы нужны?» А второй вопрос от Т. В. Черниговской: «А что будет после человеческой цивилизации? Нам вообще-то никто не обещал, что мы последние цари природы»15