a black and white photo of various mri images

Разум без воли и эмоций (часть четвертая)

Я не могу ничего внятного написать о сильном ИИ, он же AGI. Он пока настолько теоретичен, что все разговоры о нем – пустая спекуляция (в моем исполнении – уж точно)

Но о чем поговорить придется – так это о гонке, которая сейчас идет для того чтоб первыми добраться до реализации сильного ИИ. Она, гонка, выглядит вполне нешуточной, со всей атрибутикой большого политико-технологического соревнования. Ближайшими аналогиями выглядят две другие такие  гонки середины 20-го века – космическая и ядерная.

Впрочем, пока мы она на том этапе когда успешность достижения цели выглядит далеко не очевидной. В конце-концов кроме двух означенных гонок, в целом довольно успешных, в истории существовали и такие гонки которые ни к чему не привели.

Термоядерная энергетика с ее черепашьей скоростью прогресса. Или, скажем, попытки создавать компактные ядерные реакторы и встраивать их в танки, вездеходы, самолеты и даже автомобили – что оказалась очень дорогим и бессмысленным тупиком. В тупик же зашла гражданская сверхзвуковая авиация (хотя и на совершенно другом этапе своего жизненного цикла).

А скажем американская “Стратегическая оборонная инициатива”, возможно, вполне сознательно было придумана для усиления гонки вооружений и создания экономического давления на и так слабую советскую экономику.

Сейчас у нас нет никакого ответа не вопрос – к какой же категории относится эта гонка. Поэтому просто перечислю варианты которые имеются:

  1. Полный и быстрый успех. Собственно, это означает наступление пресловутой сингулярности. Течение человеческой истории в этой точке заканчивается, а то что за ней уже происходит по совсем другим законам и правилам. Возможно там техноутопия, Скайнет с уничтожением человечества, Батлерианский Джихад – все равно на этой стороне сингулярности нам это не угадать и не подготовится.
  2. Частичный успех. Современные технологии – невероятный сложный сплав из научных и прикладных достижений, быстрый прогресс скорее исключение чем правило.  Да собственно даже усилия, затраченные на достижения успехов в слабом ИИ – доказывают что быстрого успеха зачастую достигаешь после долгих десятков лет медленного прогресса. Десятилетия, вставшие между целью и сегодняшними тратами – могут серьезно охладить пыл и дать возможность подготовится к изменениям.
  3. Технотупик. Успехи, достигнутые в малом ИИ – могут оказаться несбывшимися ожиданиями в “большом”. Если использовать аналогию с человеческим мозгом – то на данный момент мы научились частично симулировать неокортекс, гиппокамп и мозжечок. Весь остальной мозг, то есть его большая часть – пока очень далека от симуляции. И подходы, наработанные сегодня для создания современных нейросетей могут оказаться движением не к сильному ИИ – а тупиком.

Но это все в будущем, а в настоящем само явление технологической гонки влияет (и сильно) на развитие ИИ. Те фантастические бабки, которые сейчас ассигнуются на внедрение имеющихся технологий и разработку новых, ассигнуются именно из-за ощущения гонки. И в тот момент когда это ощущение пропадет – может возникнуть откат, который сильно подморозит развитие ИИ.

В продолжении – возвращаемся назад от прогнозов к той ситуации которая уже есть (ну или будет в ближайшем будущем)…