Санта или Сатана?

Будет ли искусственный интеллект, когда войдет в полную силу “добрым/полезным”? Или наоборот – станет “злым/убийственным” как демонстрируют нам многочисленные художественные произведения.

Этого никто не знает, прогнозы сейчас невозможны – нет накопленного опыта на который можно было опереться.

Перед человечеством сейчас множество черных ящиков, содержимое которых мы не представляем, и у нас есть возможность открыть некоторые из них с неизвестными сейчас последствиями. Теоретически можно отказаться их открывать, запретив разработку ИИ (но как реализовать такой запрет – я себе не представляю, и по моему не только я). Будущее, как и всегда, неопределено.

И поэтому я ничего не стану говорить о самом искусственном интеллекте. Поговорим об естественном.

Реакция на появления первых общедоступных ИИ-проектов была довольно предсказуема – озабоченность и паника. Люди вообще воспринимают резкие изменения в окружающей среде как опасность (на этом выстроен целый жанр фильмов-“скримеров”)

  1. Технология ИИ, тихо-тихо развивавшаяся где-то там на задворках информационной индустрии, вдруг совершила необъяснимо резкий рывок, за пять лет перестав быть очень дорогой игрушкой для очень корпоративных клиентов.
  2. И для многих это не выглядит добрым чудом. Технологические достижения такого масштаба приводят к тому что исчезают и категорически меняются  целые отрасли. Из того что происходило на моих глазах я помню бухгалтеров и архитекторов старой формации, проклинавших компьютеры, которыми нужно было срочно “овладеть” для того чтоб продолжать работать.
  3. К тому же ИИ воспринимается не просто новой технологией, а настоящей личностью – конкурентом по рынку труда. Причем конкурентом сверхчеловеческого толка – он работает с поразительной скоростью, не ест и не пьет и даже не получает зарплаты. Есть чего бояться.
  4.  А на это все сверху накладываются еще апокалиптические ожидания, подсказанные фильмами и литературой. Образ бездушной и беспощадной машины, превосходящей человека во всем, “злого механического бога” – был рожден не вчера и даже не позавчера. Насколько реальный ИИ будет похож на HAL-9000, Скайнет и прочих электронных злодеев сейчас никто не скажет. Но от  этих образов крайне сложно абстрагироваться когда мы произносим слова “реальный ИИ”.

Наши страхи –  такой же материал для построения будущего как мечты и планы. А для создания ИИ, пожалуй, даже более важная.

Это ведь тот редкий случай когда для осуществления технического проекта придется решать вопросы не только эффективности и затратности, но и этических последствий, образа будущего.

И способ формулирования проблемы в общественной дискуссии будет влиять на то, какой именно ИИ будет создан.