Будет ли искусственный интеллект, когда войдет в полную силу «добрым/полезным»? Или наоборот — станет «злым/убийственным» как демонстрируют нам многочисленные художественные произведения.

Этого никто не знает, прогнозы сейчас невозможны — нет накопленного опыта на который можно было опереться.

Перед человечеством сейчас множество черных ящиков, содержимое которых мы не представляем, и у нас есть возможность открыть некоторые из них с неизвестными сейчас последствиями. Теоретически можно отказаться их открывать, запретив разработку ИИ (но как реализовать такой запрет — я себе не представляю, и по моему не только я). Будущее, как и всегда, неопределено.

И поэтому я ничего не стану говорить о самом искусственном интеллекте. Поговорим об естественном.

Реакция на появления первых общедоступных ИИ-проектов была довольно предсказуема — озабоченность и паника. Люди вообще воспринимают резкие изменения в окружающей среде как опасность (на этом выстроен целый жанр фильмов-«скримеров»)

1. Технология ИИ, тихо-тихо развивавшаяся где-то там на задворках информационной индустрии, вдруг совершила необъяснимо резкий рывок, за пять лет перестав быть очень дорогой игрушкой для очень корпоративных клиентов.
2. И для многих это не выглядит добрым чудом. Технологические достижения такого масштаба приводят к тому что исчезают и категорически меняются  целые отрасли. Из того что происходило на моих глазах я помню бухгалтеров и архитекторов старой формации, проклинавших компьютеры, которыми нужно было срочно «овладеть» для того чтоб продолжать работать.
3. К тому же ИИ воспринимается не просто новой технологией, а настоящей личностью — конкурентом по рынку труда. Причем конкурентом сверхчеловеческого толка — он работает с поразительной скоростью, не ест и не пьет и даже не получает зарплаты. Есть чего бояться.
4.  А на это все сверху накладываются еще апокалиптические ожидания, подсказанные фильмами и литературой. Образ бездушной и беспощадной машины, превосходящей человека во всем, «злого механического бога» — был рожден не вчера и даже не позавчера. Насколько реальный ИИ будет похож на HAL-9000, Скайнет и прочих электронных злодеев сейчас никто не скажет. Но от  этих образов крайне сложно абстрагироваться когда мы произносим слова «реальный ИИ».

Наши страхи —  такой же материал для построения будущего как мечты и планы. А для создания ИИ, пожалуй, даже более важная.

Это ведь тот редкий случай когда для осуществления технического проекта придется решать вопросы не только эффективности и затратности, но и этических последствий, образа будущего.

И способ формулирования проблемы в общественной дискуссии будет влиять на то, какой именно ИИ будет создан.