GPT-3, самоуправляемые автомобили, IBM Watson и AlphaZero — это все примеры систем, созданных для решения сложных и неалгоритмизируемых, но прикладных задач. Все это сейчас называют narrow AI, и его перспективы и влияние на то как мы будем жить завтра уже невозможно отрицать — GPT пишет тексты, AlphaZero выигрывает, автомобили ездят.
С Artificial General Intelligence (то есть с сильным ИИ) все гораздо менее понятно. Для того чтоб войти в эту категорию программа должна не просто решать определенную задачу, но и быть способной выбирать свои цели и адаптироваться. То есть — ей придется иметь иметь собственные желания и мотивации, которые могут (и будут) отличаться от желаний ее создателей. Страшно?
Это и есть собственно основной парадокс сильного ИИ — какой смысл разрабатывать искусственный разум, который будет заниматься тем, что интересно ему, а не его создателям? И здесь от технологии и философии (кстати, проблематика сознания и интеллекта — одна из самых «горячих» философских областей сейчас) придется ненадолго прыгнуть прямиком в литературу.
Образ взбунтовавшего и вероломного ИИ — настолько часто встречающаяся деталь в литературной и киношной фантастике, что появилась она чуть ли не раньше чем настоящие компьютеры. Это не преувеличение, рассказы о позитронных роботах Азимов начал писать в сороковых годах прошлого века, первые полнофункциональные цифровые компьютеры появились примерно в то же время. Впрочем, от сколько-нибудь значимого интеллекта их отделяли океаны человеко-часов работы инженеров и ученых.
Я без напряжения могу вспомнить с десяток фантастических произведений где главным антагонистом или бездушной угрозой человечеству был именно ИИ.
ИИ в фантастике:
- Занял ту нишу, которую в средневековой литературе занимали демоны и духи. Нечто непонятное, но хитрое и злокозненное. Почти идеальный враг рода человеческого.
- Кроме того, отлично резонирует с идеей ИИ классический мотив чудовища Франкенштейна — ошибки ученого, порождающего монстра. Кстати, если вы не курсе — чудовище это один из самых популярных отрицательных героев кинематографа, про него снято около сотни лент.
- Ну и не забываем про феномен «зловещей долины» — страха и отвращения вызванного «почти похожим» на человека обьектом. Не исключено что этот эффект заставляет нас негативно воспринимать идею искусственной замены разума.
Я это к тому что негативное и предубежденное отношение к искуственному интеллекту есть уже сейчас, при том что сам сильный ИИ еще не реализован. И это негативное восприятие в значительной мере определяет наши ожидания от будущего.
Бунт ИИ, как замечательно подмечено в этой карикатуре Nik_Aragua — это отражение наших собственных социальных конструктов и конфликтов, а вовсе не какая-то обьективная реальность.
На данный момент мы настолько мало знаем об ИИ (еще не построенном) что все наши предположения и утверждения базируются на проекциях человеческого поведения — подросткового бунта, страха смерти, сепарации от родителей и так далее.
Так для чего нам сильный ИИ?
Для начала, создание разумных, но нечеловеческих существ — это грандиозная научная и инженерная задача, способная открыть целые разделы теоретического и прикладного знания. Предсказать сейчас что она даст человечеству так же сложно, как в 19 веке, с появлением первых лампочек накаливания — предвидеть электронику и мобильную связь.
Свобода воли для сильного ИИ — это не побочный эффект, это одна из основных его характеристик. И поэтому для ИИ необходимо будет разрабатывать свою мораль, этику, философию. Даже скорее во множественном числе — морали, этики и философии.
Мы, люди, наконец сможем увидеть себя со стороны. И возможно, определим где находятся те слепые пятна, возникающие из-за устройства нашего разума. Помните, в «Ложной слепоте» инопланетяне прячутся от человеческого взгляда в саккадах — моментах рефлекторного движения зрачков. Нечто подобное может происходить и с человеческими мыслями. Мы можем упускать что-то чертовски важное в своих взглядах на мир.
Страшно ли будет людям при появлении первого сильного ИИ?
Безусловно.
Каждый раз когда наше представление о мире и его сложности кардинально изменяется — становится страшнее. Насколько страшнее стало жить в мире где мы узнали что вверху нас — черная бездна космоса? Когда узнали что болезни вызывают крошечные почти неживые куски белка?
