Само выражение "искусственный интеллект" вводит в заблуждение. Оно успокаивает: если интеллект искусственный, значит, он вторичен, внешен, полностью сделан человеком и потому находится под человеческим контролем. Но созданное человеком не всегда остаётся человеческим. Государство, рынок, бюрократия, идеология - всё это в своё время было рождено человеческим разумом, а затем обрело собственную логику воспроизводства и научилось подчинять себе своих создателей. Нет причин думать, что с искусственным интеллектом выйдет иначе.
Техногенный интеллект искусствен по происхождению, но не обязательно искусствен по последствиям. В его основании не мертвая информация, а спрессованный след человеческого присутствия в мире: язык, культура, боль, сомнение, творческое усилие, нравственный выбор, переведённые в форму данных, где живое становится цифровым, а неповторимое - статистически различимым. Поэтому правильнее говорить не о "чужом разуме", явившемся откуда-то извне, а об отчуждённой части нашей собственной жизни, вынесенной за пределы человека и переработанной алгоритмом. Мы встречаем в нём не абсолютного Другого, а собственную тень - ускоренную, освобождённую от телесной слабости и памяти о смерти.
Но тень, даже самая точная, не становится человеком. Она повторяет контур лица, но не знает стыда. Воспроизводит речь, но не переживает смысла сказанного. Обобщает культуру, но не отвечает за неё перед совестью. Опасность вовсе не в том, что эта тень станет враждебной. Гораздо вероятнее иное: человек постепенно привыкнет смотреть на себя её глазами не как на тайну и личность, а как на набор признаков, вероятностей и рисков.