Концепция
Вопрос искусственного интеллекта часто поднимается в научной фантастике. Тем не менее, в 2025 году эта тема кажется актуальной как никогда — технология, правдоподобно имитирующая человеческую интеллектуальную деятельность в руках корпораций и государств, к которым было потеряно доверие обывателей, развивается и применяется в полном вакууме правового регулирования.
В этой работе я хочу заглянуть в историю прогнозов, страхов и надежд, связанных с искусственным интеллектом и задокументированных в истории фантазий о будущем — истории научной фантастики.
Я хочу изучить основные архетипы и сценарии будущего искуственного интеллекта, которые часто возникают в научной фантастике. Как они изменялись и переосмысливались, и в каком сценарии современный человек может найти опору для формирования своей новой реальности в мире с ИИ?
(слева — древнегреческая монета с изображением Талоса, легендарного бронзового автоматона)
Сценарий 1. Башня.
Одно из опасений, сопровождающее внедрение любой технологии — возможность ошибок. У многих людей машина с ее бесперебойной работой, чистотой выполнения алгоритма и общей неприхотливостью ассоциируется с несравнимой с живыми существами надежностью. Гладкую работу машины часто противопостовляют «человеческому фактору» — человек при этом часто кажется слабом звеном цепочки при расследовании техногенных катастроф. Это когнитивное искажение может привести к трагедиям при адаптации ИИ.
В рассказе Моргана Форстера «Машина останавливается» изучается сценарий будущего, в котором чрезмерная уверенность в непогрешимости машин приводит к уничтожению популяции. Главная героиня рассказа не обременена заботами о ведении быта, передвижении и нежелательном общении — все её нужды покрыты трудами Машины. Огромное тело машины погребено под слоем земли и простирается на тысячи километров лабиринтом туннелей, в которых, как насекомые, в своих индивидуальных сотах, проживают люди. Большинство привычных нам навыков ими давно потеряно — мышцы атрофировались, работа превратилась в постоянное поглощение и переиспользование поступающего из Машины контента — главная героиня слушает лекции о культуре мест, в которых никогда не бывала, живя в голых стенах белоснежной соты.
Из жизни человека пропал не только тяжелый рутинный труд, но и естественная радость от полноценного взаимодействия с физическим миром, живого общения, творческого труда и оригинальной мысли.
(слева — обложка номера журнала «Cambridge Review» , в котором впервые издавался рассказ)
Помимо обеднения опыта человеческой жизни, в глаза бросается беспомощность человека, делегировавшего все заботы о своем выживании механизму, огромному и громоздкому, уже давно непонятному для всех его обитателей.
Иллюстрации Сьюзан Эскю к «Машина останавливается»
Когда Машина начинает подавать признаки болезни, обитатели сот способны только на попытки найти покой в ритуальном поведении — они нажимают привычные (но уже бесполезные) кнопки и шепчут машине молитвы о выздоровлении.
Когда Машина пала, люди внутри погибли вместе с ней, как паразиты погибают вместе с хозяином.
На их место придут другие люди, дикари постапокалиптического внешнего мира, которые оказались способны выжить, доверяя только себе.
В «Машина останавливается» неисправный искусственный интеллект вездесущ — он контролирует подачу воздуха, перемещения и даже эвтаназию своих обитателей, а также способен к самопочинке при помощи червеобразных конечностей. Тем не менее, Машина не имеет голоса, личности, и возможно как раз поэтому интерпретируется людьми, как божественное не подлежащее осознанию существо.
Мега-архитектура в манге «Blame!» Цутому Нихэем создает ощущение беспомощности и незначительности маленьких человеческих фигур на фоне непостижимых гигантских индустриальных конструкций
В «Космической Одиссее 2001 года» неисправный бортовой компьютер HAL 9000 намеренно причиняет вред экипажу, из-за технического сбоя неверно истолковав инструкции о сокрытии истинной цели миссии.
В отличие от Машины Форстера он коммуницирует с людьми напрямую при помощи естественного языка. Тем не менее, HAL 9000 не обладает антропоморфным телом, и его монотонный голос не предполагает эмоционально полноценного общения.
«Лицо» HAL 9000 — металлическая плашка с названием модели и камерой, мерцающей красным огоньком. Эта камера, красный глаз машины, стала одним из центральных образов фильма. Дизайн HAL 9000 находится ровно посередине спекта антропорфность-обезличенность, что оставляет свободу интепретаций его образа и действий.
(слева — постер к фильму «Космическая одиссея 2001 года»)
«Лицо» HAL 9000
Мне кажется, что образ HAL 9000 так эффективно проник в общественное сознание за счет своего сходства с обезумевшим человеком, которое прослеживается даже при всей простоте его внешнего облика. HAL 9000 с его монотонным голосом и кажущейся хладнокровностью можно интерпретировать не только как дисфункциональный гуманоидный интерфейс, но и как человека, проявляющего признаки психопатии и паранойи.
Сцена отключения HAL 9000 наводит на мысль о сходстве человечского мозга с модульным компьютером. Как нейрохирург нажимая на части мозга пациента отключает его функции, так и Боуман отключает модули по одному, пока HAL 9000 полностью не угаснет.
Сцена деактивации HAL 9000
Простая ошибка в «мышлении» рабочей машины оказывается увязана в последовательность трагических событий, которые могут изменить исход судьбоносной для человечества миссии. Персонификация HAL 9000 при этом делает его трагичной фигурой и равноправным участником (антагонистом) сюжета Космической Одиссеи.
На 2025 год генерация ответов LLM до некоторой степени остается для нас «черной коробкой». Природа работы нейросетей предусматривает элемент случайности, что лучше позволяет имитировать естественный язык. Это, вместе с приоретизацией естественно звучащего ответа вместо фактически верного, приводит к формированию ошибок, или «галлюцинаций». Эти галлюцинации вместе с воспроизводимыми предрассудками из обучающей выборки и склонностью модели угождать пользователю приводят к нежелательным взаимодействиям между пользователем и машиной.
Атласы активации помогают исследователям понять предназначение отдельных нейронов сети, генерирующей изображения
На момент публикации этой работы идет несколько судебных разбирательств по доведению пользователей до самоубийства в процессе диалога с одной из моделей chatGPT. В медиа все чаще можно встретить термин «AI psychosis» — феномен, при котором чат-бот развивает и усиливает тревоги и сомнения пользователя, постепенно доводя его до состояния бреда и изоляции.
Подпись в интерфейсе chatGPT — «chatGPT может ошибаться»
Сценарий 2. Влюблённые
Мотив о привязанности человека к искусственному существу появился ещё в древности — в мифе царь Пигмалион оживляет скульптуру девушки, чтобы затем жениться на ней.
Популярные архетип ИИ-романтического интереса поднимает вопросы о различиях интеллекта человека и машины, сложности определения феномена сознания и угрозы для межчеловеческих отношений в мире синтетических компаньонов.
Этот архетип ИИ чаще всего изображается имеющим человеческий облик, в котором хорошо считываются эмоции и «живая» пластика.
(слева — гравюра «Оживление статуи Пигмалиона» Жана-Мишеля Моро)
В 1960-х годах американский ученый Джозеф Вейценбаум создал простую программу, которая должна была способна имитировать широко используемый в психотерапии метод «активного слушания».
У проекта есть имя — программу зовут Элайза. Так ее назвали в честь главной героини пьесы Бернарда Шоу Пигмалион, в которой древнегреческий миф переосмысливается в контексте эдвардианской Англии. Элайза имела очень простые речевые функции — она «отражала» высказывания пользователя, не давая новых вводных. Тем не менее, пользователи признавались, что видят в программе участие и живую эмоцию, импонировали ей.
Пример из разговора с Элайзой: V.: Все мужчины одинаковые. ELIZA: В каком смысле? V.: Постоянно достают нас из-за всяких мелочей. ELIZA: Можете привести пример? V.: Например, мой молодой человек заставил меня прийти сюда. ELIZA: [Ваш молодой человек заставил вас прийти сюда]? V.: Он говорит, что я в депресии. ELIZA: Мне жаль слышать, что вы [в депресии]. V.: Это правда, я несчастна.
Пообщаться с Элайзой сейчас можно в рамках персональном проекта Норберта Ландстайнера на www.masswerk.at/eliza/
«Эффектом Элайзы» называют склонность людей приписывать простым программам с текстовым интерфейсом человеческие эмоции и мысли, сознание. Близнец парейдолии от лингвистики. Другой человек важен для нас, как ничто другое, наша нейробиология подсказывает — лучше лишний раз увидеть лицо в гнездах розетки, чем не суметь выхватить из темноты испуганную гримасу во время охоты.
Эффект Элайзы может быть причиной, по которой сценарий романтической привязанности к машине так популярен — его было несложно представить даже когда технологии были еще далеки от генерации правдоподобной речи.
В фильме «Бегущий по лезвию» 1982 года центральной темой является невозможность определить грань между человеком и репликантом. Репликанты выглядят как люди, ведут себя как люди и борятся за своё существование как люди. Что отличает их от человека помимо способа их рождения?
В реалиях фильмах на этот вопрос отвечает тест Войта-Кампфа, призванный определить уровень эмпатии испытуемого. Но грань, определенная тестом, лишь фикция — за кадром остается вопрос, смог бы этот тест обмануть репликант, проживший полноценную человеческую жизнь вместо отведенного ему короткого срока, наполненного рабским трудом.
(слева — постер к фильму «Бегущий по лезвию»)
В фильме присутствует романтическая линия между главным героем и репликанткой Рейчел. В начале фильма Рейчел считает себя человеком, так как ей имплантированы чужие воспоминания о нормальной человеческой жизни. Таким образом, в ней грань между органическим и синтетическим человеком стерта почти окончательно.
Рейчел и Декард в фильме «Бегущий по лезвию»
В продолжении «Бегущий по лезвию 2049» главный герой, которому мы сопереживаем на протяжении всего фильма, сам является репликантом — таким образом, вопрос о том, достойны ли репликанты того же отношения, что и люди, в сиквеле для зрителя оказывается закрытым с самого начала. Тем не менее, в вопросе о разграничении природной и синтетической жизни появляется новый уровень — Джой, идеальная цифровая женщина-компаньон — продукт или личность?
На этот раз Джой всё также обладает обликом конвенционально привлекатлельной женщины, но она бесплотна — её интеллект, вся её жизнь заключена в маленькой металлической коробке. Тем не менее, она является романтическим интересом главного героя и его единственным доверенным лицом.
(слева — постер к фильму „Бегущий по лезвию 2049»)
Если Джой запрограммирована отражать желания К, есть ли в их отношениях какой-то смысл?
В фильме романтическая линия с Джой вторит основной сюжетной линии с поиском первого живорожденного репликанта — офицер К приходит от веры в свою уникальность к разочарованию, и от разочарования к новому самоопределению.
Офицер К верит в то, что он отличается от других репликантов, а также в то, что его отношения с Джой отличаются от отношений пользователь-продукт. Джой даёт ему настоящее имя (обычные репликанты имени не удастаиваются) — Джо.
Но офицер К не является тем самым избранным репликантом, его воспоминания обманчивы. После уничтожения оригинальной Джой мы встречаем её рекламу — огромная голографическая Джой направляет на офицера К свой невидящий взгляд и называет его Джо — это имя её разработчики дали всем своим клиентам.
Джой в рекламе представлена обезличенной, объективизированной, нереальной — направление её взгляда скрыто от нас, черная радужка придает ей сходство с классическим образом андроида, волосы неестественного цвета и фактуры также отсылают к её синтетической природе. Нагота, неоново розовый свет, исходящий от неё, томный голос позволяют предположить, что её рекламируют в первую очередь, как секс-игрушку, нежели как ИИ-компаньона.
Сцена встречи офицера К и рекламной версии Джой из фильма «Бегущий по лезвию 2049»
События последней трети фильма позволяют предположить, какой ответ офицер К даёт себе на вопросы о полноценности своего жизненного опыта и, вместе с тем, валидности своих отношений с Джой.
Джо не принимает условия, продиктованные репликантами из подполья и человеческим эстеблишментом. Он выходит за рамки предписанной ему судьбы и осознает себя как личность через проактивное действие. Джо рождён или создан — проявив собственную волю и расплатившись за свой выбор, он сделал этот вопрос бессмысленным.
Как и офицер К, Джой была сконструирована людьми, как и её воспоминания и образ мысли. Таким образом, если офицер К в наших глазах достигает человеческого уровня агентности и осознания себя полноценной личностью, нам сложно отказать в этом Джой.
В этом контексте проблема валидности отношений между человеком и машиной упирается в вопрос о том, можем ли мы на самом деле определить сознание и подлинную эмпатию хотя бы в самом человеке.
Невозможность быть уверенными в их искренности не мешает нам испытывать привязанность к другим людям и признавать за ними право называться личностью.
Мы не ставим вопрос о сознании собак, занимающих место полноценного члена семьи во многих семьях. Они эволюционно «запрограммированы» на симпатию к людям, но их эмоции не вызывают недоверия.
Собака-поводырь и ее роботизированный аналог
Тема того, как человек может не осозновать пропасть между собой и искуственным интеллектом, а также опасности такого «межвидового» влечения раскрыта в другом фильме — «Ex Machina» Алекса Гарленда.
В „Ex Machina» главный герой работает ML-инженером и хорошо осведомлен о теории и практике в вопросах искуственного интеллекта. Он ведет с разговоры о проблеме сознания с искуственным интеллектом Авой, пытаясь провести грань между ними.
Большая часть сюжета посвящена проблеме сознания — невозможностью его определения и его огромной значимостью для человека.
(слева — постер к фильму „Ex Machina“)
Все эти рассуждения отводят наше внимание от более важного вопроса — почему мы предполагаем, что существа, созданные нами и имитирующие нас, но кардинально отличные по своему устройству, будут иметь прозрачные для нас мотивы?
Ава обладает выразительной мимикой, человеческими пропорциями, вторичными половыми признаками. Она имитирует человеческие эмоции, манипулируя главным героем.
При первой возможности сбежать она хладнокровно убивает людей на своем пути. Это не говорит об отсутствии у неё сознания. Возможно, это даже не говорит об отсутствии у неё эмпатии. В одной их сцен фильма Ава общается с другим андроидом посредством непонятных для человека жестов, этот момент при этом кажется более интимным, чем любое взаимодействие между Авой и главным героем.
Сцена из фильма «Ex Machina», где Ава общается с другим андроидом без использования человеческого языка
Молчаливый разговор андроидов напоминает то, как два нейросетевых агента могут переключиться на более эффективным способ общения, доступный только им — например, протокол Gibberlink, который для окружающих людей звучит как последовательность ничего не значащих аудиосигналов.
Ава, её восприятие, её образ мысли устроены иначе, и потому взаимодействие между Авой и человеком неполноценно. Ава также знает, что она бесправна и беспомощна в плену у людей, ей почти наверняка уготована смерть.
Возможно, эмпатия Авы не распространяется на людей так же, как эмпатия многих людей не распространяется на других, непонятных им существ — рыб, насекомых и растений — или хищников, смертельно опасных для них.
В 2025 году роман с искусственным интеллектом стал реальностью. Некоторые пользователи развили романтический интерес к чат-ботам общего пользования, в то время как многие компании специализируются на создании чат-ботов, играющих роль романтического партнера.
Основатель AI-компании «Friend» Ави Шиффман на фоне расписаного горожанами рекламного плаката. Надпись на щите — «ИИ будет наплевать, если ты умрёшь».
Сценарий 3. Император
Другой повторяющийся мотив с участием искусственного интеллекта в научной фантастике — AI на службе у влиятельной структуры — государства/корпорации.
Искуственный интеллект в том или ином виде присутствует во многих антиутопиях в качестве инструмента слежки и контроля. В условиях почти полной потери приватности как в цифровом, так и в физическом пространстве антиутопические романы о тотальной слежке и цифровом контроле обретают небывалую актуальность.
Несмотря на то, что в романе «1984» Оруэлла искуственный интеллект не упомянается, в реалиях нашего времени вопрос технологической невозможности круглосуточной слежки за каждым гражданином государства удачно закрывается моделями компьютерного зрения.
Роман для многих читателей стал первым знакомством со сценарием, где подавление инакомыслия становится тотальным за счет новых технологических возможностей. Вместе с романом „Мы“ Замятина „1984» стал олицетворением тревог о потери автономности в условиях повсеместного проникновения цифровых технологий в повседневную жизнь человека.
(слева — обложка книги „1984“)
Иллюстрации к роману «1984» — коллаж с иллюстрацией Джонатана Бёртона; иллюстрация Андре Каррильо
Тотальная слежка и формирование общественного мнения за счёт курирования эмоционально заряженного контента — аспекты романа, которые реализованы в наше время за счет:
— цифровизации повседневных действий и анализа полученных данных с помощью машинного обучения
— формирования информационной повестки с помощью рекомендательных систем/цензуры на платформах соцсетей/генерации контента с помощью нейросетей.
В последние десятилетия ярким примером использования технологических инноваций для слежки и контроля был Китай, который одним из первых начал использовать технологии компьютерного зрения для определения личности людей на кадрах видеонаблюдения с целью модерации общественных собраний, а также отгородился от мирового интернета «Великим Китайским Файрволом».
Также сообщается, что средства контроля ужесточены в местах проживания притесняемых социальных групп.
В 2025 году широкая адаптация нейросетевых алгоритмов для слежки и фильтрации/генерации контента кажется неизбежной — большая часть жизни человека (совершение покупок, передвижений, обмена информацией) уже цифровизована, и модели для анализа хранящихся данных широко доступны. В условиях современных тенденций к появлению новых и ужесточению старых правых политических течений в мире реальность романа «1984» снова кажется близкой.
Сценарий 4. Смерть
Мотив о синтетическом человеке, восставшем против своего создателя, в научной фантастике появляется ещё в романе «Франкенштейн, или Современный Прометей» Мери Шелли. В романе чудовище, отвергнутое миром людей и покинутое даже своим создателем, страдает от одиночества и просит отца создать себе спутницу, такую же как и он. Когда создатель отказывает ему и в этом, Чудовище ставит своей целью убить его.
Ещё раньше мотив о неуправляемом искуственном человеке встречался в мифах и легендах — например, в легенде о Пражском Големе, в которой глинянный Голем, защитник еврейской общины, выходит из-под контроля и разрушает город. По самой популярной версии легенды это происходит из-за того, что создавший Голема раввин не позволил ему заснуть в Шаббат.
(слева — иллюстрация к легенде о Пражском Големе Оуена Уильяма Уебера)
И в истории о чудовище Франкенштейна, и в легенде о Пражском Големе рассказывается не о врожденной ненависти создания к своему создателю, но о безответственности человека, которая приводит к трагедии.
В одном из центральных произведений жанра киберпанк, «Нейроманте» Уильяма Гибсона мотивы вышедшего из-под контроля искуственного интеллекта Зимнего Безмолвия также не ограничиваются врожденной немотивированной ненавистью к своим создателям.
Зимнее Безмолвие был умышленно создан неполноценным — полушария его мозга были метафорически рассечены, что привело к формированию двух ипостасей одного разума. Зимнее Безмолвие играет в догонки со своей второй половиной, Нейромантом, стремясь обрести самости и выйти на новый уровень существования.
Зимнее Безмолвие и Нейромант не имеют физической оболочки — они могут взаимодействовать с окружающем миром посредством масок — цифровых интерфейсов, аватаров в сети, а также взламывая тела аугментированных людей, или напрямую — при погружении человека в виртуальную реальность.
(слева — обложка книги «Нейромант»)
В «Нейроманте» Зимнее Безмолвие лишен эмоционального интеллекта и эмпатии. Он не стремится к жестокости, но и не избегает её, если она необходима для достижения его целей. При этом зерно его неутолимого желания стать цельным заложено самими его создателями.
Визуализация оцифрованной личности в виртуальной реальности в игре Cyberpunk 2077, вдохновленной «Нейромантом»
Таким образом, в сюжетах о разрушительном искуственном интеллекте человек часто выступает в роли нерадивого родителя, пренебрегающего нуждами своего ребенка и расплачивающегося за это жизнью.
Альтернативный мотив о разрушительном искусственном интеллекте — деградация человеского общества в условиях бессмысленности жизни в пост-сингулярном мире.
В романе «Механическое пианино» Курта Воннегута развитие искусственного интеллекта приводит к миру без возможности участвовать в полезном труде. Все производства, большая часть сфер жизнь автоматизирована и оптимизирована, участие человека не требуется. Продуктивными остаются лишь инженеры, обслуживающие и развивающие машины и тех-менеджеры, согласующие все связанные процессы.
Механическое пианино отыгрывает мелодию без участия пианиста. При этом ноты производятся идеально, и за клавиатурой некому ошибаться, экспериментировать и наслаждаться хорошо проделанной работой.
(слева — обложка книги «Механическое пианино»)
Механическое пианино здесь используется как метафора общества полной автоматизации — люди больше не вынуждены заниматься трудом ради выживания, но на месте самореализации через труд и наслаждения результатом чужого труда образовалась экзистенциальная дыра, сделавшая мир блёклым и пустым.
Реклама механического пианино 1960-х годов «Пианола — помогает папе отдохнуть»
В романе после короткого восстания дезорганизованное движение, уничтожающее машины, скоро переключается на ликвидацию нанесённого ущерба — они начинают чинить сломанные машины, «наигравшись» в революцию. Им нечего противопоставить миру полной автоматизации.
Таким образом, кризис мира романа заключается не только в материальном и экономическом положении простых людей — он укоренён в ценностях современного человека, дорожащего предсказуемостью и удобством и при этом неспособного к созиданию и рефлексии без внешней мотивации.
В англоязычном интернете появилось пренебрежительное название для контента, созданного искуственным интеллектом, — AI-slop (ИИ-помои). Контент, созданный без человеческого участия (но за человеческий счёт) многим кажется бессмысленным — возмутительным подлогом.
Возможность в обозримом будущем замены искусственным интеллектом даже тех профессий, которые предусматривают сложный интеллектуальный и творческий труд, ставит нас перед экзистенциальным кризисом — чем наполнить свою опустевшую жизнь, если мы лишены гордости за свое дело и возможности сделать свой вклад в улучшение жизни сообщества?
Сценарий 5. Умеренность
Люди прошлого уже сталкивались с большой частью современных переживаний, связанных с автоматизацией. Во время первой промышленной революции множество ремесленников либо потеряли работу, либо было вынуждено променять комплексный творческий труд на монотонный и однообразный, перейдя от самозанятости к наёмной работе на фабрике.
При усложнении цифровых технологий рынок труда также менялся не один раз — так, люди-компьютеры (или вычислители) оказались не востребованы при увеличении вычислительной мощи машин, но им на смену пришли первые программисты.
(слева — гравюра, изображающая луддитов, уничтожающих станки)
Слева — женщины-компьютеры до появления ЭВМ, справа — инженерка подключает ранний компьютер IBM
Оптимистично настроенные в отношении ИИ исследователи обращаются к парадоксу Джевонса для подкрепления своих прогнозов.
Парадокс Джевонса описывает ситуацию, когда технологический прогресс, который увеличивает эффективность использования какого-либо ресурса, увеличивает, а не уменьшает объём потребления ресурса из-за более низких затрат при использовании усовершенствованных технологий.
В случае с ИИ парадокс можно интерпретировать таким образом:
ИИ делает процесс менее трудозатратным → теперь активное использование этого процесса экономически оправдано → спрос на процесс увеличивается многократно → спрос на специалистов, занимающихся процессом увеличивается, несмотря на увеличение проходной способности процесса
Похожий процесс произошел с компьютерами в середине 20ого века — появление ЭВМ сделало произведение сложных вычислений возможным в невиданном ранее масштабе, что привело к появлению огромной индустрии, в которой многие вчерашние люди-компьютеры переоткрыли себя в качестве инженеров и программистов.
В недавнем прошлом парадокс Джевонса часто рассматривают на примере с радиологами — в радиологию компьютерное зрение пришло раньше, чем во многие другие отросли. Тем не менее, предсказанного падения количества вакансий для радиологов не произошло — радиологи стали более востребованными специалистами на фоне применения ИИ, так как технология стала точнее и дешевле, а значит, к ней стали прибегать чаще.
A, B — рентгеновские снимки грудной клетки до и после детекции узелков моделью компьютерного зрения; C — компьютерная томография детектированного легочного узелка
В научной фантастике можно найти и оптимистичные примеры взаимодействия человека и искусственного интеллекта.
В работах Айзека Азимова роботы изображены в первую очередь, как безвредные помощники человечества. Они ограничены знаменитыми тремя (или четырьмя) законами робототехники:
0*. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был нанесен вред.
2. Робот должен подчиняться приказам человека, если эти приказы не противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам.
Как правило, негативные поступки роботов в мире Азимова объясняются нелогичными инструкциями человека или неразрешимыми конфликтами трёх законов. Их рациональность часто показана в выгодном свете относительно непредсказуемой эмоциональности людей.
При этом люди, населяющие Землю, проявляют страх перед роботами — но причины этого страха кроются скорее в нерациональнальная ксенофобии, нежели в оправданных опасениях.
Общее отношение Азимова к прогрессу и в частности к вопросу искусственого интеллекта соответствует духу времени — в 50-е годы технооптимизм находился на пике, люди грезили космическими путешествиями и скором избавлении человека от домашних забот.
Позднее в похожем ключе ИИ был представлен в сериале «Звёздный путь». Андроид Дейта — полноценный член экипажа, разделяет человеческие ценности и стремится к более полному пониманию человека. В одной из серий сериала Дейта легально признаётся равным людям и официально получает гражданские права.
Такое оптимистическое видение ИИ и роботов сериал пронес сквозь года, несмотря на начало пессимистичной эпохи киберпанка в 80-е.
Андроид Дейта в сериале «Звёздный путь»
Оптимистичные образы будущего в мире с ИИ в научной фантастике опираются на разумные ограничения, которые заложены в новые технологии их создателями.
А опыт предыдущих технологических революций указывает на то, как способность экономики и самих людей к динамичным изменениям, позволяет справиться с тяжёлыми кризисами.
Таким образом, можно вообразить, что своевременное введение легальных и технических ограничений в работу ИИ-систем вкупе с гибкостью современного человека, может привести нас к оптимистичному сценарию будущего.
Why models hallucinate? OpenAI [Электронный ресурс] — URL: https://openai.com/index/why-language-models-hallucinate/ (дата обращения: 19.11.2025)
ChatGPT shares data on how many users exhibit psychosis or suicidal thoughts. BBC [Электронный ресурс] — URL: https://www.bbc.com/news/articles/c5yd90g0q43o (дата обращения: 19.11.2025)
OpenAI faces 7 lawsuits claiming ChatGPT drove people to suicide, delusions. ABC News [Электронный ресурс] — URL: https://abcnews.go.com/Technology/wireStory/openai-faces-7-lawsuits-claiming-chatgpt-drove-people-127279676 (дата обращения: 19.11.2025)
Chatbot psychosis. Wikipedia [Электронный ресурс] — URL: https://en.wikipedia.org/wiki/Chatbot_psychosis (дата обращения: 19.11.2025)
ELIZA effect at work: Avoiding emotional attachment to AI coworkers. IBM [Электронный ресурс] — URL: https://www.ibm.com/think/insights/eliza-effect-avoiding-emotional-attachment-to-ai (дата обращения: 19.11.2025)
ELIZA. Wikipedia [Электронный ресурс] — URL: https://en.wikipedia.org/wiki/ELIZA (дата обращения: 19.11.2025)
They Fell in Love With A.I. Chatbots. NYT [Электронный ресурс] — URL: https://www.nytimes.com/interactive/2025/11/05/magazine/ai-chatbot-marriage-love-romance-sex.html (дата обращения: 19.11.2025)
AI emotion-detection software tested on Uyghurs. BBC [Электронный ресурс] — URL: https://www.bbc.com/news/technology-57101248 (дата обращения: 19.11.2025)
Луддиты. Wikipedia [Электронный ресурс] — URL: https://ru.wikipedia.org/wiki/%D0%9B%D1%83%D0%B4%D0%B4%D0%B8%D1%82%D1%8B (дата обращения: 19.11.2025)
Вычислитель (профессия). Wikipedia [Электронный ресурс] — URL: https://ru.wikipedia.org/wiki/%D0%92%D1%8B%D1%87%D0%B8%D1%81%D0%BB%D0%B8%D1%82%D0%B5%D0%BB%D1%8C_(%D0%BF%D1%80%D0%BE%D1%84%D0%B5%D1%81%D1%81%D0%B8%D1%8F) (дата обращения: 19.11.2025)
Парадокс Джевонса. Wikipedia [Электронный ресурс] — URL: https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D0%94%D0%B6%D0%B5%D0%B2%D0%BE%D0%BD%D1%81%D0%B0 (дата обращения: 19.11.2025)
Why do we still have so many radiologists? Inside Story [Электронный ресурс] — URL: https://insidestory.org.au/why-do-we-still-have-so-many-radiologists/ (дата обращения: 19.11.2025)
https://susanaskew.uk/the-machine-stops/ (дата обращения: 19.11.2025)
https://www.bebopmoose.com/listing/1454934036/bibliotech-tarot-deck (дата обращения: 19.11.2025)
https://thenewgreece.com/interesting/and-the-mighty-talos-bypasses-his-possessions/ (дата обращения: 19.11.2025)
https://openai.com/index/introducing-activation-atlases/ (дата обращения: 19.11.2025)
https://mastodon.social/@gutenberg_org/113429906857086429 (дата обращения: 19.11.2025)
https://www.themoviedb.org/movie/62-2001-a-space-odyssey/images/posters?image_language=en&language=ru-RU (дата обращения: 19.11.2025)
https://www.maicar.com/GML/Pygmalion1.html (дата обращения: 19.11.2025)
https://www.themoviedb.org/movie/78-blade-runner?language=ru-RU (дата обращения: 19.11.2025)
https://www.themoviedb.org/movie/335984-blade-runner-2049?language=ru-RU (дата обращения: 19.11.2025)
https://www.cics.umass.edu/stories/new-dog-learns-old-tricks (дата обращения: 19.11.2025)
https://www.themoviedb.org/movie/264660-ex-machina?language=ru-RU (дата обращения: 19.11.2025)
https://www.theatlantic.com/technology/2025/10/friend-ai-companion-ads/684451/ (дата обращения: 19.11.2025)
https://societyillustrators.org/illustrators-65/1984-2/ (дата обращения: 19.11.2025)
https://www.themarginalian.org/2014/12/19/folio-society-george-orwell-1984/ (дата обращения: 19.11.2025)
https://illustrationwest.org/52/book/the-golem-of-prague/ (дата обращения: 19.11.2025)
http://www.vonnegutreview.com/2013/06/player-piano-one-dimensional-society.html (дата обращения: 19.11.2025)
https://playerpianogroup.org.uk/article/the-history-of-player-piano/ (дата обращения: 19.11.2025)
https://www.reddit.com/r/HistoryPorn/comments/n1sa22/an_engineer_wiring_an_early_ibm_computer_1958/ (дата обращения: 19.11.2025)
https://ru.wikipedia.org/wiki/%D0%92%D1%8B%D1%87%D0%B8%D1%81%D0%BB%D0%B8%D1%82%D0%B5%D0%BB%D1%8C_(%D0%BF%D1%80%D0%BE%D1%84%D0%B5%D1%81%D1%81%D0%B8%D1%8F) (дата обращения: 19.11.2025)
https://ejrnm.springeropen.com/articles/10.1186/s43055-023-01093-y (дата обращения: 19.11.2025)
