1. Тест Тьюринга и не сдавшие его. Игра с нулевой суммой
Я сам обманываться рад
Пушкин
Алан Тьюринг в 1950 году в статье «Вычислительные машины и разум» предложил следующий тест. «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор».
В случае взаимодействия с человеком, а не с человечеством в целом, о чем мы поговорим позже, перед нами классическая игра с нулевой суммой: компьютер либо обманет человека, либо не обманет.
Недавно учёные-когнитивисты из Калифорнийского университета в Сан-Диего заявили, что ChatGPT-4 успешно прошёл тест Тьюринга, обманув испытуемых-людей в 54% случаев. Это, соответственно, означает, что сорок шесть процентов испытуемых не прошли тест Тьюринга. Можно ведь посмотреть на проблему и с этой стороны. Раз система выиграла — Каспаров проиграл.
В эпоху фейков, имитаций и манипулирования, когда человек массового общества пожелал материализации своих фантазий, в эпоху искусственных женщин, реборнов и прочего, в эпоху, когда тоталитаризм шагнул за рубеж индустриального общества и осваивает методы цифрового концлагеря, — в такую эпоху обман является востребованным рыночным продуктом. В этом смысле поражение человека во взаимодействии с искусственной системой желанно. Недаром же мы всякий раз радуемся, что не сдали тест Тьюринга.
Иное дело игра за пределами теста, особенно игра всего человечества с ИИ. Здесь мы явно имеем дело с так называемой игрой с положительной суммой и надеемся на win-win. В самом деле, ИИ помогает нам решать задачи, которые мы сами решить не сумели, особенно вне гуманитарной сферы. Но здесь открываются совершенно новые аспекты проблемы.
2. Я и оно. Игра с положительной суммой
Прохвост не может уловить вселенную.
Главная мысль Салтыкова-Щедрина
Обычно ИИ сравнивают с мозгом человека и приходят к выводу о превосходстве, если не сейчас, то позже, именно искусственного интеллекта. Опрокинем эти мысли на сравнение интеллекта человека с интеллектом животного.
Да, интеллект человека превосходит интеллект животного, даже нашего общего любимца кота, но значит ли это, что интеллект человека превосходит по сложности биосферу, что он может контролировать ее? Биосфера с ее эволюцией, мутацией и адаптацией много сложней нашего разума и во многих случаях ее развитие является для нас непредсказуемым. Человек с его сложным мозгом не в состоянии одолеть обыкновенный вирус. Мы постоянно имеем дело с не предсказанными нами следствиями.
То же рассуждение можно повторить относительно ИИ и человечества. Проблема, должно быть, состоит в том, что никакой интеллект, ни искусственный, ни естественный, не способен преодолеть второй закон термодинамики. Никакая система дифференциальных уравнений не способна описать процесс восстановления яйца из яичницы. Здесь, я думаю, кроется корень неспособности контроля над естественным как таковым.
Фантасты давно пугали нас тем, что роботы выйдут из-под контроля, и сегодня мы вновь обращаемся к их моделям. В основе этих опасений, как нетрудно догадаться, лежала мысль о восстании рабов. Видно, совесть у нас нечиста: заставляли роботов работать на себя, а они не хуже нас — обладают интеллектом.
И все же ни сознательный контроль ИИ над человечеством, ни контроль над ним тирана, вооруженного мощным ИИ, не представляется вероятным. Трудно контролировать человечество, которое к тому же является частью живого и даже природы как таковой. Непредсказуемые последствия будут возникать постоянно. Как ни крути, а придется иметь дело с системой более сложной, чем интеллект, системой с ее бесчисленными гомеостазами и адаптациями.
Опасность подстерегает нас с другой стороны — со стороны нашей собственной глупости. Это видно уже сейчас по тому, как мы пользуемся плодами ИИ в гуманитарной сфере. Грабли не обладают злой волей и волей вообще, они даже не могут себя воспроизводить и постоять за себя. Но если на них наступить, получишь по лбу. Но это особая история. И о ней ниже.
3. Обезличенность. Игра с дьяволом
— Вы тот, кого я ищу уже много дней.
Будьте добры, скажите мне, что у вас бывает на обед.
— Иди сюда, малютка, — ответил крокодил, — я тебе скажу на ушко.
Киплинг
Мы давно и бездумно копали под авторскую индивидуальность, ждали смерти автора, подрывали целостность текста. Нам хотелось отдать автора в полную власть читателя, а затем и пользователя. Это был один из самых утонченных видов культурного вандализма — вандализм интеллектуальный. В нем принимали участи самые видные и модные философы.
Мы давно и бездумно подкапывались под историзм, разрушали реальность, растворяли ее в альтернативной реальности. В этом тоже принимали участие не последние умы. Нам надоели причинно-следственные связи. Нам хотелось развлечься и расслабиться. В конце концов, должна же быть и у интеллигента своя возможность надругаться над культурой. Не может же он, как обыватель, удовлетвориться словами: «Толстой писал хрень». Отличник позавидовал двоечнику.
И вот все эти славные начинания получили техподдержку со стороны ИИ.
— А сочини-ка нам, приятель, как бы прозу, как бы Чехова, как бы, знаешь, про даму, как бы, это, с собачкой. И картинку нарисуй.
— ОК, — ответил крокодил.
«Как это мило!» — воскликнули мы и не заметили, что он схватил нас за нос.
А он схватил. Культура начала терять свои привычные очертания, вытягиваясь в чудовищный хобот. Отличники еще не догадывались, что их пятерки обесценились, а прочитанные книжки полетели в тартарары.
Фокус состоит в том, что ИИ будет и дальше совершенствоваться и приносить пользу в самых разных отраслях человеческой деятельности. Игра с положительной суммой будет продолжаться. Но и дьявол своей добычи не отдаст, и те разрушения гуманитарной культуры, которые мы сегодня наблюдаем и в которых участвуем, навряд ли восполнимы. Эта несъедобная лужа возле плинтуса уже не сложится в разбитое яйцо. Именно на уровне плинтуса и грозит зафиксироваться культурная планка массового общества. Не представляю, кто и как будет ее поднимать.