26.05.2023
Как узнать, не окружают ли нас боты?
Наталья Ростова
Появление разработок с элементами искусственного интеллекта нового поколения вызвало зимой этого года бурную реакцию, как среди акул бизнеса, офисного и медиа- планктона, так и в кругу неравнодушных пользователей. Американские, китайские и европейские it-игроки стали бороться за нишу, журналисты Daily Mail и прочие операторы данных обеспокоились тем, что их работу будет выполнять ChatGPT, учащиеся увидели новый ресурс для аутсорсинга своих прямых обязанностей, научные сотрудники и художники почувствовали собственную никчёмность, пользователи были тронуты сетованием новых ботов на то, что люди в них видят лишь ботов.
О чём нам говорит этот ажиотаж? Не о проблемах конкуренции, трудовой занятости, баланса между безопасностью и комфортом, что составляет суть массового треволнения, а о том, что в феномене ChatGPT общество обнаружило предел своих ожиданий относительно человека.
Сознание разработчиков бота резюмируется в отчёте самого бота о его ограниченности. Как информирует нас бот: «Хотя я могу помочь с какими-то рутинными задачами вроде сообщений о погоде или пробках, мне вряд ли удастся полностью заменить журналистов. Кроме, собственно, написания текстов, нужно уметь анализировать информацию, интерпретировать ее и подавать аудитории в корректном виде. А ещё понимать социальный и политический контекст новостей. У человека это получается лучше. Искусственный интеллект может быть скорее полезным инструментом, который делает работу эффективнее» (курсив мой).
Иными словами, если бот – это буквально Generative Pre-trained Transformer, или, что то же самое, «трансформер, обученный на генерацию текста», то человек – это на данный момент, согласно пониманию современного общества, более совершенный в смысле адаптивности к ситуации генератор данных. У них одна сущность, но количественные отличия.
Бот может сгенерировать диплом, оригинальность которого другая информационная система оценит более, чем в 80%, а студент получит на защите лишь замечания относительно качества русского языка и некоторой несвязности текста. Это говорит не о находчивости новоиспеченного бакалавра на фоне непросвещенности в сфере технологических новинок экзаменаторов, а о том, что запрос общества к человеку обращен к его нечеловеческим качествам. Ведь студент мог сам написать диплом, и результат был бы таким же - тот же текст, и та же удовлетворительная оценка от комиссии. Бот со временем усовершенствует механизм применения русского языка, получит от разработчиков «новые модальности» и данные последних лет, чтобы не ошибаться в фактах, и станет, наконец, совершенным оператором данных.
Проблема состоит не в том, что алгоритмические операции способны превосходно выполнять машины, упрощая нашу жизнь, а в том, что мы не можем зафиксировать пространство неалгоритмического типа, то есть собственно человеческое. Социум видит в человеке несовершенного бота, а в боте – пока ещё несовершенную нейросеть. Во взаимном притяжении человека и бота разрешается задача современного общества. Чаемая трансгуманистами точка сингулярности, в которой должны слиться человек и ИИ, есть не что иное, как обнаружение этой редукционистской логики, согласно которой суть человека – в мозге, а сознания – в обработке информации. Но вопреки трансгуманистам и примкнувшему к ним Н. Хомскому, для которого «человеческий разум — удивительно эффективная и даже элегантная система, оперирующая небольшими объемами информации; он стремится не выводить грубые корреляции между точками данных, а создавать объяснения», и только этой элегантностью и отличается от ИИ, сознание – это не то, что относится к «data», данным, а то, что позволяет человеку из ничто посредством различия получать что. То есть мыслить и творить.
Как же узнать, не окружают ли нас боты? Вопрос этот не проистекает из так называемого ужаса зловещей долины. Он навеян обеспокоенностью тем безальтернативным позитивизмом, который стал определять наше сознание. Проблема ботов заключается не в том, что они могут заменить людей, а в том, что наше самоописание сводится к пониманию себя как ботов, апофеозом чего является недавний тезис Жижека о том, что Идиот Достоевского и Трамп – плоские чатботы.
Научный разум не избавил нас от суеверий, но породил самое грандиозное из них – убеждённость в тождестве сознания и машины. Суеверие XXI века, возникшее вследствие нечувствительности науки к границе между тем, что сообразно онтологии её ума, а что нет, обнаружило себя в идеях искусственных субъектов, этики и правового статуса ИИ. Апогеем этого суеверия стали обсуждения об ограничении развития нейросетей, хотя бы на краткосрочную перспективу, будто воображаемое клонирование сознания может стать открытием очередного ящика Пандоры. Мы только забыли о том, что сознание в отличие от информации не множится, не клонируется и не передаётся. Даже любая теория социальной интериоризации сознания предполагает ту внутреннюю, не называемую, как правило, инстанцию, которая изнутри будет принимать то, что извне. Иначе мы будем вынуждены говорить не о социальной сути сознания, а о дрессировке. Нам нужна не этика ИИ и юридические нормы для ИИ, а социальные регуляторы ответственности граждан и корпораций ввиду развития технологий. К примеру, виртуальная девушка в хиджабе, которую банк Бахрейна зачислил себе в сотрудники, расширяет ответственность банка и разработчиков программы в связи с использованием подобных технологий.
Ответ на вопрос «Как узнать, не окружают ли нас боты?» состоит не в рецепте проведения сравнительного анализа человека и бота, одного текста и другого, а в утверждении о том, что само сравнение невозможно.
Нелепо искать отличие сознания от искусственных систем на языке самих этих систем. Такой подход предопределяет ответ на заданный вопрос. Очевидно – в пользу систем. Чтобы задать вопрос, нужно найти язык, способный умолчаниями выговорить то, в чём состоит истина человека. К примеру, мы видим три чёрных квадрата: один нарисовал ребенок, другой – Малевич, третий – распечатали из сети на принтере. На языке фактов мы видим последовательность аналогичных графических изображений, сравнить которые мы можем на уровне языка геометрии, материала исполнения и проч. наличных характеристик. Иными словами, по существу эти квадраты мы не отличим, но лишь выстроим из них бессмысленный ряд. Другое дело, если мы прочитаем 5-томник Малевича, и в нас запустится внутренняя работа по актуализации мистериальных смыслов этого антикультурного жеста пророка нового мира. Тогда чёрный квадрат перестанет быть геометрической фигурой, но станет окном во внутренний мир, исполненный живым синтезом наших умосозерцаний и интуиций художника. Когда мы обратимся к рисунку ребенка, мы увидим не факт, а застывшую эмоцию. Квадрат, распечатанный на принтере, не более, чем полиграфическая продукция. Почему в первом случае ряд квадратов был бессмысленным? Потому что между квадратами не было ничего общего. Можно сгенерировать изображение, даже библейских пророков, как это делается сегодня; можно сгенерировать текст, в том числе проповедь для протестантского пастора, что также имеет место, но нельзя сгенерировать внутреннее чувство. Почему его нельзя сгенерировать? Потому что причина чувства находится в самом человеке. Его суть не механическая, а антропологическая. Эмоция нуждается не только в том, чтобы мы ее учреждали, но и в том, чтобы мы удерживали себя при ней. Она нуждается в нашем непрестанном усилии и никаким иным образом не существует.
Ажиотаж вокруг новых нейросетей подводит нас к мысли о том, что, если мы ещё люди, мы не можем избежать чувства неудовлетворенности культурой, которая не предоставляет для нас пространства, в котором мы могли бы жить внутренней жизнью, учреждая и доопределяя смыслы и фигуры созерцаний.
26.05.2023
Статьи по теме