🏠︎ Будаев Даниил Артемьевич

Слишком человеческое: причины коммуникативных ошибок в ситуации «человек — машине»

Материалы конференции "Философские аспекты языковых моделей искусственного интеллекта". Лаборатория цифровой философии, 2025

Я попытался дать искусственному интеллекту карт-бланш, чтобы посмотреть, насколько он вообще способен генерировать, скажем так, сколько-нибудь разумный философский текст. Свои рефлексии я сейчас попробую озвучить.
Почему-то мне показалось, что у него это не очень получилось. Сразу прошу обратить внимание на словосочетание “слишком человеческое” в названии. Я попробовал “закинуть удочку”: данные, которыми оперируют нейросети, являются слепком интернета. В зависимости от того, какая это версия, доступа к наиболее свежим данным у него, конечно же, нет, но, к азалось бы, он должен был иметь доступ к текстам Ницше. Эту отсылку он не уловил, как и вторую — “причина коммуникативных ошибок в ситуации человек-машина”. Это аллюзия на книгу Люси Сачман о человеке и машине. Не помню, как этот текст точно назывался, кажется, “Реконфигурации отношений человек — машина” [здесь и далее речь о книге Люси Сачман, примеч. автора]. В принципе, текст существует как на английском, так и на русском, его относительно недавно перевели. Однако нейронка оба “приглашения” к дискуссии проигнорировала. Давайте сейчас пройдемся по трем пунктам: техническому аспекту работы с ним (моему аспекту работы с ним), рефлексии по поводу нашего взаимодействия и выводам о перспективах использования нейросетей в научной работе.
Текст можно открыть в Телеграм-канале [https://t.me/c/1956454489/850, примеч. автора], но оглавление, которое мы с ней составили, я здесь представлю. В принципе, мне понравилось около десяти процентов: введение и заключение, которое я отдельно дописывал. В целом, на самом деле, писать он не хотел. Только спустя три команды, три запроса, я добился чего-то “внезапного”. Она “встала” на рекомендации по стратегии совершенствования и устранению ошибок в коммуникации между человеком и машиной, но дальше думать не хотела. Промты я использовал, но, честно говоря, сейчас не могу их вспомнить. У меня нет постоянной библиотеки, поэтому я их не зафиксировал. Я пытался посмотреть по истории нашего общения с нейронкой, но не нашел, это было очень давно. Если говорить о трех аспектах нашего общения — смысле, логике и стилистике, то проблемным стал аспект смысла. Докладчики сегодня неоднократно подчеркивали этот момент. Стилистика. В данном вопросе, на самом деле, нейросеть во многом превосходит меня, как, вероятно, почти любого человека. Логика тоже на высоком уровне, и мне, как нерациональному существу, есть чему поучиться. Однако выражение конкретной мысли... Если вы откроете текст, то увидите скорее “рассуждение на тему”, нечто вроде информационной жвачки, эссе седьмого класса о том, как человек и машина могут взаимодействовать в различных аспектах. Мое авторство здесь было исключительно на уровне заголовка, введения и заключения, а также некоторых дополнениях, устранениях англоязычных оборотов, поскольку даже в последних версиях GPT это заметно. Кстати, я не сказал кое-что важное: я использовал последнюю четвертую версию. рефлексии по поводу нашего взаимодействия. Возвращаясь, к неудавшейся полемике с Сачмен, я сейчас тезисно перескажу, о чем она писала. Когнитивное предубеждение восприятия это о том, что основной водораздел в общении между искусственным интеллектом и человеком заключается в том, что нейросеть, как кибернетическая система, опирается на множество данных одновременно. Человек же, в своем западном иррациональном исходе, привык ставить перед собой планы, разбивать их на подпункты и выполнять. Нейронка об этом вообще ничего не сказала. Хотя другую важную мысль Сачмен она затронула: отметила, что человек, взаимодействуя с человекоподобным искусственным интеллектом, склонен поддаваться эмоциям. И именно в этом проявляется концепция ошибок коммуникации между человеком и машиной. В общем, как вы видите, структура имеет следующий характер: введение, первое положение (модели коммуникации и человека-машины), второй пункт (когнитивное восприятие), затем третий пункт (дизайн интерфейса и удобству использования), и, .

наконец, стратегии совершенствования и заключение. Вполне себе такой текст подошел бы для школьника седьмого класса.
Перехожу к научным итогам: язык работы — английский, GPT-4, количество запросов не превышало десяти. Я не помню точное количество, но, в принципе, десяти точно не превышало. Как-то суммирую мой опыт взаимодействия с нейронными сетями. Я скажу так: моя основная сфера специализации лежит в области высоких технологий, но с нейронными сетями она лишь пересекается. Я исследователь видеоигр, и любая культура меня интересует именно в этом аспекте. Как работник интеллектуального труда, я так или иначе соприкасаюсь с нейронными сетями. Как я их использую в своей повседневности? Как корректор; подчеркиваю, не редактор, а корректор. Нейронка, как мне кажется, может искажать некоторые смысловые моменты, оказывая, скажем так, «давление на мою мысль». Плюс нейросети можно использовать для получения инсайтов, для озарений, для придумывания костяка или названия статьи для выступления. На это она, в принципе, способна. Как-то скомпоновать. Но создать оригинальный текст... я, скажем так, не чувствую в этом органичности. Поскольку, повторюсь, если бы меня попросили написать текст и обыграть его в рамках того названия, которое я использовал, я бы использовал те же самые заголовки, но раскрыл бы их совершенно иначе. Нейросеть в принципе склонна к такому онейроидному, беспорядочному мышлению.. Работа с нейронкой ускоряет рабочий процесс. То есть как соавтора я ее не вижу. Как полезный инструмент — вполне себе. В субъектности я бы ей, честно говоря, отказал. Это, пожалуй, все основные тезисы, которые я хотел сегодня изложить. Спасибо за внимание. .

ВОПРОС: Да, здравствуйте. Сегодня у вас поднимался вопрос об авторстве. Вы первый докладчик на моей памяти, который отказал ей. Я хотел бы спросить: смотрите, какая вещь, даже в вашем языке, когда вы говорили, анализировали текст, всегда это звучало: «она делает то», «она делает это» и так далее. Это нормально, наш язык подразумевает подобные литературные формы, но мне вот что подумалось: когда человеку нравится результат, мы всегда говорим, что субъект, ну, автор — человек. В данном случае, когда мы отвергаем, ну, или просто для эксперимента пробуем что-то и нам это не нравится, вы однозначно говорите, что субъектности нет. Тогда кто автор данного текста? Он не виден. И если все-таки… но я не об этом. Я о том, что, даже отвергая субъектность, мы пользуемся языком, который подразумевает, что мы анализируем ее как автора. Вам не кажется, что в этом есть какая-то проблема с точки зрения того, как, ну, по Витгенштейну, наш собственный язык мешает нам развивать его формы и так далее?
ОТВЕТ: Да, спасибо. Вы меня на самом деле подловили. Действительно, когда я говорю о проделанной работе, я говорю «это сделано мной», «это сделано ей». Как будто она мне нравится. Да, я, по крайней мере, вижу в этом скорее стремление человека очеловечить всё окружающее, окружающее нас пространство. Когда мы, условно, на телефон или на чехол для телефона крепим глазки, когда мы стремимся внести какие-то природные элементы в окружающие нас интерьеры и интерфейсы. Что касается проблематики с точки зрения языка, честно говоря, я не задумывался об этом.

В мире, который становится все более автоматизированным, взаимодействие между людьми и машинами стало предметом изучения различных дисциплин, включая коммуникацию, когнитивные науки и технологии. Хотя машины призваны облегчать выполнение задач и повышать эффективность, при таком взаимодействии часто возникают коммуникативные ошибки, подчеркивающие сложности и ограничения, присущие человеко-машинной коммуникации. В данном докладе исследуются причины этих ошибок через призму теории коммуникации и когнитивной науки, показывая, как человеческое познание, предубеждения и дизайн машинных интерфейсов способствуют недопониманию. Модели коммуникации и человеко-машинное взаимодействие
Чтобы понять коммуникативные ошибки в человеко-машинном контексте, необходимо применять теории коммуникации, которые иллюстрируют, как передаются и принимаются сообщения. Модель Шеннона-Уивера, например, подчеркивает важность ясности в коммуникации, определяя «отправителя», «сообщение», «канал», «получателя» и «потенциальный шум», который может исказить сообщение. При человеко-машинном взаимодействии машина выступает в роли получателя человеческих данных, однако присущие ей особенности в обработке информации могут привести к значительным ошибкам. Например, когда пользователь отдает команду голосовому помощнику, нюансы человеческой речи — акценты, интонации и контекстные подсказки — могут быть неточно интерпретированы машиной, что приведет к невыполнению поставленной задачи. Такое несоответствие между стилем общения человека и возможностями машинной обработки информации является одним из основных источников ошибок. Когнитивные предубеждения и восприятие
С точки зрения когнитивных наук, человеческое познание играет ключевую роль в том, как люди взаимодействуют с машинами. Когнитивные предубеждения, такие как предубеждение подтверждения и чрезмерная уверенность, могут привести к тому, что пользователи неправильно интерпретируют ответы машин или не замечают ошибок. Например, пользователь может считать, что вывод машины верен только потому, что он соответствует его ожиданиям, игнорируя противоречивые данные. Такая тенденция может усугубить коммуникативные ошибки, поскольку пользователи могут не распознать, когда машина неправильно поняла их ввод или предоставила неверную информацию. Более того, ограничения человеческого восприятия могут еще больше усложнить коммуникацию. При взаимодействии с машинами люди часто полагаются на эвристику — ментальные ярлыки, упрощающие принятие решений. Эти эвристики могут привести к чрезмерно упрощенному пониманию работы машин, что приводит к нереалистичным ожиданиям. Например, при использовании автоматизированных систем обслуживания клиентов пользователи могут ожидать человеческого сочувствия и понимания, чего машины обеспечить не могут. Такое несоответствие может привести к разочарованию и недопониманию, поскольку пользователи могут неэффективно формулировать свои потребности, полагая, что машина интуитивно их поймет. Дизайн интерфейса и удобство использования
Дизайн интерфейсов машин также существенно влияет на вероятность коммуникативных ошибок. Плохо спроектированные интерфейсы, не учитывающие опыт пользователя, могут создавать барьеры для эффективной коммуникации. Если интерфейс машины не является интуитивно понятным или удобным, пользователи могут испытывать трудности с точной передачей своих намерений. Например, сложные меню или двусмысленные подсказки могут заставить пользователя сделать неправильный выбор, что приведет к ошибкам, которые отражают не его возможности, а конструкцию машины. Кроме того, может возникнуть феномен «ошибки автоматизации» (automation bias), когда пользователи чрезмерно доверяют автоматизированным системам, что приводит к снижению способности к критическому мышлению. Когда машина выдает рекомендацию или решение, пользователи могут принять его без вопросов, даже если оно противоречит их знаниям или опыту. Такая зависимость от технологий может заслонить необходимость четкой коммуникации и сотрудничества между людьми и машинами, что еще больше увеличивает вероятность ошибок. Последствия коммуникативных ошибок
Последствия коммуникативных ошибок в человеко-машинном взаимодействии могут быть далеко идущими. В таких критически важных областях, как здравоохранение, авиация и автономное вождение, недопонимание может привести к серьезным последствиям, включая несчастные случаи или неправильный диагноз. Например, если система распознавания голоса неправильно интерпретирует команду в медицинской сфере, это может привести к назначению неправильного лекарства. Подобные сценарии подчеркивают необходимость повышения надежности человеко-машинной коммуникации. Стратегии совершенствования
Для смягчения этих коммуникативных ошибок можно использовать несколько стратегий. Во-первых, улучшение алгоритмов машинного обучения для лучшего понимания нюансов человеческого языка может значительно повысить качество взаимодействия. Использование методов обработки естественного языка (natural language processing, NLP), учитывающих контекст и намерения пользователя, может помочь машинам интерпретировать команды более точно. Во-вторых, жизненно важным является обучение пользователей. Предоставление пользователям четких инструкций по взаимодействию с машинами поможет установить реалистичные ожидания и уменьшить разочарование. Обучающие программы, знакомящие пользователей с возможностями и ограничениями технологий, помогут им общаться более эффективно. Наконец, очень важно разрабатывать интерфейсы с учетом пожеланий пользователей. Использование принципов дизайна, ориентированного на человека, может привести к созданию более интуитивных интерфейсов, способствующих более четкому общению. Вовлечение пользователей в процесс проектирования может дать ценные сведения об их потребностях и предпочтениях, что в конечном итоге приведет к более эффективному человеко-машинному взаимодействию. Заключение
Взаимодействие между людьми и машинами чревато коммуникативными ошибками, которые обусловлены сложностью теории коммуникации, когнитивными предубеждениями и дизайном интерфейсов. Понимание этих факторов имеет решающее значение для улучшения человеко-машинного общения и минимизации недопонимания. Поскольку технологии продолжают развиваться, необходимо учитывать, как машины интерпретируют человеческий ввод и как пользователи могут лучше взаимодействовать с этими системами. Преодолевая разрыв между человеческим познанием и возможностями машин, мы можем способствовать более эффективному общению и улучшать общее восприятие пользователей в мире, который становится все более автоматизированным. Необходимость постоянного совершенствования человеко-машинного взаимодействия невозможно переоценить. По мере того, как машины все больше интегрируются в нашу повседневную жизнь, потенциал недопонимания будет только расти, если мы не будем решать основные проблемы. Для этого необходим многогранный подход, включающий в себя развитие технологий, обучение пользователей и продуманный дизайн. Более того, по мере продвижения к более сложным системам искусственного интеллекта этические соображения также должны быть интегрированы в разработку этих технологий. Убедиться в том, что машины созданы не только для эффективности, но и для этичного взаимодействия с пользователями, поможет снижение рисков, связанных с коммуникативными ошибками. Это включает в себя прозрачность обработки информации машинами и возможность для пользователей понять и поставить под сомнение решения машин. В целом, несмотря на то что, вероятность коммуникативных ошибок при человеко-машинном взаимодействии велика, она не является непреодолимой. Признавая сложность коммуникации, влияние когнитивных предубеждений и важность эффективного дизайна интерфейса, мы можем работать над созданием будущего, в котором человеко-машинная коммуникация будет беспрепятственной и эффективной. По мере того как мы будем продолжать ориентироваться в этом цифровом ландшафте, развитие сотрудничества между людьми и машинами будет играть важную роль в достижении оптимальных результатов для пользователей и общества в целом.