А.К. Коллеги приветствую вас. Я благодарю за возможность участия в таком интересном формате. Считаю это оправданным и уместным форматом для организованной рефлексии по поводу взаимодействия человека с ИИ. Меня зовут Алан Бигулов. Я делаю доклад по теме «Эффект зловещей долины. Философско-антропологические перспективы голосовых коммуникации между человеком и большой языковой моделью». Пару слов о себе. В настоящее время я больше занимаюсь исследованием в области прикладной психолингвистики, конкретно в области изучения иностранного языка. Провожу различные эксперименты уже последние лет семь. И сам являюсь энтузиастом в изучении языков. Достаточно большое количество языков изучал и разной степени ими владею. Представлял результаты своих экспериментов неоднократно на международных симпозиумах по психолингвистике. И последние восемь месяцев активно изучаю искусственный интеллект как инструмент и дополнительную альтернативу к традиционным способам изучения иностранного языка при взаимодействии ИИ с учеником в качестве репетитора.
И достаточно глубоко в эту тему погрузился. Особенно экспериментирую с созданием так называемых агентов и ассистентов и целых агентских комплексов, которые направлены на решение образовательных и исследовательских задач. Пару слов скажу о контексте написания данных тезисов. В декабре 2024 года - в январе 2025 года я провел эксперимент, в котором была сформулирована исследовательская задача: “Возможно ли с нуля взять язык и за короткое время выйти на разговорный уровень, если заниматься только с помощью тьюторов, созданных на базе искусственного интеллекта?” Этот эксперимент успешно завершился в конце января 2025 года. В рамках этого эксперимента я создал экосистему тьюторов: более двадцати глубоко персонализированных тьюторов, с которыми и занимался сам. В этом эксперименте я принимал участие в том числе и как ученик, который указанную языковую цель пытался достичь.
В результаты этого эксперимента глубоко не буду погружаться сейчас. Они были представлены в марте 2025 года на международном мероприятии Polyglot Gathering, на котором собирается несколько сотен энтузиастов изучения языков. И с результатами этого эксперимента еще буду выступать на ближайшем международном симпозиуме по психолингвистике в июне. В рамках этого эксперимента я делал упор на голосовое общение, не текстовое. И в качестве площадки взаимодействия использовал платформу Eleven Labs, которая специализируется на создании голосовых агентов. Она известна тем, что содержит большую библиотеку очень качественных голосов. В рамках моего эксперимента я изучал немецкий язык, и для немецкого языка имеется больше 50 очень человекоподобных вариантов голосов.
Одна группа тьюторов - это так называемые академические тьюторы, которые по роли играли тьюторов с академическим образованием, в области лингвистики и смежных наук. И была еще группа casual tutors, которые изображали роль приятелей по разговорной практике. Возможно те, кто из вас имеет опыт и более глубоко занимается темой создания кастомизированных ассистенты знают, что есть такое понятие как системный промт. То есть некий запрос-инструкция, на базе которого ассистент работает. Так вот мои тьюторы часто имели не один какой-то файл, а целый пакет файлов который играл роль этого промта. Вот здесь изображен пакет документации для тьютора Доктор Елена София, созданного на базе Claud, в котором больше десятка подробно расписанных файлов. Каждый из которых инструктирует тьютора что ему делать, как вести себя и какую роль представлять. Несколько тысяч слов только сам промт составляет.
Результаты эксперимента были задокументированы независимыми экспертами-лингвистами. Языковые цели эксперимента были успешно достигнуты. Но мной был замечен интересный эффект. Хотя я имею достаточно большой опыт изучения языков с целью развития разговорного навыка, и хорошо представляю какие ощущения возникают у ученика, преследующего языковую цель, никогда за собой не замечал, чтобы у меня возникали какие-то отрицательные внутренние состояния в связи с этими занятиями, при том, что само изучение языка не простое дело. Но в этом опыте я впервые столкнулся с тем, что после каждого взаимодействия со своими тьюторами, которые очень хорошо исполняли свою роль (в их инструкциях было, чтобы они при активизации полностью забывали свою природу искусственного интеллект и в ходе разговора никогда не упоминали и не обращались к своей искусственной сущности), я все время замечал ощущение какой-то внутренней пустоты, отторжения и нежелания очередной урок проводить. Для меня это было очень неожиданно и интересно, как экспериментатору, это наблюдать, а как ученик я достаточно сильно на это отвлекался, на это ощущение. Но я задокументировал свои наблюдения. И после завершения эксперимента я использовал платформу NotebookLM, куда все экспериментальные материалы загружал и там их обрабатывал. В том числе туда я загрузил и свои наблюдения психоэмоциональных состояний.
Я еще не знал как называется это состояние. Я не был для этого глубоко погружен в тему именно особенностей взаимодействия с человекоподобными ИИ-сущностями. И первое что интересно, что сам термин который описывает это явление, был предложен мне самим искусственным интеллектом.Когда я готовился к презентации для Polyglot Gathering и делал слайд преимуществ и недостатков работы с искусственным интеллектом. При описании моих наблюдений , искусственный интеллект неожиданно предположил, что этот эффект называется “The Uncanny Valley Effect”.
Я сначала думал, что это галлюцинация, потом загуглил, оказывается есть такой эффект, он наблюдается уже с 70-го года. Я не первый, кто столкнулся с таким явлением отторжения, разной степени эмоциональных и внутренних неприятных состояний, вызванных общением с человекоподобными системами. Меня это тогда уже заинтересовало. И увидев информацию, что можно принять участие в вашем мероприятии, я посчитал, что это как раз хороший повод чуть больше узнать про этот эффект и попробовать насколько сам искусственный интеллект будет полезен в подготовке этих тезисов. Это контекст того, что происходило.
Дальше, собственно прокомментирую сами тезисы, согласно предложенной структуре, дам чуть позже свою рефлексию, по поводу того, что я испытывал во время создания самих тезисов.
Я, честно говоря, буквально принял посыл конференции, что тезисы должны быть созданы с помощью искусственного интеллекта и постарался создать такую траекторию создания тезисов, чтобы мне как раз не пришлось никакой правки делать. То есть я решил, что это и есть цель - так организовать работу над тезисами, чтобы получить сразу готовый результат, который не потребует моего уже редакторского вмешательства. Пару слов про фабулу самого доклада. Я сформулировал сам тему именно в такой форме. Основным из моих намерений было, чтобы в тезисах были активно использованы результаты моего эксперимента, а не просто описано и академическим языком сформулирована исходная тематика.
Поэтому я “пригласил” своего искусственного ассистента, чтобы он создал тезис, который, возможно, я и сам бы написал подобным образом, если бы готовился к другому формату конференции на базе своего эксперимента. Так как философией я занимаюсь только любительски, у меня нет достаточной подготовки, чтобы основательно раскрыть эту тему. Но посчитал возможным благодаря вашему формату эту тему затронуть, но уже с помощью искусственного интеллекта. И здесь на слайде видно, что мой помощник указывает на то, где и когда был предложен термин этого эффекта. Он был предложен Масахиро Мори в 70-ом году. И с этого года он продолжает изучаться. Не так, чтобы это очень сильно популярный термин. Но в целом он является в фокусе внимания особенно сейчас, когда компаньоном по общению, по взаимодействию, является большая языковая модель.
Это был первый раздел тезисов. Вторая часть тезисов включает описание данных эксперимента, где искусственный интеллект обработал мои наблюдения и в такой форме представил, сославшись на затраченные часы и на результаты языкового эксперимента.
Основной посыл, сформулированный ИИ в тезисах и который я разделяю, что в связи с тем, что искусственный интеллект в виде больших языковых моделей не обладает способностью к интерсубъективности, то есть пониманию и разделению опыта других, он может только его имитировать. У нас в результате возникает состояние онтологической неопределенности. Возникает внутреннее ощущение дискомфорта, источником которого является именно то, что LLM ведет себя вроде бы как человек, почти как человек, но это маленькое “почти”, является ключевым пунктом, который создает этот когнитивно-эмоциональный разрыв и приводит к достаточно сильным и мало контролируемым эмоциональным состоянием. В других работах были описаны состояния ужаса, глубокого отвращения к человекоподобным сущностям.
У меня было состояние нежелания заниматься и состояние бессмысленности так сильно вкладываться в те разговоры, которые возникают при овладении разговорным навыком, с этими ассистентами, понимая, что тот уровень взаимодействия который они создают, это мираж, имитация.
Следующий посыл, который предложил мне искусственный интеллект, который я сам в таких словах не сформулировал, что неспособность к интерсубъективности, которой человек, как бы ожидает именно при голосовом общении, это ключевой фактор, потому что голосовые агенты с точки зрения качества голоса сейчас очень сильно продвинулись и хорошо имитируют человека. Но при этом не достигают полноты человековости. Это приводит к последствиям, которые можно охарактеризовать как дегуманизирующий опыт. И это является проблемой. И, возможно, те примеры которые приводили ранее выступающие про экстремальные последствия, как суицидальное поведение или депрессивное состояние, могут быть к иллюстрацией этого дегуманизирующего опыта, сначала вовлечения, потом глубокое разочарование с невозможностью получить именно ту ожидаемую человечную, человеческую обратную связь адекватной тому вкладу, который человек со своей стороны делает.
Отдельно хочу отметить, что я не ставил перед ИИ задачу, чтобы в рамках тезиса он оставил вопросы открытыми для дискуссии и обозначил неоднозначность ситуации, но вот в этом конкретном параграфе хочу ваше внимание обратить, что он обозначает такие вопросы: “а возможно ли при такой ситуации где на данный момент отсутствует интерсубъективность и внутренний опыт, и понимание внутреннего опыта, будет ли, в принципе, когда-то достигнуть этот уровень? И если это пока недостижимо, в ближайшей степени недостижимо или, может быть, вообще недостижимо, то сможем ли мы, в принципе адаптироваться к этому эффекту зловещей долины и минимизировать этот дегуманизирующий опыт, или это будет всегда зоной нашего риска, с которой нам теперь надо что-то делать?”
ИИ-ассистент оставил эти вопросы открытыми, и я разделяю такую позицию, что здесь есть над чем дальше думать. Для себя отмечаю, что, в принципе, большие языковые модели, их алгоритмы так настроены, что они склонны поставленную задачу решать даже ценой галлюцинации, ценой каких-то искажений, дать все-таки ответ пользователю. Мне здесь понравилось, и я был, несколько даже удивлен что в рамках формата академического письма тезисов, он, очень уместно эти вопросы обозначил, не давая окончательного ответа.
Теперь пару слов скажу как создавались эти тезисы. Как выше сказал, я решил разработать траекторию, которая, как мне казалось, должна привести к тому, чтобы я был избавлен от редактирования, удовлетворяя, как я интерпретировал условия конференции. Поэтому вот такие шаги я предпринял.
Первое, я сам сформулировал гипотезу и тему. Потом Notebook LM сделал первичную обработку материалов эксперимента и сделал пробный промпт о написании тезисов и получил первый сырой текст. Notebook LM обрабатывает только те материалы, которые в него загрузил, поэтому никакую стороннюю информацию он не привлекает.
После этого я перешел к второму шагу, где уже в chatGPT o1-Pro сделал второй запрос с аналогичным идеей написать тезисы, куда уже добавил структуру тезиса, и попросил его придерживаться объема, стиля, разделов и так далее. Получил второй сырой материал, но уже в этот раз chatGPT имел возможность обращаться к внешним источникам, к интернету. Аналогичные запросы я сделал в других еще двух моделях Grok и Google Gemini. И делал я все для того, чтобы создать для итогового исполнения такой разносторонний материал для “объемного понимания” ИИ проблематики и для обеспечения итогового минимального редактирования.
После этого я непосредственно перешел уже к основному исполнителю. Это Claude 3.7, расширенная версия, куда разместил все эти сырые материалы и разместил основной промпт, который сейчас в следующем слайде вам покажу. Соответственно, уже по итогам получил те тезисы, которые вам выше представлял. И фактически ни слова, ни буквы, ни запятой я в ней уже не исправлял. Вот финальный промпт, к которому прикреплены файлы четырех предыдущих запросов.
Я все время общаюсь с ИИ только на английском языке, но здесь уже отдельно попросил чтобы итоговый материал был создан на русском языке и попросил его уложиться в рекомендованное количество знаков. И получил то, что уже выше вам представлял. Всего 7 секунд потребовалось модели, чтобы создать текст.
Промпт, который я здесь показываю, он не начинал с нуля чат, а он уже был в продолжении. Это тоже было сделано уместно. В этом чате я уже немало обсуждал сами результаты эксперимента и эти обсуждения эксперимента уже формируют определенный объем его контекстного окна, который он будет использовать при выполнении и этого запроса, поэтому я специально не с нуля промпт использовал, а как раз именно, чтобы он уже в контексте предыдущего всего работы и продолжил выполнять.
И это, я думаю что тоже способствовало итоговому результату. И вот непосредственно перед этим был такой промпт, где как раз попросил сделать слайд для презентации за и против, в котором ИИ указал про термин “эффект зловещей долины”, чему я и был удивлен.
Давайте кратко поделюсь рефлексией. Я считаю что и сейчас и даже впоследствии, когда модели еще разовьются, они всегда будут нуждаться в продуманной стратегии и тактике их использования. То есть, стопроцентной автономности и агентности от них пока ожидать не стоит, скажем так. А вот продумывать стратегию и локальную тактику их использования, считаю правильным подходом к работе. И думаю, что это и предполагается.
На базе опыта работы за последние несколько месяцев и экспериментов, пришел к выводу, что работа с одним ассистентом и с одним чатом не может дать всех тех результатов, чем если использовать целую команду ИИ-ассистентов. И даже при решении этой задачи написания текста как вы видели я четыре или пять разных платформ, не только моделей использовал, что в комплексе, считаю, помогло получить искомый результат.
Также я считаю, что для исследовательских задач важно работать не просто с general LLM, а использовать кастомизированные модели и тщательно продумывать контекст, в котором они работают. И, может быть, даже не один кастомизированный ассистент, а целый комплекс. Обычно я в своих текущих задачах создаю комплекс ассистентов, которые между собой взаимодействуют или с моим посредством или за счет других технологий непосредственного взаимодействия. Поэтому наблюдение - кастомизация и создание экосистем.
Разделяю мнения и предыдущих выступающих что желательно иметь определенный опыт и уровень компетенции в тех задачах, которые решаются с помощью ассистента, иначе все эти галлюцинации тяжело будет полностью выловить. И в целом направлять исследовательский процесс это важно. Поэтому компетенция ключевой фактор.
Конкретно эти тезисы я считаю, что можно считать созданными в соавторстве. Свой авторский вклад я вижу в том, что в этой тексте использовались данные эксперимента, который я лично провел, и к которым искусственный интеллект никак не мог иметь доступ без меня, потому что я ему эти данные предоставил.
Я сформулировал именно в таком виде исходную гипотезу и тему, что тоже является определенным вкладом. То есть я не использовал темы которые мог бы предложить мне искусственный интеллект. Хотя такое тоже возможно. Ну и соответственно была определена тактика создания самого исходного текста.
Но я считаю правомочным искусственный интеллект считать соавтором в силу того, что во-первых, текст был создан и я не принял участия в его редактуре. Второе то, что были предложены концепты, которые я изначально не закладывал в свои запросы. И, скажем так, я посчитал, что уместно как ассистент связал все аспекты этого тезиса, то есть экспериментальные данные, теоретическое обоснование, и предложил выводы с открытыми вопросами. Все это, я считаю как примерно 50% на 50% участие.
Что касается новаторского характера с поправками, что это создано с помощью искусственного интеллекта в целом выношу на ваше суждение, но у меня создалось впечатление, что это исследование можно считать новаторской, в силу того, что были приведены результаты эксперимента, который, по моим данным, никем еще не был проведен. Также, не встречал, чтобы такие различные научные области были связаны таким образом - философская антропология, лингвистика, искусственной интеллект, робототехника. Опубликованных работ с подобной постановкой вопроса я тоже не встретил. Вам виднее, но мне кажется что элементы новаторства здесь присутствуют.
В заключении, здесь привел несколько таких пунктов, возможно, они тоже укладываются в ваши предложенные параметры рефлексии. Я считаю, что использование искусственного интеллекта в виде языковых моделей окажут самое решающее влияние и на процедуры и на оформление научных исследований, и формат академического письма. Но при этом труд добросовестного ученого будет только усилен, и его ценность только усилится при использовании искусственного интеллекта, так как будут использованы инструменты такой высокой уровни автономности и агентности, даже если они не достигают 100%.
Да, есть этические вопросы, они будут предметом дискуссии, но я думаю что в какой-то перспективе, не берусь пока сказать, сколько лет на это уйдет, но научное сообщество придет к согласованию границ и параметров использования искусственного интеллекта.
И такой итоговый вывод я могу сделать, что опыт взаимодействия с искусственным интеллектом будет выражаться в признании научным сообществом за искусственный интеллект не только правомерность, но и неизбежность его использования, как это происходило со всеми предыдущими технологиями. Благодарю за внимание!
ДЯ:: Благодарю вас, Алан Константинович, за замечательный доклад. Если будет возможность, приглашаю вас провести методический семинар по работе с такими системами в гуманитарных дисциплинах.
А.К. приглашайте!