В Вышке разрабатывают технологию идентификации текстов, сгенерированных ИИ любого типа
Ученые НИУ ВШЭ работают над созданием приложения, которое позволяет установить, написан текст человеком или сгенерирован искусственным интеллектом. Подход, на который опирается приложение, носит универсальный характер и позволяет «ловить» самых разных ботов, построенных на разной архитектуре. В ближайшее время запланировано тестирование прототипа в широком диапазоне текстов. Предполагается, что платформа будет доступна пользователям в 2025 году.
Развитие технологий искусственного интеллекта привело к тому, что объем текстов, сгенерированных ИИ, увеличивается лавинообразно. При этом тексты, которые генерируют боты, сегодня уже сложно отличить от тех, которые пишут люди. Как понять, что ты читаешь текст, созданный ИИ? Эту задачу решают исследователи Высшей школы экономики.
Проект «Поймай бота: семантические пространства дополненного ума» реализуется в рамках стратегического проекта НИУ ВШЭ «Устойчивый мозг: нейрокогнитивные технологии адаптации, обучения, развития и реабилитации человека в изменяющейся среде» (программа «Приоритет-2030»).
Существующие на сегодня подходы к идентификации текстов, сгенерированных ботами, зачастую базируются на работе с несколькими конкретными архитектурами бота, что существенно снижает диапазон их применения и делает уязвимыми перед будущими поколениями ботов. Цель проекта Вышки — создание эффективной системы обнаружения текстов, написанных разными программами, в широком классе ботов для различных языков.
Василий Громов
«Наша разработка отличается от разработок конкурентов. Подавляющее большинство аналогичных проектов посвящено задаче идентификации конкретных архитектур генеративных языковых моделей (к примеру, ChatGPT). Это приводит к неизбежному устареванию таких наработок по мере развития инструментов генерации текстов и (или) возникновения новых типов ботов, а также вынуждает потенциальных потребителей использовать на практике сразу несколько моделей, ответственных за обнаружение ботов с различными архитектурами. Мы “ловим” всех ботов, а не только одного или нескольких, находящихся в нашем распоряжении», — рассказывает руководитель проекта Василий Громов, профессор департамента анализа данных и искусственного интеллекта факультета компьютерных наук НИУ ВШЭ.
Разрабатываемая система опирается на несколько различных областей математического знания: теория хаотических динамических систем, топологический анализ данных, теория размерности, теория кластеризации (четкой и нечеткой), нейронные сети и др. Это обеспечивает робастность системы: бот может «подделать» одну или даже несколько характеристик, но «подделать» их все крайне трудно.
«Нами проведены широкомасштабные вычислительные эксперименты с использованием различных методов анализа данных и искусственного интеллекта, что позволило определить наборы характеристик, наиболее подходящих для различения пространств и траекторий ботов и людей, и разработать прототип программного обеспечения», — говорит Василий Громов.
В ближайшее время запланировано тестирование прототипа в широком диапазоне текстов — от художественных произведений, сгенерированных ботами, до выпускных конкурсных работ студентов НИУ ВШЭ. Планируется, что широкому кругу пользователей платформа будет доступна в 2025 году. Сначала она сможет «ловить» ботов на русском и английском языках, но ученые уже работают над увеличением числа языков, с которыми может взаимодействовать система. Это прежде всего языки стран БРИКС и языки народов России.
Вам также может быть интересно:
Стартовала регистрация школьников на Всероссийскую олимпиаду по ИИ
Открылась регистрация на пятый сезон Всероссийской олимпиады по искусственному интеллекту. В этом году организаторы ожидают увеличения числа участников — соревнование получило международный статус, и теперь принять участие могут школьники 8–11-х классов не только из России, но и из других стран. Олимпиаде присвоен II уровень в перечне РСОШ — ее призеры и победители получат льготы при поступлении в вуз.
В НИУ ВШЭ обсудили глобальные тренды ИИ на международной форсайт-сессии
В Высшей школе экономики прошла международная форсайт-сессия по искусственному интеллекту (ИИ). Российские и иностранные ученые обсудили тренды и вызовы, которые возникают в связи с быстрым развитием ИИ.
Больше не одинокий гений: как сохранить идентичность ученого в эпоху ИИ
Сегодня профессия ученого требует новых навыков, зачастую не связанных с наукой — от умения находить гранты до успешной продажи продукта своего труда. Огромным вызовом стал ИИ, который справляется со многими задачами быстрее человека. Центр научной интеграции НИУ ВШЭ организовал вебинар «Ученые и искусственный интеллект», посвященный профессиональной идентичности исследователя в условиях стремительной цифровизации и технологических трансформаций. Подробнее — в материале HSE Daily.
Вышка доверит ИИ рутинную работу по созданию программ ДПО
НИУ ВШЭ совместно с EdTech-компанией CDO Global запускает AI-конструкторы для оптимизации разработки курсов дополнительного профессионального образования (ДПО). Новый сервис позволит автоматизировать подготовку учебных материалов и оценочных средств, значительно сократив время и ресурсы, затрачиваемые преподавателями и методистами.
ВШЭ и Московский аналитический центр объединят усилия в сфере ИИ
НИУ ВШЭ подписал соглашение о сотрудничестве с ГБУ «Московский аналитический центр». Документ закрепил намерение сторон развивать совместные исследования и внедрять технологии искусственного интеллекта в управление городским хозяйством.
Руководители «Билайна» прокачивают навыки работы с ИИ на базе НИУ ВШЭ
В Центре непрерывного образования факультета компьютерных наук НИУ ВШЭ стартовала программа повышения квалификации для руководителей компании «Вымпелком» «Лаборатория ИИ: Вместе быстрее». В ее работе примут участие сотрудники компании из разных городов страны, которые будут повышать компетенции по внедрению ИИ в бизнес-процессы.
Вузы разделились на шесть лагерей в отношении к искусственному интеллекту
Каким должно быть образование в эпоху ИИ? Чтобы разобраться, какие есть точки зрения и какие решения уже формируются, команда Института образования ВШЭ весной 2025 года провела серию интервью с проректорами российских университетов. Об итогах этого исследования рассказывает директор института Евгений Терентьев.
НИУ ВШЭ стал абсолютным лидером рейтинга вузов по подготовке кадров для ИИ
Альянс в сфере искусственного интеллекта опубликовал обновленный рейтинг вузов по качеству подготовки специалистов в области ИИ. В него вошли 203 российских университета из 68 регионов. Высшая школа экономики первой получила наивысшую категорию А++.
ВШЭ и МТС будут вместе бороться с дипфейками и научат искусственный интеллект создавать новое видео под запросы пользователей
НИУ ВШЭ и компания МТС Web Services (MWS) объявили о запуске серии совместных исследовательских работ в области технологий искусственного интеллекта, направленных на развитие инновационных решений в сфере кибербезопасности, мультимодальной генерации контента и анализа больших данных. Основным исполнителем проекта является Московский институт электроники и математики им. А.Н. Тихонова НИУ ВШЭ при общей координации Центра искусственного интеллекта ВШЭ.
11 вузов России стали участниками проекта ВШЭ и «Яндекса» по применению ИИ при подготовке дипломных работ
Эксперты «Яндекс Образования» и факультета компьютерных наук НИУ ВШЭ научили студентов и научных руководителей использовать нейросеть YandexGPT в трудоемких задачах — для анализа источников, структурирования информации, визуализации данных и работы с текстом в процессе подготовки дипломов.