(субботнее) Исследование НИУ ВШЭ: Использование мата нейросетями для экстремального семантического сжатия

Антон Переходов (ВШЭ) и Илья Макаров (Университет Иннополис) опубликовал на английском статью "Оскорбительно, но эффективно: семантическое обобщение с помощью непристойного лексикона" (Offensive Yet Efficient: Semantic Summarization via Obscene Lexicon).

итогово: Русская табуированная лексика обладает исключительной семантической плотностью и синтаксической гибкостью, что позволяет кодировать сложные смыслы в минимальном объеме текста .

Ссылка на оригинал (eng) https://openreview.net/pdf?id=h5QPtYIaay


Подробности в перепевке NotebookLM:

Ключевые результаты:

• Эффективность сжатия: Метод обеспечивает сокращение длины текста на 23% для коротких предложений (датасет ru_ParaDetox) и до 65% для новостных статей (датасет Gazeta).
• Сохранение смысла: Использование обучения с подкреплением (GRPO) позволяет поддерживать высокий уровень семантического сходства (BERTScore до 0,85).
• Превосходство над базовыми методами: Обученная модель значительно превосходит метод простой замены слов, который в ряде случаев даже увеличивает длину текста из-за сложностей морфологического согласования.
• Смена парадигмы: Исследование предлагает рассматривать обсценную лексику не как «лингвистический шум», а как функциональный вычислительный ресурс для задач NLP.

Основные концепции и теоретическое обоснование

Семантическая плотность и прагматическая компрессия

Центральная идея работы заключается в использовании «прагматической компрессии». Русская обсценная лексика (мат) функционирует как параллельная грамматическая система, способная одновременно передавать:

1. Семантическое содержание (основной смысл).
2. Эмоциональное состояние говорящего.
3. Социальное позиционирование.

Как отмечается в исследовании: «Один нецензурный токен может одновременно выражать несогласие, аффект и социальную дистанцию, для передачи которых в нейтральном регистре потребовалось бы несколько фраз». Например, фраза «Я с тобой не согласен» требует значительно больше лексических ресурсов, чем ее краткий обсценный эквивалент, обладающий большей эмоциональной значимостью.

Сравнение нейтральных и обсценных примеров

Исследование приводит примеры того, как модель эффективно трансформирует нейтральные высказывания в сжатые обсценные формы:

Оригинал (Нейтральный)	Обсценный вариант (Сжатый)
Это плохие люди.	Бл*ди.
Ты девушка легкого поведения, которая хочет всех мужиков забрать себе.	Ты бл*дь, которая хочет всех мужиков забрать.
Да что мы от него хотим, он таковым будет всегда.	Бл*, он таковым будет всегда.
Нет хуже существа на земле, чем человек!	Нет х*ра хуже, чем человек!

--------------------------------------------------------------------------------

Архитектура предложенного метода

Метод базируется на трех ключевых компонентах:

1. Курируемый обсценный лексикон: Словарь, включающий нецензурные выражения, их нейтральные эквиваленты, морфологические аннотации и ограничения по использованию. Данные собраны из Викисловаря и корпусов русского языка.
2. Групповая относительная оптимизация политики (GRPO): Алгоритм обучения с подкреплением, который генерирует несколько вариантов суммаризации и выбирает оптимальный на основе функции вознаграждения.
3. Композитная функция вознаграждения (Reward Function):
   • Семантическое сходство: Косинусное расстояние между эмбеддингами оригинала и генерации.
   • Использование обсценной лексики: Поощрение использования экспрессивных замен для достижения краткости.
   • Штраф за длину: Наказание за превышение целевого порога количества токенов.

--------------------------------------------------------------------------------

Анализ эффективности и результаты экспериментов

Производительность классификации и метрики

Эксперименты проводились на модели Qwen2.5-7B-Instruct, которая показала наилучший баланс между знанием языка и отсутствием жесткой цензуры (уровень отказа 12% против 89% у меньших моделей).

Сравнение с базовым методом (Simple Replacement): Метод GRPO продемонстрировал значительное превосходство над наивным методом замены слов (с использованием pymorphy3):

Метрика	Оригинальный текст	Простая замена (Baseline)	Метод GRPO (Transformed)
Precision	0.70	-	0.85
Recall	0.65	-	0.80
F1-score	0.67	-	0.82
Средняя длина (слов)	8.4	9.9	6.0

Примечание: Метод простой замены парадоксально увеличил длину текста на 8% из-за ошибок в морфологическом согласовании и дублировании.

Результаты на бенчмарках

ru_ParaDetox (Короткие фразы)

• Сжатие: 23% (сокращение с 8.9 до 6.8 слов в среднем).
• BERTScore: 0.85 (высокое сохранение смысла).

Gazeta (Новостные статьи)

Даже при отключении вознаграждения за мат, метод GRPO показал выдающиеся результаты в классической суммаризации:

Метрика	Базовая модель (rugpt3medium)	Метод GRPO	Улучшение
BERTScore	0.65	0.69	+6%
chrF	0.12	0.20	+67%
Длина (символы)	3092.57	1076.89	-65%
Дублирование	0.21	0.14	-33%

--------------------------------------------------------------------------------

Этические соображения и ограничения

Авторы подчеркивают, что использование обсценной лексики требует строгих этических ограничений. Обсценная суммаризация неприемлема в образовании, профессиональной коммуникации и публичных интерфейсах без явного согласия пользователя.

Предложенные стратегии смягчения рисков:

• Настройки интенсивности обсценности.
• Автоматическое маскирование токенов в чувствительных контекстах.
• Использование классификаторов для оценки уместности экспрессивного сжатия в зависимости от домена и аудитории.

Ограничения:

• Метод специфичен для русского языка из-за его богатой морфологии; адаптация к другим языкам требует создания новых лексиконов.
• Необходимы модели размером от 7 млрд параметров, так как меньшие модели склонны к цензурным отказам.
• Возможны нежелательные тональные сдвиги (ирония или агрессия), не предусмотренные оригиналом.

--------------------------------------------------------------------------------

Заключение

Исследование доказывает, что табуированная лексика является мощным инструментом для повышения эффективности NLP-систем в специфических контекстах. Переосмысление обсценного лексикона как «высокоэнтропийного носителя смысла» открывает новые возможности для создания гибких, культурно-адаптивных и экстремально эффективных моделей суммаризации. Основной вклад работы заключается не в пропаганде мата, а в демонстрации того, как обучение с подкреплением может управлять сложными стилистическими регистрами для достижения вычислительных преимуществ.