"Записки научных семинаров ПОМИ"
Том 552, стр. 153-177
CleanComedy: создание дружелюбного юмора с помощью генеративных методов
Д. Галимзянова, С. Горовая, Д. Вихорев,
И. П. Ямщиков, Е. Жемчужина
MTS AI, Moscow, Russia
dariagalimzianova@gmail.com
LEYA Lab, HSE University, St.Petersburg, Russia
sgorovaya@hse.ru
dvikhorev@hse.ru
CAIRO, Technical University of Applied Sciences
W{\"u}rzburg-Schweinfurt, Germany
ivan.yamshchikov@thws.de
LEYA Lab, HSE University, St. Petersburg, Russia
ezhemchuzhina@hse.ru
- Аннотация:
Генерация юмора является сложной задачей обработки естественного языка
из-за ограниченности ресурсов и качества существующих наборов данных.
Доступные языковые ресурсы юмора часто страдают от токсичности и дублирования,
что ограничивает их пригодность для обучения устойчивых моделей.
В данной работе предлагается CleanComedy -- специализированный,
частично размеченный и отфильтрованный по токсичности корпус английских
и русских шуток, собранных из различных источников. Эффективность
предложенного подхода к фильтрации данных исследуется с помощью опроса
об уровне юмора и токсичности в различных группах шуток. Кроме того,
изучается прогресс в области вычислительной генерации юмора путём
сравнения шуток, написанных человеком, с шутками, сгенерированными
большими языковыми моделями. Несколько моделей были дообучены на
корпусах CleanComedy, с их помощью, а также с помощью исходных предобученных
версий были сгенерированы шутки, после чего была собрана обратная
связь от людей для оценки качества и юмористичности результатов.
Библ. --- 31 назв.
- Ключевые слова: генерация юмора, вычислительный юмор,
большие языковые модели, набор данных, фильтрация токсичности,
генерация текста
[humor generation, computational humor, large language models,
dataset, toxicity filtering, text generation]
Полный текст(.pdf)