Posts Tagged ‘Архипенко Константин’

Рекуррентные нейронные сети в задачах анализа текстов (01.03.16)

В докладе будут рассмотрены рекуррентные нейронные сети — набирающие популярность модели для обработки последовательностей. Эти модели показывают state-of-the-art результаты во многих задачах анализа текстов, включая анализ тональности, вопросно-ответные системы и машинный перевод. Будут рассмотрены популярные архитектуры Long Short-Term Memory (LSTM) и Gated Recurrent Unit (GRU) и примеры решения некоторых задач на основе этих моделей при помощи библиотеки глубокого обучения Keras. В частности, будет продемонстрировано решение задачи анализа тональности твитов на русском языке, победившее на соревновании SentiRuEval-2016 по используемому критерию качества.

Докладчик: Константин Архипенко

Презентация: pdf

Лингвистические регулярности в явных и нейросетевых моделях векторного представления слов (29.09.15)

В одкладе рассматриваются результаты работы Леви и Голдберга, опубликованные в статье O. Levy, Y. Goldberg. Linguistic Regularities in Sparse and Explicit Word Representations, получившей приз за лучшую статью на конференции CoNLL, 2014.

В ходе доклада будут рассмотрены две модели представления слов на естественном языке в виде вещественнозначных векторов: на основе нейронных сетей (word2vec), а также явные представления, где используются частоты появлений слов в контексте других слов. Будут продемонстрированы лингвистические регулярности, которыми обладают результирующие представления, в частности, свойство аддитивности векторов. Будет проведено экспериментальное сравнение нейросетевых и явных моделей в задачах аналогии слов и показано, что нейронные сети являются не единственными моделями, успешно справляющимися с этими задачами. В заключение будут рассмотрены результаты и некоторые ошибки в решениях аналогий разных типов при помощи обеих моделей.

Докладчик: Константин Архипенко.

Презентация: pdf

Видео: https://www.youtube.com/watch?v=Xp6La4pygcs