Posts Tagged ‘Белобородов Иван’

Байесовский вывод и Тьюринг-полные модели (26.02.2013)

Доклад посвящен дополнительным аспектам машинного обучения, основанного на байесовском выводе, в приложении к деревьям и графам решений. Сравниваются метод выбора модели maximum a posteriori (MAP) и получение модели матожиданием по постериорным вероятностям (байесовской оценкой); описывается процедура эффективного вычисления байесовской оценки для деревьев и графов решений. Рассматриваются способы задания первичных вероятностей для байесовского вывода. Графы решений обобщаются до Тьюринг-полных моделей, рассматриваются преимущества и недостатки данного класса моделей. Вкратце рассматриваются возможности применения описанных методов машинного обучения в производственных процессах.

Докладчик: Иван Белобородов

Материалы:

  1. Jaynes, E.T. 2003. Probability Theory: The Logic of Science.
  2. Veness, J., Ng, K.S., Hutter, M., Uther, W., and Silver, D. 2011. A Monte-Carlo AIXI Approximation. Journal of Artificial Intelligence Research 40, 95–142.
  3. Looks, M. 2006. Competent Program Evolution. Doctoral Dissertation.

Презентация с семинара

Деревья и графы решений. Принцип Minimum Message Length и байесовский вывод (19.02.2013)

В докладе будет рассказано о методах машинного обучения, основанных на построении деревьев и графов решений с использованием принципа Minimum Message Length и байесовского вывода. Формулируется принцип Minimum Message Length сравнения моделей, показывается его связь с байесовским выводом. Строится процедура вывода деревьев решений из обучающих данных, вводятся графы решений как обобщение деревьев решений.

Докладчик: Иван Белобородов

Материалы:

  1. Quinlan, J.R. and Rivest, R.L. 1989. Inferring Decision Description Trees Using the Minimum Length Principle. Information and Computation 80, 227–248.
  2. Wallace, C.S. and Patrick, J.D. 1993. Coding Decision Trees. Machine Learning 11, 7–22.
  3. Oliver, J.J. 1993. Decision Graphs — An Extension of Decision Trees.
  4. Tan, P.J. and Dowe, D.L. 2002. MML Inference of Decision Graphs with Multi-Way Joins. Proceedings of the 15th Australian Joint Conference on Artificial Intelligence, 131–142.

Презентация с семинара

Тематическое моделирование текстов с учетом временного фактора (11.12.2012)

Доклад посвящен аспектам тематического моделирования динамических коллекций текстовых документов, то есть коллекций, документы которых разделены на группы в соответствие с временем их создания. Также будет рассмотрена динамическая вероятностная тематическая модель (Dynamic Hierarchical Dirichlet Process Model), позволяющая моделировать такие коллекции документов.

Докладчик: Кристина Чуприна

Материалы:

  1. Mining Text Data (Springer) Ed. Charu Aggarwal, ChengXiang Zhai, March 2012. Chapter 8.
  2. A. Ahmed, E. Xing. Timeline: A Dynamic Hierarchical Dirichlet Process Model for Recovering Birth/Death and Evolution of Topics in Text Stream, 2012.

Презентация с семинара

Artificial General Intelligence: требования, методологии, системы (25.09.12)

Доклад посвящен проблемам построения AGI и большей частью основан на материалах AGI Summer School 2012 (http://wiki.humanobs.org/public:events:agi-summerschool-2012).

В докладе будут рассмотрены требования, которым должны удовлетворять AGI-системы. Будут рассмотрены существующие на данный момент подходы к конструированию и методологии построения AI-систем, показаны их недостатки в применении к AGI; будет рассмотрен т.н. Constructivist AI, методология построения AGI, предложенная для устранения этих недостатков.

В качестве примеров AGI-проектов будут рассмотрены системы AERA, NARS, OpenCog и направление исследований Universal Artificial Intelligence, также известное как AIXI.

Докладчик: Иван Белобородов.

Материалы:

  1. Лекции AGI Summer School 2012 (http://wiki.humanobs.org/public:events:agi-summerschool-2012:lectureslides).
  2. Литература для чтения AGI Summer School 2012 (http://wiki.humanobs.org/public:events:agi-summerschool-2012:readings).

Презентация с семинара (pdf)

Artificial General Intelligence (06.03.12)

Доклад рассказывает об Artificial General Intelligence (AGI), относительно недавно оформившейся поддисциплине Искусственного Интеллекта. Главная задача AGI — построение полноценного, насколько это возможно, универсального, человекоподобного интеллекта (в отличие от мейнстрима ИИ, занимающегося решением отдельных задач и разработкой узких методов, не охватывающих интеллект в целом).

Докладчик: Иван Белобородов

Материалы:

  1. Pei Wang, Ben Goertzel. Introduction: Aspects of Artificial General Intelligence (в Advances in Artificial General Intelligence: Concepts, Architectures and Algorithms (Proceedings of the AGI Workshop 2006), IOS Press, 2007).
  2. Artificial General Intelligence. Ben Goertzel, Cassio Pennachin (Eds.). Springer-Verlag, 2007.

Презентация с семинара (pdf)

Распознавание и классификация именованных сущностей (1.11.11)

В докладе рассказывается о проблеме извлечения из текста и классификации именованных сущностей (named entity), некоторых методах их распознавания, приводятся наиболее часто используемые для этого признаки. Особое внимание уделено вопросу тегирования последовательностей и персептронному алгоритму.

Докладчик: Кристина Чуприна

Bibliography:

  • David Nadeau, Satoshi Sekine. A survey of named entity recognition and classification. 2007.
  • Michael Collins. Discriminative training methods for hidden markov models: Theory and experiments with perceptron algorithms. 2002.
  • Yoav Freund, Robert E. Schapire. Large Margin Classification Using the Perceptron Algorithm. 1998.

Презентация с семинара (pdf)