Введение в машинное обучение

Оглавление

• :books: Библиотека ML-специалиста,
• По темам: линейная алгебра, тервер, Латех и т.д. + темы из программы курса,
• Дополнительные материалы к курсу «Введение в машинное обучение»,
• Онлайн-курсы (MOOC).

Литература для поступления в ШАД :small_orange_diamond: Подборка научпоп-книг :small_orange_diamond: Рекомендации от преподавателей курса «Математика и Python» и специализации

• Машинное обучение: вводная лекция – К. В. Воронцов;
• Математические методы обучения по прецедентам (теория обучения машин) – К. В. Воронцов;
• Репозиторий с конспектами, кодом и прочими материалами к семинарам по машинному обучению ВМК МГУ;
• Пост на reddit: Machine Learning Books;
• 100+ Free Data Science Books – более 100 бесплатных книг по Data Science;
• 16 Free Machine Learning Books — ещё 16 бесплатных книг по ML;
• 100 репозиториев по машинному обучению;
• awesome-machine-learning;
• Open Source Society University's Data Science course – this is a solid path for those of you who want to complete a Data Science course on your own time, for free, with courses from the best universities in the World;
• Доска по data science в Trello — проверенные материалы, организованные по темам (expertise tracks, языки программирования, различные инструменты);
• Блоги по датасаенс-тематике;
• People tweeting about ML and AI — на кого подписаться в Твиттере;
• Machine Learning Resource Guide;
• 17 ресурсов по машинному обучению от Типичного Программиста;
• 51 идея для тренировочных задачек (toy data problem) в Data Science;
• Dive into Machine Learning (:octocat: repo on github) with Python Jupyter notebook and scikit-learn;
• Data Science Interview Questions — огромный список вопросов для подготовки к интервью на позицию data scientist'а;
• Много книг по NLP (Natural Language Processing);
• Список открытых источников данных, на которых можно найти бесплатные датасеты;
• Для фанатов reddit.com — полезные и весёлые сабреддиты по машинному обучению и смежным темам;
• Очень подробный ответ на вопрос What should I learn in data science in 100 hours?.

Библиотека ML-специалиста

• Applied Predictive Modeling – M. Kuhn, K. Johnson (2013);
• Bayesian Reasoning and Machine Learning - D.Barber (2015);
• Core Concepts in Data Analysis: Summarization, Correlation and Visualization - Boris Mirkin;
• A Course in Machine Learning - Hal Daumé III (another link);
• Data Mining: Concepts and Techniques - Jiawei Han et. al.;
• Data Mining and Analysis. Fundamental Concepts and Algorithms - M.J.Zaki, W.Meira Jr (2014);
• Data Science For Dummies – Lillian Pierson (2015);
• Doing Data Science;
• Frequent Pattern Mining - Charu C Aggarwal, Jiawei Han (eds.);
• Gaussian Processes for Machine Learning - Carl E. Rasmussen, Christopher K. I. Williams;
• Inductive Logic Programming: Techniques and Applications - Nada Lavrac, Saso Dzeroski;
• Information Theory, Inference and Learning Algorithms – David MacKay;
• Introduction To Machine Learning - Nils J Nilsson (1997);
• The LION Way Machine Learning plus Intelligent Optimization (pdf);
• Machine Learning - Tom Mitchell;
• Machine Learning – Andrew Ng;
• Machine Learning, Neural and Statistical Classification - D. Michie, D. J. Spiegelhalter;
• Machine Learning. The Art of Science of Algorithms that Make Sense of Data - P. Flach (2012);
• Machine learning cheat sheet - soulmachine (2015);
• Pattern Recognition and Machine Learning - C.M.Bishop (2006);
• Machine Learning in Action - Peter Harrington;
• Probabilistic Programming and Bayesian Methods for Hackers (free);
• R in Action;
• Reinforcement Learning: An Introduction - Richard S. Sutton, Andrew G. Barto;
• Understanding Machine Learning: From Theory to Algorithms;
• Анализ больших наборов данных - перевод Mining Massive Datasets - Jure Leskovec, Anand Rajaraman, Jeff Ullman;
• Машинное обучение — Петер Флах;
• Построение систем машинного обучения — Л. П. Коэльо, В. Ричарт (2016).

По темам

Тематические подборки:

• Статистика и теория вероятностей
• Линейная алгебра
• Алгоритмы
• Нейронные сети, глубинное обучение, NLP, AI
• Python, IPython, Scikit-learn etc
• Code editors
• LaTeX
• R
• JavaScript-библиотеки для визуализации данных

Онлайн-курсы (MOOC)

• Перечень лучших курсов по практически любым областям математики;
• Тонна разнообразных курсов по программированию, алгоритмам, в том числе 14 курсов по ML;
• Coursera:
  • :small_blue_diamond: Machine Learning от Andrew Ng (Stanford University) – самый популярный курс по машинному обучению (осторожно, вместо стандартных Питона или R – Matlab/Octave);
  • :small_blue_diamond: Специализация Машинное обучение от МФТИ и Яндекса. У меня по этой специализации есть аккуратный :octocat: репозиторий;
  • Machine Learning Foundations: A Case Study Approach — очень доходчивый курс, подходит в качестве самого первого курса по ML;
  • Practical Predictive Analytics: Models and Methods;
  • Calculus: Single Variable Part 1 от University of Pennsylvania;
  • Calculus One от The Ohio State University;
  • Современная комбинаторика от МФТИ, ведёт Райгородский А.М.;
  • Теория вероятностей для начинающих, а также на OpenEdu — курс от МФТИ, ведёт Райгородский А.М.;
  • Линейная алгебра от ВШЭ. Курс линейной алгебры для нематематических факультетов, подходит «для быстрого старта»;
  • Эконометрика (Econometrics) — 10-недельный курс от ВШЭ;
  • Customer Analytics – курс о практическом применении статистики и анализа данных. Для людей, разочаровавшихся в DS и не понимающих, на кой это всё;
  • Social Network Analysis от University of Michigan;
  • Social and Economic Networks: Models and Analysis от Stanford University;
  • Introduction to Recommender Systems – восьминедельный курс по рекомендательным системам от университета Миннесоты;
  • Специализация Machine Learning от Washington University.
• Udacity:
  • Machine Learning Engineer Nanodegree;
  • Data Analyst Nanodegree;
  • Intro to Machine Learning — this will teach you the end-to-end process of investigating data through a machine learning lens;
  • Intro to Descriptive Statistics – подробный курс для новичков;
• Edx:
  • Data Science and Engineering with Spark;
  • Introduction to Computational Thinking and Data Science;
  • MITx: 6.041x Introduction to Probability - The Science of Uncertainty;
  • The Analytics Edge;
• Learning from Data – введение в машинное обучение (основная теория, алгоритмы и области практического применения);
• Видеозаписи лекций Школы Анализа Данных;
• Intro to Python for Data Science – основы Python и немного про NumPy;
• :small_blue_diamond: Курс по статистике на stepic.org — качественное введение в статистику, целиком на русском языке;
• Data Science and Machine Learning Essentials от Microsoft;
• CS231n: Convolutional Neural Networks for Visual Recognition (:octocat: repo on github) — отличный десятинедельный курс по нейросетям и компьютерному зрению.

Обсуждение машинного обучения в мессенджерах (группы, каналы, чаты, сообщества)

• Deep Learning Russia — Канал сообщества vk.com/deeplearning_ru
• ModelOverfit — Канал сообщества modeloverfit
• Data Science — Первый новостной канал про data science
• Big Data & Machine Learning — Чат по большим данным, обработке и машинному обучению
• Data Science Chat — Чат по теме Data Science