Cursos y Referencias de Deep Learning

Decidí compartir información de lo que he estado revisando de Deep Learning, que va desde cursos, libros, manuales, ejemplos.

Pienso que uno debe de acercarse a estos temas ya que si bien hasta el momento están implementadas en sistemas grandes, como empresas financieras, Google, Facebook, etc. Pensando en lo que ha pasado con Machine Learning, que ahora resulta fácil hacer un ejemplo con una máquina estándar, lo que  supongo es que pronto ese tipo de situaciones serán viables para hacer uso de técnicas e infraestructuras para proyectos pequeños o medianos de Deep Learning.

Entonces tratando de poner un granito de arena en este mar de conocimiento me propuse compartir los cursos que he estado revisando y las referencias que están disponibles en internet.

En vídeo

Hay muchas platicas, desde introductorias hasta avanzadas sobre Deep Learning, para mi gusto el curso completo, con buenas referencias y explicaciones es el de Nando de Freitas de la universidad de Oxford.

El curso completo se puede seguir en sus canal de youtube:

https://www.youtube.com/user/ProfNandoDF

Una segunda opción son los cursos de Hugo Larochelle, lo único que recomiendo es tener paciencia ya que son vídeos de menor duración pero suelen contener más detalles técnicas.

Su curso de puede ver e su canal de youtube

https://www.youtube.com/user/hugolarochelle/featured

y sobre sus trabajos y cursos se puede ver en su página:

http://www.dmi.usherb.ca/~larocheh/index_en.html

Notas respecto al tema

Respecto a notas, textos y conocimientos necesarias para abordar el tema, lo que suelo hacer es revisar lo que indica alguna de las universidades top o la líder en el tema, en esta caso recomiendo seguir los consejos de la Universidad de Montreal que es la líder en este campo.

La ventaja es que todo está en la web, lo cual permite ser consultado a cualquier hora y de manera libre. En algunos casos se requiere un poco de formación en Matemáticas para entender algunos detalles de los algoritmos y en otros un poco de familiaridad con respecto a Python, para manejar Theano, pero las recomendaciones son las siguientes:

Libro

El mejor libro que hasta ahora he encontrado que hable del tema está disponible para ser leído en red, pero no para ser descargado en algún formato es el de Y. Bengio.

Existen capítulos en algunos muy buenos libros como el de Kevin P. Murphy, el cual es creo un breve resumen para tener una idea general antes de abordar la lectura de un texto más amplio.

Mi recomendación es el capítulo 28 del libro de Kevin P. Murphy

http://mitpress-ebooks.mit.edu/product/machine-learning

Y el mejor libro de Deep Learning , para mi gusto, lo pueden leer en la siguiente liga:

http://www.iro.umontreal.ca/~bengioy/dlbook/

Cursos y otras referencias

Los pocos cursos que he visto disponibles son los de la Universidad de Stanford, entonces aprovechando que los dejaron para revisar el material de manera libre sobre decir que se deben de aprovechar.

Los más interesantes a mi gusto son los siguientes dos:

Deep Learing para Procesamiento de Lenguaje Natural

Convolución de Redes Neuronales para reconocimiento visual

Uno menos recientes es:

Deep Learing para Procesamiento de Lenguaje Natural( sin magia)

Algunos blog o referencias que son bastante buenas son las siguientes:

Notas de Michael Nilsen

Tutorial Aprendizaje no Supervizado y Deep Learning

El mejor lugar para revisar un amplio material sobre Deep Learing, es decir; desde aspectos prácticos hasta nivel investigación están en el siguiente sitio( es una belleza):

http://deeplearning.net/reading-list/

Comentario final

Espero que con el material anterior se tenga una buena referencia sobre el tema, mi intención es poner en esta categoría algunos ejemplo de como usar los algoritmos y aclarar de modo breve cual es la idea central. Trataré de hacer una entrada por tema del curso de Nando de Freitas usando Theano y PyLearn2.

Mi única intensión es invitar acercarse al tema y practicar, ya que datos para hacerlo sobra, pero lo falta en ocasiones es el tiempo y la dedicación ha estar aprendiendo sobre el tema.

Anuncios