- From edx.org
Understanding Artificial Intelligence through Algorithmic Information Theory
- Self-paced
- Free Access
- Fee-based Certificate
- 5 Sequences
- Advanced Level
Course details
Syllabus
Chapter 1. Describing data
- Complexity as code length
- Conditional Complexity
Chapter 2. Measuring Information
- Complexity and frequency
- Meaning distance
Chapter 3. Algorithmic information & mathematics
- Algorithmic probability, Randomness
- Gödel’s theorem
Chapter 4. Machine Learning and Algorithmic Information
- Universal induction - MDL
- Analogy & Machine Learning as complexity minimization
Chapter 5. Subjective information
- Simplicity & coincidences
- Subjective probability
- Relevance
Prerequisite
Examples of what you should know before embarking on this course:
- what a convex curve looks like,
- that log(7^n) is n times log(7)
- that rational numbers have finite or periodic expansion,
- that rational numbers are countable, but that real numbers are not,
- that the probability of "A and B" is the probability of "A knowing B" times the probability of B,
- that 65 is 1000001 is in base 2 and 41 in base 16,
- how to compute the sum of a finite geometric series,
- that {'a':1, 'i':0} is a Python dictionary and why list('ab'*4)[::2] yields ['a','a','a','a'],
- that k-means is a clustering method,
- what Bayes’ theorem tells us,
- how Shannon’s information is related to probability,
- that what is called a Turing machine is NOT the machine that Alan Turing (Benedict Cumberbatch) is using in the movie The imitation game.
Instructors
Jean-Louis Dessalles
Associate Professor • Telecom Paris - Institut Polytechnique de Paris
Editor
L'Institut Mines-Télécom est un acteur majeur public de l’enseignement supérieur, de la recherche et de l'innovation dans les domaines de l'ingénierie et du management.
Il est composé de 10 grandes écoles Mines et Télécom sous tutelle du ministre du redressement productif (Mines Albi, Mines Alès, Mines Douai, Mines Nantes, Mines ParisTech, Mines Saint-Etienne, Télécom Bretagne, Télécom École de Management, Télécom ParisTech, Télécom SudParis) et de deux écoles filiales (Télécom Lille et Eurecom). Il entretient des relations privilégiées avec deux partenaires stratégiques, Mines Nancy, composante de l’Université de Lorraine, et Armines.
L’Institut Mines-Télécom est en pointe en matière d’innovation pédagogique. Premier groupe d’écoles d’ingénieur en France, il diplôme chaque année 8% des ingénieurs.
Les cours en ligne ouverts à tous participent d’un mouvement de création et d’animation de communautés pour la formation initiale et tout au long de la vie. L’Institut Mines-Télécom contribuera à ce mouvement et y impliquera l’ensemble de ses parties prenantes : enseignants-chercheurs, étudiants et futurs étudiants, diplômés, entreprises et de la manière la plus générale tous les apprenants intéressés par les domaines de spécialité de l’Institut.
Platform
EdX est une plateforme d'apprentissage en ligne (dite FLOT ou MOOC). Elle héberge et met gratuitement à disposition des cours en ligne de niveau universitaire à travers le monde entier. Elle mène également des recherches sur l'apprentissage en ligne et la façon dont les utilisateurs utilisent celle-ci. Elle est à but non lucratif et la plateforme utilise un logiciel open source.
EdX a été fondée par le Massachusetts Institute of Technology et par l'université Harvard en mai 2012. En 2014, environ 50 écoles, associations et organisations internationales offrent ou projettent d'offrir des cours sur EdX. En juillet 2014, elle avait plus de 2,5 millions d'utilisateurs suivant plus de 200 cours en ligne.
Les deux universités américaines qui financent la plateforme ont investi 60 millions USD dans son développement. La plateforme France Université Numérique utilise la technologie openedX, supportée par Google.