MSE Master of Science in Engineering

The Swiss engineering master's degree

Chaque module vaut 3 ECTS. Vous sélectionnez 10 modules/30 ECTS parmi les catégories suivantes:

  • 12-15 crédits ECTS en Modules technico-scientifiques (TSM)
    Les modules TSM vous transmettent une compétence technique spécifique à votre orientation et complètent les modules de spécialisation décentralisés.
  • 9-12 crédits ECTS en Bases théoriques élargies (FTP)
    Les modules FTP traitent de bases théoriques telles que les mathématiques élevées, la physique, la théorie de l’information, la chimie, etc., vous permettant d’étendre votre profondeur scientifique abstraite et de contribuer à créer le lien important entre l’abstraction et l’application dans le domaine de l’innovation.
  • 6-9 crédits ECTS en Modules contextuels (CM)
    Les modules CM vous transmettent des compétences supplémentaires dans des domaines tels que la gestion des technologies, la gestion d’entreprise, la communication, la gestion de projets, le droit des brevets et des contrats, etc.

Le descriptif de module (download pdf) contient le détail des langues pour chaque module selon les catégories suivantes:

  • leçons
  • documentation
  • examen 
Advanced Topics in Deep Learning (TSM_AdvDeLearn)

The purpose of this module is to enhance students' understanding of deep learning techniques.

We will explore significant and current developments in deep learning, including generative models, attention networks, transformers, graph neural networks and other related techniques.

Furthermore, we will examine case studies that pertain to language, speech, or visual processing domains.

Compétences préalables

Machine Learning Basics, Deep Learning, Programming (Python), Statistics, Linear Algebra

Objectifs d'apprentissage

Learning objectives:

 

  • Know the Attention and Transformer architectures and how to use them in different applications. 
  • Know which architectures are suitable for which kind of machine learning problem 
  • Know how to apply self-supervised learning and the advantages and disadvantages of this method 
  • To know and apply the different methods of generative algorithms. 
  • Know how to interpret and explain results of predictions.

 

Catégorie de module

 

  • Refresher of basic deep learning methods such as MLP, CNN, RNN, Architectures, Backpropagation etc.
  • Attention and transformers: concepts and applications in language and vision domains
  • Self-supervised learning: contrastive and non-contrastive methods
  • Graph Neural Networks and applications
  • Generative models: VAEs, GANs, Diffusion models, Energy models, etc.
  • Foundation models, few and zero-shot learning
  • Interpretability, Explainability
  • Special topics of the year, such as NNs for physical systems, 3D reconstruction, theoretical approaches and other

Méthodes d'enseignement et d'apprentissage

  • Lectures / presence
  • Tutorial / presence
  • Exercises / presence
  • Self-study

Télécharger le descriptif complet

Retour