20810262 - Deep Learning

GASPARETTI FABIO

Obiettivi

Gli obiettivi sono fornire competenze avanzate e specifiche nell'ambito delle più recenti architetture di reti neurali Deep. Particolare attenzione sarà data a modelli multimodal, e alle reti capaci di analizzare strutture di dati complesse, quali grafi e multivariate time series; e al deep reinforcement learning.
Al termine del corso lo studente sarà in grado di: progettare e ottimizzare in maniera adeguata reti neurali Deep, saper distinguere e valutare diverse soluzioni, e saper selezionare e personalizzare le architetture di reti più efficaci da utilizzare in ambiti applicativi reali, supervised, unsupervised o seguendo un approccio basato su un apprendimento per rinforzo. Il corso è costituito da una parte teorica e metodologica sui concetti avanzati e innovativi, e da una attività laboratoriale in cui tali concetti sono applicati nella risoluzione di problemi mediante i più recenti framework di sviluppo

Risultati Apprendimento Attesi

Al termine del corso lo studente sarà in grado di:

- comprendere i principi fondamentali del Deep Learning e delle principali architetture neurali profonde;
- progettare, addestrare e valutare modelli deep per problemi di classificazione, generazione e analisi di sequenze;
- applicare tecniche avanzate di training e ottimizzazione per reti neurali profonde;
- utilizzare CNN, RNN, Encoder–Decoder, Attention ed Embeddings per applicazioni di Computer Vision e Natural Language Processing;
- comprendere e utilizzare Autoencoders, Variational Autoencoders, GAN, Transformers, Diffusion models, LLMs;
- sviluppare soluzioni sperimentali mediante framework moderni per il Deep Learning (es. Keras/TensorFlow).

Programma

Introduzione al Deep Learning; Addestramento di architetture Deep: tecniche di hyperparameter tuning, batch normalization, faster optimizers, regularization per reti deep; Convolutional Neural Networks (CNN/ConvNets); Analisi di sequenze: Recurrent Neural Networks (GRU, LSTM, Bidirectional); Architetture Encoder-Decoder, Autoencoders, Variational Autoencoders; Attention layers ; Generative Adversarial Networks (GAN); Embeddings; Principali architetture convolutive (AlexNet, VGG, NiN, GoogLeNet/Inception, ResNet, DenseNet); Transformers, Diffusion Models, LLMs. Applicazioni alla Computer Vision e all'Analisi del linguaggio naturale.

Prerequisiti

Conoscenze di base su percettrone e backpropagation, e le principali tecniche di addestramenti dei modelli di machine learning. Conoscenza base del linguaggio Python.

Testi Adottati

Simon J.D. Prince. "Understanding Deep Learning". MIT Press 2025 A. Geron,
A. Geron, “Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems”, O'Reilly Media, Inc, USA, 2019.

Modalità Frequenza

Non obbligatoria ma fortemente consigliata.

Modalità Valutazione

Le valutazioni consistono in prove in itinere che, se sostenute con successo, permettono di sostenere una prova finale limitata rispetto alla prova standard. Tutte le prove sono in forma scritta, e consistono sia in risposte aperte e chiuse.