RICM5
Introduction à la Science des Données
TP 2 - Régression Logistique

1. But du TP

L'objet du TP est d'implémenter le modèle de la Régression Logistique vu en cours.

2. Déroulement

On fixe la classe des fonctions à la classe des fonctions linéaire:
$\mathcal{H}=\{h: \mathbf{x}\mapsto w_0+\langle \mathbf{w},\mathbf{x}\rangle\}$ Avec $\mathbf{w}=(w_1,\ldots, w_d)$ et $\mathbf{x}=(x_1,\ldots, x_d)$
En suivant le principe de la minimisation du risque empirique, on va trouver les poids $\mathbf{w}=(w_1,\ldots, w_d)$ en minimisant le risque logistique sur une base d'apprentissage $S=\left((\mathbf{x}_i,y_i); i\in\{1,\ldots,m\} \right)$
$\hat{R}_m(h_{\mathbf{w}},S)=\frac{1}{m}\sum_{i=1}^m \ln\left(1+e^{-y_i h(\mathbf{x}_i)} \right)$
La minimisation sera faite en utilisant l'algorithme de la descente de gradient


   Entrée:  une base d'apprentissage 
   Initialisation:  
                      - Les poids  de façon aléatoire,
                      - Fixer un pas d'apprentissage ,
                      - Fixer une précision ,
                      - Poser 
   Tant que   
      .                     
      .                     
      .                     
      .                     
   Fin Tant que 
   Sortie:  Les poids

RICM5Introduction à la Science des Données TP 2 - Régression Logistique

1. But du TP

2. Déroulement

RICM5
Introduction à la Science des Données
TP 2 - Régression Logistique