Correction du partiel, exercice 2

Exercice 2

# Chargement du package mlbench
library(mlbench)

# Aide de la fonction mlbench.spirals
?mlbench.spirals

# Utilisation
spir = mlbench.spirals(n=200, cycles=0.75, sd=0.025)
X_a = spir$x
par(pty="s")
plot(X_a)

cl_a = spir$classes

X_b = .025 * t(rbind(rnorm(100), rnorm(100)))
cl_b = rep(3,100)

X = rbind(X_a, X_b)
cl = c(cl_a, cl_b)

par(pty="s")
plot(X, col=cl)

library(ade4)
DX = dist.quant(X,1)

Le choix de la distance euclidienne est cohérent car les deux variables sont quantitives et sans unité car il s’agit de données synthétiques. De plus une normalisation de chaque variable serait inutile car elles sont déjà globalement d’écart-type proche de 1.

par(mfrow=c(2,2))
strategies = c("single", "complete", "average", "ward.D2")
for(strat in strategies)  
  plot(hclust(DX,strat),hang=-1,main=paste(strat))

Au vu des dendrogrammes, on voit que la stratégie du minimum est la seule à présenter un saut très fort du critère. Les stratégies du maximum et de Ward donneraient aussi des partitions équilibrées, mais le saut maximal du critère est moins net. Suivant ce critère du saut maximal, on préfèrerait donc la CAH obtenue par la stratgie du minimum, et on sélectionnerait la parition en 3 classes (saut maximal pour le passage de 3 à 2 classes).

par(mfrow=c(2,2))
strategies = c("single", "complete", "average", "ward.D2")
for(strat in strategies)  
{
  cah = hclust(DX,strat)
  cl_cah = cutree(cah,k=3)
  par(pty="s")
  plot(X,col=cl_cah)
  title(strat)
  print(paste("stratégie ",strat,":"))
  print(table(cl,cl_cah))
}

[1] "stratégie  single :"
   cl_cah
cl    1   2   3
  1   0 100   0
  2 100   0   0
  3   0   0 100
[1] "stratégie  complete :"
   cl_cah
cl    1   2   3
  1  45  34  21
  2  36  23  41
  3   0   0 100
[1] "stratégie  average :"
   cl_cah
cl    1   2   3
  1  64   0  36
  2  59  41   0
  3 100   0   0
[1] "stratégie  ward.D2 :"
   cl_cah
cl    1   2   3
  1  33  37  30
  2  31  45  24
  3   0   0 100

8. On remarque que la stratégie du minimum donne exactement la même partition que la partition originale, et que c’est la seule. Les partitions obtenues avec les autres stratégies sont peu corrélées avec la partition originale. La stratégie du minimum est donc parfaitement adaptée à ce jeu de données. En effet dans ces données les observations d’une même classe peuvent toujours être reliés par un chemin passant par des observations très proches de la même classe, tandis que les classes elles-mêmes sont séparées les unes des autres par des zones vides. La stratégie du minimum est donc adaptée car elle permet de regrouper de proche en proche les observations: les groupes se forment en incorporant une par une les observations les plus voisines, ce qui peut se voir facilement sur le dendrogramme. En général cette propriété est plutôt considérée comme un défaut de la stratégie du minimum, mais cete exemple montre que ça peut aussi être avantageux.

km = kmeans(X, 3)
cl_km = km$cluster
par(pty="s")
plot(X,col=cl_km)
title("")

print(paste("K-moyennes :"))

[1] "K-moyennes :"

table(cl,cl_km)

   cl_km
cl    1   2   3
  1  32  28  40
  2  47  42  11
  3   0   0 100

On voit que la méthode des K-moyennes ne permet pas de retrouver la partition d’origine ; elle donne une partition ayant peu de recoupement avec la partition d’origine, comme les CAH obtneues avec des stratégies autres que celle du minimum.

10. Lors de l’étape d’affectation de la méthode des K-moyennes, chaque observation est affectée au centre le plus proche. Dans l’exemple précédent on a 3 classes, donc 3 centres. Les zones du plan qui sont plus proches de chaque centre (c’est-à-dire les frontières géométriques des trois classes) sont donc délimitées par les médiatrices du triangle formé par les trois centres. Par conséquent ces zones sont forcément des secteurs angulaires, et elles ne pourraient donc pas séparer les trois classes pour ces données, du fait de la forme “en spirale” des classes.