Transcript PPT - Tampereen yliopisto
Luento 6: Ryhmittelyanalyysi ja erotteluanalyysi
Petri Nokelainen [email protected]
http://www.uta.fi/~petri.nokelainen
Kasvatustieteiden yksikkö Tampereen yliopisto
Sisältö
1. Johdanto 2. Ryhmittelyanalyysin rajoituksia 3. K-keskiarvo ryhmittelyanalyysi PASW/SPSS ohjelmalla 4. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (havaintojen ryhmittely) 5. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (muuttujien ryhmittely) 6. Erotteluanalyysi Lähteet
1. Johdanto
• Ryhmittelyanalyysin (klusterianalyysi, cluster analysis, CA) kehittäjänä pidetään R. C. Tryonia (1939).
• Ryhmittelyanalyysi pyrkii ryhmittelemään joko havaintoja (vastaajat) tai muuttujia (kyselylomakkeen väittämät) mahdollisimman samankaltaisiin ryhmiin (klustereihin).
– Vastaavan tyyppisiä analyyseja ovat erotteluanalyysi (discriminant analysis, DA) ja luokitteluanalyysi (classification analysis, CA).
• Ryhmittelyanalyysia voidaan verrata myös faktorianalyysiin, mutta ilman latentin piirteen oletusta.
– Normaali faktorianalyysi ryhmittelee muuttujia, mutta on myös olemassa ns. Q-faktorointi jossa havaintomatriisi on käännetty ja pyritäänkin ryhmittelemään vastaajia latentin piirteen mukaisiin faktoreihin.
General Linear Model (GLM)
X
(IV)
Y
(DV)
z y
z x
e
(3.2)
Pearsonin tulomomenttikorrelaatiokerroin (r)
z y k
i
1
i z x i
e
(3.3)
Regressioanalyysi (Multiple RA) Varianssianalyysi (n-way ANOVA) Kahden ryhmän erotteluanalyysi (Two-group LDA)
i p
1
jm z y jm i k
1
im z x im
e
(3.4)
Monimuuttujaregressioanalyysi (Multivariate RA) Monimuuttujavarianssianalyysi (MANOVA) Erotteluanalyysi (LDA) Faktorianalyysi (EFA) Pääkomponenttianalyysi (PCA) Ryhmittelyanalyysi (CA) 1, jatkuva n, jatkuva n, epäjatkuva n, jatkuva n, jatkuva n, epäjatkuva n, jatkuva n, latentti n, latentti n, jatkuva 1, jatkuva 1, jatkuva 1, jatkuva 1, dikotominen n, jatkuva n, jatkuva n, epäjatkuva n, jatkuva n, jatkuva n, jatkuva
Ryhmä jäsenyyden ennustaminen
DV IV Kovariaatit Analyysi
Ei Yksis. DF n jatkuvaa Joitakin Seq. yksis. DF 1 diskr.
n diskr.
n disk. Logit Ei Log.regressio
n jatkuvaa ja/tai diskr. Joitakin Seq. log.regressio
Ei Fakt. DF n jatkuvaa Joitakin Seq. fakt. DF n jatkuvaa n jatkuvaa Ei Ryhmittelyanalyysi
1. Johdanto
• Ryhmittelyanalyysi sisältää useita sovelluksia, joista yleisimmin käytetään K-keskiarvo (K-Means) ja hierarkkista (Hierarchical) menetelmää.
– Havaintoja ryhmittelevä K-keskiarvo ryhmittelyanalyysi pyrkii ryhmittelemään havainnot keskiarvoiltaan mahdollisimman paljon toisistaan poikkeaviin ryhmiin.
– Havaintoja (vastaajia) ryhmittelevä hierarkkinen ryhmittelyanalyysi on luonteeltaan eksploratiivinen menetelmä, jossa tarkoituksena on jakaa havainnot mahdollisimman paljon toisistaan poikkeaviin ryhmiin.
– Muuttujia (väittämät) ryhmittelevä hierarkkinen ryhmittelyanalyysi on myös luonteeltaan eksploratiivinen menetelmä, nyt muuttujat pyritään jakamaan toisistaan eroaviin ryhmiin.
1. Johdanto
• K-keskiarvo ryhmittelyanalyysi on parametrinen menetelmä, jossa muuttujien mittaukset tulisi olla suoritettu vähintään välimatka-asteikolla.
• Hierarkkinen ryhmittelyanalyysi soveltuu lisäksi myös järjestys- ja nominaaliasteikollisille muuttujille.
• Molemmat menetelmät perustuvat kombinatoristen algoritmien käytölle, jolloin jokainen havainto sijoitetaan ryhmään ilman oletusta aineiston ”aiheuttavasta” taustalla olevasta todennäköisyysmallista.
– Muita lähestymistapoja ovat sekajakaumamallinnus (mixture modeling, esim. bayesilainen lähestymistapa) ja mode seeking (epäparametrinen lähestymistapa).
1. Johdanto
• Ryhmittelyanalyysi perustuu yleensä havaintojen tai muuttujien välisten Euklidisten etäisyyksien laskemiselle:
d j
(
x ij
,
x i
'
j
) (
x ij
x i
'
j
) 2 • Yleensä havaintoarvot standardoidaan ennen analyysia jotta eri asteikot eivät aiheuttaisi vinoumia tuloksiin. – Jos kaikki muuttujat on mitattu samalla asteikolla, standardointia ei tarvita (usein tämä on tilanne esim. kyselylomakkeen väittämien kohdalla).
1. Johdanto
1. Johdanto
• Jos muuttujien mittaustaso on järjestysasteikollinen, voidaan hierarkkisessa ryhmittelyanalyysissa käyttää Euklidisen etäisyyden laskemisen sijaan Khiin neliöön perustuvaa laskentaa.
– SPSS: Analyze – Classify – Hierarchical Cluster
Analysis
• Method: Measure: Counts (Chi-square measure)
Sisältö
1. Johdanto 2. Ryhmittelyanalyysin rajoituksia 3. K-keskiarvo ryhmittelyanalyysi SPSS-ohjelmalla 4. Hierarkkinen ryhmittelyanalyysi SPSS-ohjelmalla (havaintojen ryhmittely) 5. Hierarkkinen ryhmittelyanalyysi SPSS-ohjelmalla (muuttujien ryhmittely) 6. Erotteluanalyysi Lähteet
2. Ryhmittelyanalyysin rajoituksia
• K-keskiarvo ryhmittelyanalyysi on parametrinen menetelmä, jossa muuttujien mittaukset tulisi olla suoritettu vähintään välimatka-asteikolla.
– Tulosten tulkinta on järkevää suurillakin aineistoilla.
– Tutkijan on ennen analyysia asetettava oletus ryhmien (klustereiden) lukumäärästä (jokin luku joka on suurempi tai yhtä suuri kuin 2).
2. Ryhmittelyanalyysin rajoituksia
• Hierarkkinen ryhmittelyanalyysi soveltuu lisäksi myös järjestys- ja nominaaliasteikollisille muuttujille.
– Tulosten tulkinta kärsii suuresta otoskoosta, yleensä havaintojen määrä on enimmillään noin 50.
– Voidaan käyttää eksploratiivisesti eli ”louhia aineistosta” (data mining) ilman etukäteisoletusta n kappaletta klustereita.
2. Ryhmittelyanalyysin rajoituksia
• Ryhmittelyanalyysi on kokeellinen menetelmä, joka ei tuota helposti raporteissa esitettäviä ”objektiivisia” tunnuslukuja -> tutkijan vastuulle jää tulkita tulos tieteellisesti uskottavalla tavalla ja kuvata lukijalle mitä analyysin tulos käytännössä tarkoittaa.
Sisältö
1. Johdanto 2. Ryhmittelyanalyysin rajoituksia 3. K-keskiarvo ryhmittelyanalyysi PASW/SPSS ohjelmalla 4. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (havaintojen ryhmittely) 5. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (muuttujien ryhmittely) 6. Erotteluanalyysi Lähteet
3. K-keskiarvo ryhmittelyanalyysi
• • • Tässä esimerkissä käytettävä aineisto on kerätty vuoden 2001 tammikuussa Helsingin, Joensuun, Tampereen, Oulun ja Kuopion avoimen yliopiston verkkokursseille osallistuneilta opiskelijoilta Internetissä olevalla kyselylomakkeella. Aineistossa on 143 miestä (49.8 %) ja 132 naista (49.1 %). Sukupuolitieto puuttuu kolmelta vastaajalta (1.1%). Yhteensä vastaajia on 269.
Lomakkeessa on 28 Howard Gardnerin ’Multiple Intelligence’ teoriaan (1983) liittyvää väittämää, joihin on vastattu seitsemänportaisella asteikolla (1 = Väittämä ei pidä lainkaan paikkaansa … 7 = Väittämä pitää täysin paikkansa).
3. K-keskiarvo ryhmittelyanalyysi
• • Esimerkissä tarkastellaan vastaajien jakautumista kahden vahvuusalueen, kielellisen ja matemaattisen, suhteen.
Analyysin tarkoituksena on tunnistaa erilaisia vastaajaryhmiä suhteessa em. vahvuusalueisiin.
3. K-keskiarvo ryhmittelyanalyysi
• • Kumpikin vahvuusalue on analyysissa edustettuna summamuuttujan välityksellä ( kieli_mean ja matem_mean ) johon on tallennettu neljän yksittäisen väittämän keskiarvo.
Kielellistä vahvuutta kuvaava summamuuttuja
kieli_mean
: – m04 Kirjoittaminen on minulle luonteva tapa ilmaista itseäni.
– m40 Olen hiljakkoin kirjoittanut jotain sellaista, josta olen erityisen ylpeä tai josta sain tunnustusta.
– m56 Kielikuvat ja rikkaat kielelliset ilmaisut auttavat minua oppimaan tehokkaasti.
– m70 Äidinkieli ja/tai yhteiskunnalliset aineet olivat minulle koulussa helpompia kuin matematiikka, fysiikka ja kemia.
3. K-keskiarvo ryhmittelyanalyysi
• Matemaattista vahvuutta
matem_mean
: kuvaava summamuuttuja – m01 Matematiikka, fysiikka tai kemia kuului lempiaineisiini koulussa.
– m30 Minua viehättää monimutkaisten ongelmien kanssa työskentely ja niiden ratkaisu.
– m39 Nautin peleistä tai "aivopähkinöistä", jotka vaativat loogista ajattelua.
– m54 Päässälasku on minulle helppoa.
3. K-keskiarvo ryhmittelyanalyysi
• SPSS: Analyze – Classify – K-Means Cluster • Variables: kieli_mean , matem_mean • Number of Clusters: 2 • Method: Iterate and classify • Save…: Cluster membership, Distance from cluster center – Luo datamatriisiin kaksi uutta muuttujaa, joista ensimmäinen saa arvon 1 tai 2 kunkin vastaajan kohdalla (osoittaa kumpaan klusteriin vastaaja kuuluu) ja toinen muuttuja ilmoittaa kunkin vastaajan Euklidisen etäisyyden lähimmän klusterin keskipisteeseen (osoittaa kuinka lähellä ryhmän yleistä mielipidettä kyseinen vastaaja on).
• Options: Initial cluster centers, ANOVA table.
3. K-keskiarvo ryhmittelyanalyysi
QUICK CLUSTER kieli_mean matem_mean /MISSING=LISTWISE /CRITERIA= CLUSTER(2) MXITER(10) CONVERGE(0) /METHOD=KMEANS(NOUPDATE) /SAVE CLUSTER DISTANCE /PRINT INITIAL ANOVA.
Lopulliset ryhmäkeskukset
Final Cluster Centers
kieli_mean matem_mean Cluster 1 5,02 3,83 2 3,14 5,44
Number of Cases in each Cluster
Cluster Valid Mis sing 1 2 128,000 141,000 269,000 ,000 Vasemmanpuoleisen taulukon perusteella voidaan nähdä että ensimmäinen klusteri koostuu vastaajista, joilla on vahvemmat itse arvioidut kielelliset kuin matemaattiset kyvyt. Vastaavasti toisessa klusterissa on enemmän matemaattisesti kuin kielellisesti orientoituneita henkilöitä. Oikeanpuoleisesta taulukosta näemme, että ensimmäiseen klusteriin kuuluu 128 ja toiseen 141 vastaajaa (yhteensä 269 vastaajaa). Koska vastaajia on suurin piirtein sama määrä molemmissa ryhmissä, ryhmittelyanalyysin tulosta voidaan pitää tulkintakelpoisena.
Varianssianalyysi
ANOVA
kieli_mean matem_mean Cluster Mean Square 237,535 174,806 df 1 1 Error Mean Square ,815 ,833 df 267 267 F 291,285 209,907 Sig.
,000 ,000 The F tests should be us ed only for descriptive purposes because the clus ters have been chosen to maximize the differences among cases in different clusters. The observed significance levels are not corrected for this and thus cannot be interpreted as tests of the hypothesis that the cluster means are equal.
Varianssianalyysin tulokset esittävä taulukko osoittaa, että analyysiin valitut kaksi muuttujaa pystyvät ryhmittelemään tehokkaasti vastaajia eri klustereihin. Jos Sig. (p-arvo) olisi suurempi kuin .05, muuttujan poistamista kannattaa harkita, koska se ei tuo merkittävää lisäinformaatiota ryhmittelyyn.
Ryhmäjäsenyydet
sukupu a
Valid Mies Nainen Frequency 37 90 Mis sing Total Total NA 127 1 128 a. Cluster Number of Case = 1 Percent 28,9 70,3 99,2 ,8 100,0 Valid Percent 29,1 70,9 100,0 Cumulative Percent 29,1 100,0
sukupu a
Valid Mies Nainen Frequency 97 42 Mis sing Total Total NA 139 2 141 a. Cluster Number of Case = 2 Percent 68,8 29,8 98,6 1,4 100,0 Valid Percent 69,8 30,2 100,0 Cumulative Percent 69,8 100,0 Vasemmanpuoleisessa taulukossa on ensimmäisen klusterin jäsenten sukupuolijakauma, oikeanpuoleisessa toisen. Verrattaessa sukupuolijakaumia ja kahden klusterin ryhmäkeskuksia havaitsemme, että tässä aineistossa naiset ovat omasta mielestään miehiä enemmän kielellisesti orientoituneita (70.3% vs. 28.9%) ja miehet puolestaan ovat naisia enemmän matemaattisesti orientoituneita (68.8% vs. 29.8%).
Klustereiden visuaalinen tarkastelu
Antamalla SPSS –ohjelmassa komento Graphs – Legacy dialogs – Scatter/Dot – Simple Scatter - Define, saadaan määriteltyä ryhmittelyanalyysin visuaalinen esitys: Y Axis: kieli_mean.
X Axis: matem_mean.
Set Markers by: Cluster Number of Case [QCL_1] (tämä muuttuja luotiin ryhmittelyanalyysin ensimmäisessä vaiheessa).
GRAPH /SCATTERPLOT(BIVAR)=matem_mean WITH kieli_mean BY QCL_1 /MISSING=LISTWISE .
Klustereiden visuaalinen tarkastelu
Kuvassa olevat pisteet edustavat vastaajia, yksi piste voi kuvata useampaa kuin yhtä vastaajaa. Ryhmittelyanalyysi on pystynyt erottelemaan kaksi vastaajajoukkoa toisistaan hyvin.
K-keskiarvo ryhmittelyanalyysin raportointi
Taulukko 1. Ryhmittelyanalyysin lopulliset ryhmäkeskukset (
N
=269) • K-keskiarvo ryhmittelyanalyysin avulla selvitettiin erilaisia vastaajaryhmiä itse raportoidun kielellisen ja matemaattisen osaamisen suhteen. Analyysi toteutettiin kahden klusterin mallilla teoreettisen oletuksen mukaisesti. Vastaajat muodostivat kaksi ryhmää (klusteria, ks. Taulukko 1), joista ensimmäisessä olivat ne henkilöt jotka painottivat enemmän kielellistä osaamistaan (naiset n=90, 70.3%; miehet n=37, 28.9%), ja toisessa vastaavasti matemaattisemmin orientoituneet henkilöt (naiset n=42, 29.8%; miehet n=97, 68.8%).
Sisältö
1. Johdanto 2. Ryhmittelyanalyysin rajoituksia 3. K-keskiarvo ryhmittelyanalyysi PASW/SPSS ohjelmalla 4. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (havaintojen ryhmittely) 5. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (muuttujien ryhmittely) 6. Erotteluanalyysi Lähteet
4. Hierarkkinen ryhmittelyanalyysi (havaintojen ryhmittely)
• Tarkastelemme seuraavaksi ainoastaan matemaattisen vahvuusalueen ryhmittelyvoimaa satunnaisesti poimitun (n=67) aliotoksen kohdalla (koko aineisto N=269).
4. Hierarkkinen ryhmittelyanalyysi (havaintojen ryhmittely)
• SPSS: Analyze – Classify – Hierarchical Cluster • Variables: matem_mean.
• Cluster: Cases.
• Display: Statistics, Plots.
• Plots: Dendogram.
• Method: Between-groups linkage, Squared Euclidean distance, Transform Values: Z scores By variable. • Save…: Single solution, Number of clusters: 2 – Luo datamatriisiin uuden muuttujan, joka ilmoittaa arvolla 1 tai 2 kunkin vastaajan klusterin.
4. Hierarkkinen ryhmittelyanalyysi (havaintojen ryhmittely)
CLUSTER /MATRIX IN ('C:\tmp\MI.sav') /METHOD BAVERAGE /PRINT SCHEDULE /PLOT DENDROGRAM.
Dendogrammi
Satunnaisen aliotoksen (~20%, n=67) dendogrammista voidaan päätellä että vastaajat jakautuvat kahteen pääklusteriin (josta toisessa on 12 ja toisessa 55 jäsentä).
Dendogrammi
sukupu a
Valid Mies Nainen Total Frequency 2 10 12 Percent 16,7 83,3 100,0 Valid Percent a. Average Linkage (Between Groups) = 2 16,7 83,3 100,0 Cumulative Percent 16,7 100,0
yopisto a
Valid Helsinki Joensuu Tampere Kuopio Total Frequency 6 1 3 2 12 Percent 50,0 8,3 25,0 16,7 100,0 a. Average Linkage (Between Groups) = 2 Valid Percent 50,0 8,3 25,0 16,7 100,0 Cumulative Percent 50,0 58,3 83,3 100,0 Dendogrammin perusteella voidaan tarkastella kunkin vastaajan yksilökohtaisia tietoja, esimerkiksi pienemmän klusterin ( ) 12 vastaajasta kaksi (16.7%) on miehiä ja 10 (83.3%) on naisia. Puolet tämän klusterin jäsenistä opiskelee Helsingin yliopistossa (n=6), loput jakautuvat Joensuun, Tampereen ja Kuopion kesken.
Dendogrammi
sukupu a
Valid Mis sing Total Mies Nainen Total NA Frequency 25 28 53 2 55 Percent 45,5 50,9 96,4 3,6 100,0 a. Average Linkage (Between Groups ) = 1 Valid Percent 47,2 52,8 100,0
yopisto a
Cumulative Percent 47,2 100,0 Valid Helsinki Joensuu Tampere Oulu Kuopio Total Frequency 11 11 13 17 3 55 Percent 20,0 20,0 23,6 30,9 5,5 100,0 a. Average Linkage (Between Groups) = 1 Valid Percent 20,0 20,0 23,6 30,9 5,5 100,0 Cumulative Percent 20,0 40,0 63,6 94,5 100,0 Suuremman klusterin ( ) jäsenten sukupuoli on jakautunut tasaisesti (45.5 % miehiä ja 50.9 % naisia). Myös yliopistot ovat tässä klusterissa tasaisesti edustettuina.
Sisältö
1. Johdanto 2. Ryhmittelyanalyysin rajoituksia 3. K-keskiarvo ryhmittelyanalyysi PASW/SPSS ohjelmalla 4. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (havaintojen ryhmittely) 5. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (muuttujien ryhmittely) 6. Erotteluanalyysi Lähteet
5. Hierarkkinen ryhmittelyanalyysi (muuttujien ryhmittely)
• • Tässä esimerkissä tutkimme neljän kielellistä ja neljän matemaattista vahvuusaluetta mittaavan väittämän kykyä ryhmittyä omien pääulottuvuuksiensa mukaisesti (ts. ”löytää toiset samanhenkiset väittämät”). Aineiston koko on 269.
5. Hierarkkinen ryhmittelyanalyysi (muuttujien ryhmittely)
• Kielellistä vahvuutta mittaavat väittämät: – m04 Kirjoittaminen on minulle luonteva tapa ilmaista itseäni.
– m40 Olen hiljakkoin kirjoittanut jotain sellaista, josta olen erityisen ylpeä tai josta sain tunnustusta.
– m56 Kielikuvat ja rikkaat kielelliset ilmaisut auttavat minua oppimaan tehokkaasti.
– m70 Äidinkieli ja/tai yhteiskunnalliset aineet olivat minulle koulussa helpompia kuin matematiikka, fysiikka ja kemia.
5. Hierarkkinen ryhmittelyanalyysi (muuttujien ryhmittely)
• Matemaattista vahvuutta mittaavat väittämät: – m01 Matematiikka, fysiikka tai kemia kuului lempiaineisiini koulussa.
– m30 Minua viehättää monimutkaisten ongelmien kanssa työskentely ja niiden ratkaisu.
– m39 Nautin peleistä tai "aivopähkinöistä", jotka vaativat loogista ajattelua.
– m54 Päässälasku on minulle helppoa.
5. Hierarkkinen ryhmittelyanalyysi (muuttujien ryhmittely)
• SPSS: Analyze – Classify – Hierarchical Cluster • Variables: m04 , m40 , m56 , m70 , m01 , m30 , m39 , m54.
• Cluster: Variables.
• Display: Statistics, Plots.
• Plots: Dendogram.
• Method: Between-groups linkage, Squared Euclidean distance, Transform Values: Z scores By variable.
5. Hierarkkinen ryhmittelyanalyysi (muuttujien ryhmittely)
CLUSTER /MATRIX IN ('C:\tmp\MI.sav') /METHOD BAVERAGE /PRINT SCHEDULE /PLOT DENDROGRAM.
Dendogrammi
Hierarkkinen ryhmittelyanalyysi osoitti, että kielellistä ( m04,m40,m56,m70 ) ja matemaattista ( m01,m30,m39,m54 perusteella kaksi ryhmää teoreettisen oletuksen mukaisesti.
) vahvuutta mittaavat väittämät muodostivat vastaajien vastausten (N=269)
Sisältö
1. Johdanto 2. Ryhmittelyanalyysin rajoituksia 3. K-keskiarvo ryhmittelyanalyysi PASW/SPSS ohjelmalla 4. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (havaintojen ryhmittely) 5. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (muuttujien ryhmittely) 6. Erotteluanalyysi Lähteet
General Linear Model (GLM)
X
(IV)
Y
(DV)
z y
z x
e
(3.2)
Pearsonin tulomomenttikorrelaatiokerroin (r)
z y k
i
1
i z x i
e
(3.3)
Regressioanalyysi (Multiple RA) Varianssianalyysi (n-way ANOVA) Kahden ryhmän erotteluanalyysi (Two-group LDA)
i p
1
jm z y jm i k
1
im z x im
e
(3.4)
Monimuuttujaregressioanalyysi (Multivariate RA) Monimuuttujavarianssianalyysi (MANOVA) Erotteluanalyysi (LDA) Faktorianalyysi (EFA) Pääkomponenttianalyysi (PCA) Ryhmittelyanalyysi (CA) 1, jatkuva n, jatkuva n, epäjatkuva n, jatkuva n, jatkuva n, epäjatkuva n, jatkuva n, latentti n, latentti n, jatkuva 1, jatkuva 1, jatkuva 1, jatkuva 1, dikotominen n, jatkuva n, jatkuva n, epäjatkuva n, jatkuva n, jatkuva n, jatkuva
Ryhmä jäsenyyden ennustaminen
DV IV Kovariaatit Analyysi
Ei Yksis. DF n jatkuvaa Joitakin Seq. yksis. DF 1 diskr.
n diskr.
n disk. Logit Ei Log.regressio
n jatkuvaa ja/tai diskr. Joitakin Seq. log.regressio
Ei Fakt. DF n jatkuvaa Joitakin Seq. fakt. DF n jatkuvaa n jatkuvaa Ei Ryhmittelyanalyysi
Erotteluanalyysi
• Linear discriminant analysis (LDA), discriminant function analysis (DFA).
• Tavoitteena ryhmäjäsenyyden ennustaminen selittävien muuttujien (predictors) avulla.
– Voiko työntekijän työnantajan (group1, group2,
group3) ennustaa motivaatiomittarin skaalojen (MF1, … , MF6) keskiarvojen perusteella?
Erotteluanalyysi
• MANOVA (ks. luento 3) testaa, liittyykö ryhmäjäsenyys keskiarvojen eroihin selitettävien muuttujien (DV) välillä. • Erotteluanalyysiksi asia muuttuu jos vastaus on myönteinen, jolloin DV -muuttujayhdistelmää voidaan käyttää ennustamaan ryhmäjäsenyyttä.
– Merkitsevä ero ryhmien välillä tarkoittaa sitä,
että annettuna tietty luku voidaan ennustaa mistä ryhmästä se tulee.
Erotteluanalyysi
• MANOVA:ssa IV-muuttujat ovat ”ryhmiä” ja DV-muuttujat ennustajia.
• Erotteluanalyysissa IV –muuttujat ovat ennustajia (predictors) ja DV –muuttujat ”ryhmiä” (groups, grouping variables, classification variables).
Erotteluanalyysi
• MANOVA ja LDA voidaan käsitellä kanonisen korrelaation (CC, ks. luento 4) erityistapauksina.
– CC: tutkija poimii itse (jatkuvat) muuttujat vertailtaviin ryhmiin.
– CC: tutkitaan kahden muuttujaryhmän välisiä vaikutussuhteita, esim.
• Kuinka monella eri ulottuvuudella toisen muuttujaryhmän
muuttujat liittyvät toisen muuttujaryhmän muuttujiin?
• Kuinka kahden muuttujaryhmän (canonical variate pairs)
väliset ulottuvuudet tulkitaan?
• Miten voimakas on kahden muuttujaryhmän välinen
korrelaatio?
IV 1 IV 2 DV 1 DV 2 DV 3 DV 4 DV 5 DV 6 Group Sex MF1 MF2 MF3 MF4 MF5 MF6
Erotteluanalyysi
Organization 1, 2, 3 Male, Female Intrinsic Goal Orientation Extrinsic Goal Orientation Meaningfulness of Study Control Beliefs Self-Efficacy Test Anxiety
MANOVA IV 1 Group IV 1 Sex
Erotteluanalyysi
DV 1 MF1 DV 2 MF2 DV 3 MF3 DV 4 MF4 DV 5 MF5 DV 6 MF6 Classification Erotteluanalyysi IV 1 MF1 IV 2 MF2 IV 3 MF3 IV 4 MF4 IV 5 MF5 IV 6 MF6 DV 1 Group DV 1 Sex
Erotteluanalyysi • Ennustuksen merkitsevyys.
– Voiko ryhmäjäsenyyden ennustaa luotettavasti ennustavien muuttujien avulla: • Voimmeko sattumaa paremmin ennustaa
kuuluuko uusi luokiteltava henkilö ryhmään 1, 2 tai 3 hänen motivaatioprofiilinsa perusteella?
– Vastaa yksisuuntaisen MANOVA:n IV – muuttujien päävaikutusten (main effects) tutkimista: • Onko henkilön motivaatioprofiilien välillä
ryhmäjäsenyydestä johtuvia eroja?
Erotteluanalyysi • Merkitsevien erottelufunktioiden (discriminant function) lukumäärä.
– Ryhmät voivat poiketa toisistaan useiden ulottuvuuksien suhteen, esim. • Yrityksen toimiala (teollisuus – koulutus – palvelu) • Yrityksen kasvuorientaatio (matala – korkea) • Yrityksen työntekijöiden sukupuoli (miesvaltainen – naisvaltainen)
IV 1 IV 2 DV 1 DV 2 Group Sex ITPA WISC
Erotteluanalyysi
Normal, dyslexy, ADHD 1 Boy, Girl Illinois Test of Psycholinguistic Ability Wechsler Intelligence Scale for Children 1
Attention Deficit Hyperactivity Disorder
Erotteluanalyysi • Merkitsevien erottelufunktioiden tulkinta.
– Ensimmäinen funktio erottelee tehokkaimmin, seuraavat (ortogonaaliset) tarjoavat täydentävää tietoa, esim. mikä testipisteiden kokoonpano erottelee tehokkaimmin seuraavien ulottuvuuksien suhteen: • DF 1 : ”Normaali” – lukemisen erityisvaikeus – ADHD • DF 2 : Lukemisen erityisvaikeus – ADHD
Erotteluanalyysi • Lineaariset erottelufunktiot.
– Millä lineaarisilla yhtälöillä (painokertoimet) voidaan diagnosoida uusi, datamatriisin ulkopuolelta tuleva tapaus? – Mikä osa tapauksista on luokiteltu yhtälöiden perusteella oikein?
– Mitkä tapaukset on luokiteltu väärin?
Erotteluanalyysi • Vaikutussuhteen voimakkuus.
– Mikä on ryhmäjäsenyyden ja ennustajien (predictors) välisen vaikutussuhteen voimakkuus?
• DF 1 :
Jos ensimmäinen erottelufunktio jakaa subjektit kahteen ryhmään (”normaalit”, ”ei normaalit”), kuinka paljon em. ryhmien variansseilla on päällekkäisyyttä testipistemäärien varianssien kanssa?
Erotteluanalyysi • Ennustavien muuttujien tärkeys.
– Mitkä ennustajista ovat tärkeimpiä ennustettaessa ryhmäjäsenyyttä?
• Mitkä motivaatioskaalojen testipisteet auttavat
kohdentamaan yrityksille suunnattua henkilöstökoulutusta?
• Mitkä testipisteet auttavat erottelemaan
lukivaikeuksiset ja ADHD -oppilaat muista?
Erotteluanalyysi
• Yleisimmässä käyttötilanteessa on yksi diskreetti DV (luokittelu) muuttuja ja useita IV –muuttujia (ennustajat, prediktorit).
• DA on parhaimmillaan luonnollisesti muodostuneiden ryhmien parissa ts. sallii erot ryhmien koossa.
• Luokittelun osalta rajoituksia on hyvin vähän: – Pienimmässä ryhmässä tulee olla yhtä monta havaintoa kuin asetelmassa on IV –muuttujia.
– DA on herkempi poikkeaville havainnoille (outliers) kuin jakauman vinoudelle (skewness).
Erotteluanalyysi • Rajoituksia:
– Varianssi-kovarianssimatriisien homogeenisuus • Tarkastellaan kanonisten erottelufunktioiden hajontakuvia ryhmittäin • SPSS –ohjelman Box´s M –testi • Jos vaatimukset eivät täyty: – Prediktorien transformaatio – Erillisten kovarianssimatriisien käyttö (johtaa usein ylisovitukseen)
IV 1
Erotteluanalyysi
* * * IV 2
Erotteluanalyysi
• Laskenta perustuu ryhmien sisäisen (S wg ) ja välisen (S bg ) ristitulomatriisin vertailuun: S total = S wg + S bg • Wilksin Lambdan arvoon
S wg
S bg S wg
liittyvä F-approksimaatio ja sen tilastollinen merkitsevyys (ns. ”p –arvo”) osoittavat, voiko luokittelumuuttujaa kuvata prediktorien avulla.
Erotteluanalyysi
• WL –testin osoittaessa että ryhmien ja prediktorien välillä on vaikutussuhde, tarkastellaan em. vaikutussuhteen muodostavia lineaarisia erottelufunktioita.
• Lineaaristen erottelufunktioiden lukumäärä on joko prediktorien lukumäärä tai ryhmien df (kumpi on pienempi).
– Jos ryhmiä on kaksi, tarvitaan vain yksi erottelufunktio.
Erotteluanalyysi
• Erottelufunktioita voidaan verrata regressioyhtälöihin, kullekin funktiolle on oma kerrointen joukko.
• Kunkin lapsen standardipisteet (ITPA 1 , WISC 2 ) i:nnellä erottelufunktiolla:
D i
= d
i1
z
1
+ d
i2
z
2
+ . . . + d
ip z p d z
1) Illinois Test of Psycholinguistic Ability 2) Wechsler Intelligence Scale for Children standardoitu DF kerroin prediktorin standardipisteet
Erotteluanalyysi
• Luokittelussa kullekin ryhmälle kehitetään oma luokitteluyhtälö:
C j
= c
j0
+ c
j1
X
1
+ c
j2
X
2
+ . . . + c
jp X p c j
0
c j X
vakio luokittelufunktion kerroin prediktorin arvo
Erotteluanalyysi
• Kunkin vastaajan luokitteluyhtälön arvo (classification score) ratkaistaan ryhmittäin, ja vastaaja sijoitetaan korkeimman arvon saaneeseen ryhmään.
• Erikokoisten ryhmien tapauksessa voidaan ryhmäkoolle asettaa a priori todennäköisyys.
– Useimmat tietokonesovellukset tekevät tämän automaattisesti.
Sisältö
1. Johdanto 2. Ryhmittelyanalyysin rajoituksia 3. K-keskiarvo ryhmittelyanalyysi PASW/SPSS ohjelmalla 4. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (havaintojen ryhmittely) 5. Hierarkkinen ryhmittelyanalyysi PASW/SPSS ohjelmalla (muuttujien ryhmittely) 6. Erotteluanalyysi Lähteet
Lähteet
Gardner, H. (1983). Frames of mind. New York: Basic Books.
Hair, J. F. J., Anderson, R. E., Tatham, R. L., & Black, W. C. (1995). Multivariate data analysis (4th ed.). Saddle River, NJ: Prentice Hall. Hastie, T., Tibshirani, R., & Friedman, J. (2009). The elements of
statistical learning. Data mining, inference and prediction.
New York: Springer.
Huberty, C. J. (1994). Applied Discriminant Analysis. New York: John Wiley & Sons..
Metsämuuronen, J. (2003). Tutkimuksen tekemisen perusteet ihmistieteissä. Helsinki: International Methelp Ky. Nummenmaa, L. (2009). Käyttäytymistieteiden tilastolliset menetelmät. Ensimmäinen painos, uudistettu laitos. Helsinki: Tammi.
Lähteet
Nummenmaa, T., Konttinen, R., Kuusinen, J., & Leskinen, E. (1997). Tutkimusaineiston analyysi. Porvoo: WSOY. Tabachnick, B. G., & Fidell, L. S. (2007). Using Multivariate Statistics. Fifth Edition. Boston: Pearson. Tryon, R. C. (1939/1970).
Cluster analysis.
New York: McGraw-Hill.