A változóredukció témakörénél gyakran felmerül a kérdés, hogy vajon mi a különbség a főkomponens-képzés, illetve a faktorképzés között. Valóban, a két eljárás eredményében lehet nagyon hasonló – ezt szemlélteti a következő táblázat, amit a World Values Study 7.hullámának adataiból készítettem; a következő változószett kérdéseivel (mennyire tartja elfogadhatónak az alábbiakat a válaszadó):
Justifiable: Avoiding a fare on public transport
Justifiable: Stealing property
Justifiable: Cheating on taxes
Justifiable: Someone accepting a bribe in the course of their duties
Justifiable: Homosexuality
Justifiable: Prostitution
Justifiable: Abortion
Justifiable: Divorce
Justifiable: Sex before marriage
Justifiable: Suicide
Justifiable: Euthanasia
Justifiable: Violence against other people
Justifiable: Terrorism as a political, ideological or religious mean
Látható, hogy a 13 változó ugyanúgy rendeződött 3 csoportba mindkét eljárás esetén; a különbség csupán a töltésekben van – erre még visszatérünk. Matematikailag is szinte ugyanaz a folyamat zajlik a két módszer alkalmazása során; és bizonyos szempontból a céljuk is ugyanaz, sok változóból kevesebbet csinálni – vagyis adatredukciót végezni.
Szokás úgy fogalmazni, hogy a faktorelemzés során úgynevezett látens tényezőket keresünk, vagyis a változók mögötti, rejtett magyarázó változókat; míg a főkomponens elemzésnél egyszerűen csoportosítjuk az adatokat; tehát a változók csoportokba rendezésének az iránya más, ezt szemlélteti az alábbi ábra. Először azt érdemes megfigyelni, hogy a faktorelemzésnél a változók felé mutatnak a nyilacskák (jelezve ezzel, hogy egy látens, mögöttes hatótényező a rendezőelv), míg a főkomponenses ábrán a nyilacskák a változókból indulnak ki (jelezve, hogy itt a változók összevonása mögött itt nincs rejtett hatótényező):
Ez az eltérés az irányokban jól értelmezhető, ha végiggondoljuk, hogy elemzőként két célunk is lehet egy ilyen változószettel. Egyrészt törekedhetünk arra, hogy valóban csak az adatredukciót szem előtt tartva kevesebb változóba sűrítsünk minél több információt (ebből lesznek a főkomponensek). Ugyanakkor próbálkozhatunk azzal is, hogy felderítsük, milyen gondolati sémákkal, vagy attitűdökkel rendelkeznek a válaszadóink; tehát a rejtett szerkezetet szeretnénk feltárni. Ez a rejtett szerkezet az adatainkban úgy fog megmutatkozni, hogy azokra a kérdésekre, amik hasonló gondolatokat, érzéseket váltanak ki a válaszadókból, egymáshoz hasonlóbb válaszértékeket adnak. Amögött tehát, hogy az első faktorhoz a tömegközlekedésen lógás, a lopás, a kenőpénz és az adócsalás tartoznak; de a többi változó másik faktorokon van, az a jelenség húzódik meg, hogy ez a négy dolog az emberek fejében egy kategória, és ez megmutatkozik abban, hogy ezek az adatok egymással jobban egybecsengnek, mint a többi kérdésre adott válaszokkal.
És éppen ez a döntő különbség a két eljárás között: faktorelemzésnél csak a közös hatótényezők érdekelnek minket, semmi más; míg a főkomponens elemzésnél minden egyéb hatás is. Ilyen módon a faktorelemzésnél egészen fontos hatásokat is figyelmen kívül hagyhatunk; ha azok nem közösek más változókra ható tényezőkkel, akkor a mi elemzésünkben csak hibának értékelődnek, így ha még egyszer rápillantunk az előző ábrára, érdemes azt is megfigyelni, hogy csak a faktoros ábrán láthatunk hibatagokat (e betűvel, mint error) jelölve.
És íme, az az ábra, ami szintén jól szemlélteti, hogy a változókban megmutatkozó, többféle varianciából a jobb oldali, faktoros ábrán a látens változó csak a közös résszel kapcsolódik össze; míg a főkomponens elemzésnél többféle variancia is bekerül a főkomponensbe:
Térjünk vissza még a főkomponens- és faktortöltések táblázatát (kiegészítve azzal, hogy a töltések az adott faktor vagy főkomponens és a változó korrelációját mutatják). Ha figyelembe vesszük, hogy a faktorok csak a közös varianciát jelenítik meg, míg a főkomponensek minden varianciát, érthető, hogy az előbbiek értéke kisebb, mint az utóbbiaké:
Összefoglalva a rövid válasz arra, hogy melyik eljárást mikor használjuk az, hogy ha érdekel minket, milyen rejtett hatótényezők működnek egy-egy változószettben, használjuk a faktorelemzést – ebben az esetben csak a mögöttes faktorok által megmagyarázott varianciát őrizzük meg a változóredukció során.Viszont ha egyszerűen csak minél hatékonyabban akarjuk kevés változóban összevonni az eredeti változóinkat, és belőlük minél több információt megőrizni, dolgozzunk főkomponens-elemzéssel.
