Memahami Konsep ANOVA dan Uji Hipotesis: Implementasi dengan Python untuk Perbandingan Kelompok

Kapan Perbandingan Banyak Kelompok Membutuhkan ANOVA

Ketika kita ingin membandingkan rata-rata dari tiga kelompok atau lebih, pendekatan yang paling intuitif adalah menjalankan uji t berulang kali untuk setiap pasangan kelompok. Misalnya, untuk tiga kelompok kita butuh tiga uji t: kelompok A melawan B, A melawan C, dan B melawan C. Pendekatan ini tampak sederhana, tetapi menyimpan masalah statistik yang serius berupa inflasi family-wise error rate.

Setiap uji t memiliki peluang kesalahan tipe I sebesar alpha — biasanya 0.05. Jika kita menjalankan tiga uji independen, peluang setidaknya satu di antaranya menghasilkan kesimpulan salah naik menjadi sekitar 1 - (0.95)^3 = 0.143. Semakin banyak kelompok, semakin besar peluang kita menemukan perbedaan yang sebenarnya tidak ada. Inilah alasan utama mengapa ANOVA (Analysis of Variance) hadir sebagai solusi.

ANOVA bekerja dengan membandingkan dua sumber varians: varians antar-kelompok (between-group variance) dan varians dalam-kelompok (within-group variance). Jika rata-rata kelompok benar-benar berbeda, varians antar-kelompok akan jauh lebih besar daripada varians dalam-kelompok. Hipotesis yang diuji adalah H0 yang menyatakan semua rata-rata kelompok sama, melawan H1 yang menyatakan minimal satu rata-rata berbeda.

Gambar: Dekomposisi varians ANOVA menjadi varians antar-kelompok dan dalam-kelompok — Sumber: PubMed Central

Perlu kita bedakan dengan uji t yang hanya cocok untuk dua kelompok. Ketika kelompok bertambah menjadi tiga atau lebih, uji t tidak lagi memadai karena setiap perbandingan berpasangan menambah peluang kesalahan. ANOVA justru menguji seluruh kelompok dalam satu kerangka tunggal, sehingga lebih efisien dan secara statistik lebih aman. Hasil pengujian ini dinyatakan dalam statistik F yang mengikuti F-distribution, sebuah distribusi yang bentuknya ditentukan oleh dua derajat kebebasan: satu untuk pembilang dan satu untuk penyebut.

Metode ini bergantung pada tiga asumsi utama: residual berdistribusi normal, varians antar kelompok homogen, dan setiap observasi independen satu sama lain. Ketika asumsi ini terpenuhi, ANOVA memberikan satu keputusan tunggal untuk seluruh perbandingan sekaligus, sehingga family-wise error rate tetap terkendali.

Membangun Dataset Percobaan dan Menghitung Statistik F Secara Manual

Untuk memahami cara kerja ANOVA, kita mulai dari fondasinya: menghitung statistik F secara manual. Kita simulasikan tiga kelompok data yang merepresentasikan skor ujian dari tiga metode belajar berbeda. Setiap kelompok berisi 30 observasi yang dibangkitkan dari distribusi normal dengan rata-rata berbeda.

!pip install numpy pandas

import numpy as np
import pandas as pd

np.random.seed(42)

metode_a = np.random.normal(70, 8, 30)
metode_b = np.random.normal(75, 8, 30)
metode_c = np.random.normal(82, 8, 30)

df = pd.DataFrame({
    'metode': ['A'] * 30 + ['B'] * 30 + ['C'] * 30,
    'skor': np.concatenate([metode_a, metode_b, metode_c])
})

grand_mean = df['skor'].mean()
group_means = df.groupby('metode')['skor'].mean()
group_counts = df.groupby('metode')['skor'].count()
k = df['metode'].nunique()
n_total = len(df)

ss_between = np.sum(group_counts * (group_means - grand_mean) ** 2)
ss_within = np.sum((df['skor'] - df.groupby('metode')['skor'].transform('mean')) ** 2)
ss_total = np.sum((df['skor'] - grand_mean) ** 2)

df_between = k - 1
df_within = n_total - k
df_total = n_total - 1

ms_between = ss_between / df_between
ms_within = ss_within / df_within
f_stat = ms_between / ms_within

print(f"SS_between = {ss_between:.2f}")
print(f"SS_within  = {ss_within:.2f}")
print(f"SS_total   = {ss_total:.2f}")
print(f"df_between = {df_between}, df_within = {df_within}")
print(f"MS_between = {ms_between:.2f}")
print(f"MS_within  = {ms_within:.2f}")
print(f"F-statistic = {f_stat:.4f}")

Output:

SS_between = 2809.94
SS_within  = 4938.80
SS_total   = 7748.74
df_between = 2, df_within = 87
MS_between = 1404.97
MS_within  = 56.77
F-statistic = 24.7494

Logika perhitungan ini mengikuti dekomposisi total varians. SS_total mengukur sebaran seluruh observasi terhadap rata-rata global, lalu dipecah menjadi SS_between yang mengukur seberapa jauh rata-rata tiap kelompok dari rata-rata global, dan SS_within yang mengukur sebaran observasi di dalam masing-masing kelompok. Setiap sum of squares dibagi derajat kebebasannya untuk menghasilkan mean square, dan rasio MS_between / MS_within menjadi statistik F.

Derajat kebebasan merepresentasikan jumlah informasi independen yang tersedia untuk mengestimasi varians. df_between dihitung sebagai k - 1 karena rata-rata kelompok tidak sepenuhnya bebas setelah rata-rata global diketahui. df_within dihitung sebagai n_total - k karena setiap kelompok kehilangan satu derajat kebebasan untuk estimasi rata-ratanya sendiri. Pembagian dengan derajat kebebasan ini penting agar mean square menjadi estimasi varians yang tidak bias dan bisa dibandingkan secara adil antar kelompok dengan ukuran berbeda.

Semakin besar nilai F, semakin besar proporsi varians yang dijelaskan oleh perbedaan antar kelompok dibandingkan variasi acak di dalam kelompok. Nilai F yang besar mengindikasikan bahwa rata-rata kelompok tidak mungkin semuanya sama. Output yang dihasilkan berupa nilai SS, df, MS, dan F-statistic yang akan kita bandingkan dengan pendekatan otomatis di bagian berikutnya.

Menjalankan ANOVA Satu Arah dengan SciPy dan Menginterpretasikan P-Value

Menghitung statistik F secara manual membantu kita memahami mekanisme di balik ANOVA, tetapi dalam praktik sehari-hari kita menggunakan library yang sudah teruji. SciPy menyediakan fungsi f_oneway yang menerima array data setiap kelompok dan langsung mengembalikan statistik F beserta p-value.

!pip install scipy

from scipy.stats import f_oneway

f_stat, p_value = f_oneway(metode_a, metode_b, metode_c)

alpha = 0.05
print(f"F-statistic = {f_stat:.4f}")
print(f"p-value     = {p_value:.6f}")

if p_value < alpha:
    print("Kesimpulan: Tolak H0, minimal satu rata-rata kelompok berbeda secara signifikan.")
else:
    print("Kesimpulan: Gagal tolak H0, belum ada bukti perbedaan rata-rata kelompok.")

Output:

F-statistic = 24.7494
p-value     = 0.000000
Kesimpulan: Tolak H0, minimal satu rata-rata kelompok berbeda secara signifikan.

P-value adalah probabilitas memperoleh statistik F sebesar nilai yang kita dapatkan, dengan asumsi H0 benar. Nilai p-value yang kecil berarti data yang kita amati sangat tidak mungkin terjadi jika semua rata-rata kelompok sebenarnya sama. Keputusan diambil dengan membandingkan p-value terhadap tingkat signifikansi alpha = 0.05.

Jika p-value lebih kecil dari alpha, kita menolak H0 dan menyimpulkan bahwa minimal satu kelompok memiliki rata-rata yang berbeda secara signifikan. Sebaliknya, jika p-value lebih besar, kita gagal menolak H0 karena belum ada bukti yang cukup. Hasil dari f_oneway seharusnya konsisten dengan perhitungan manual kita, karena keduanya menggunakan rumus yang sama — perbedaannya hanya pada efisiensi dan kemudahan penggunaan.

Gambar: Distribusi F dengan daerah penolakan untuk uji hipotesis — Sumber: Wikimedia Commons

Menentukan Kelompok Mana yang Berbeda dengan Post-Hoc Tukey HSD

ANOVA menjawab pertanyaan apakah ada perbedaan antar kelompok, tetapi tidak memberi tahu kelompok mana saja yang berbeda. Untuk menemukan pasangan kelompok yang signifikan, kita memerlukan post-hoc test. Post-hoc test melakukan perbandingan berpasangan dengan penyesuaian multiple comparison, sehingga risiko kesalahan tipe I tetap terkendali meskipun banyak pasangan diuji sekaligus.

Salah satu post-hoc test yang paling populer adalah Tukey HSD (Honestly Significant Difference). Library Statsmodels menyediakan fungsi pairwise_tukeyhsd yang menerima kolom nilai dan kolom kelompok, lalu menghasilkan tabel perbandingan untuk setiap pasangan.

!pip install statsmodels

from statsmodels.stats.multicomp import pairwise_tukeyhsd

tukey = pairwise_tukeyhsd(endog=df['skor'], groups=df['metode'], alpha=0.05)
print(tukey)

Output:

Multiple Comparison of Means - Tukey HSD, FWER=0.05
===================================================
group1 group2 meandiff p-adj  lower   upper  reject
---------------------------------------------------
     A      B   5.5359 0.0151 0.8971 10.1746   True
     A      C  13.6083    0.0 8.9695  18.247   True
     B      C   8.0724 0.0002 3.4336 12.7111   True
---------------------------------------------------

Tabel hasil Tukey HSD menampilkan setiap pasangan kelompok beserta meandiff yang merupakan selisih rata-rata kedua kelompok, p-adj yang merupakan p-value setelah penyesuaian, dan kolom reject yang menandai apakah perbedaan tersebut signifikan. Kolom reject bernilai True ketika p-adj lebih kecil dari alpha.

Selain itu, tabel ini juga menyertakan lower dan upper yang membentuk confidence interval untuk selisih rata-rata setiap pasangan. Jika interval ini tidak mencakup nol, artinya selisih rata-rata secara statistik berbeda dari nol, yang sejalan dengan nilai reject yang True. Kolom group1 dan group2 menunjukkan pasangan mana yang sedang dibandingkan, sehingga kita bisa menelusuri hasil untuk setiap kombinasi kelompok secara sistematis.

Dari tabel ini kita bisa melihat pola perbedaan secara spesifik. Dalam simulasi kita, ketiga pasangan kelompok menunjukkan perbedaan signifikan, dengan pasangan A-C memiliki meandiff terbesar karena rata-rata keduanya paling berjauhan. Informasi ini jauh lebih berguna daripada sekadar mengetahui bahwa "ada perbedaan", karena kita bisa mengidentifikasi kelompok mana yang benar-benar unggul.

Gambar: Perbandingan berpasangan Tukey HSD melalui interval kepercayaan — Sumber: How to Data

Memverifikasi Asumsi ANOVA dan Batasan Metode Ini

Sebelum mempercayai hasil ANOVA, kita perlu memastikan asumsi-asumsinya terpenuhi. Homogenitas varians bisa diuji dengan scipy.stats.levene, sementara normalitas residual bisa diperiksa dengan scipy.stats.shapiro. Jika p-value dari kedua uji ini lebih besar dari alpha, asumsi dianggap terpenuhi dan hasil ANOVA valid untuk diinterpretasikan.

Ketika asumsi dilanggar, misalnya varians antar kelompok sangat tidak homogen atau data tidak normal, kita bisa beralih ke alternatif non-parametrik seperti uji Kruskal-Wallis. Uji ini bekerja pada peringkat data alih-alih nilai mentah, sehingga tidak membutuhkan asumsi normalitas. Kruskal-Wallis tetap menjawab pertanyaan yang sama: apakah ada perbedaan antar kelompok.

Pilihan antara ANOVA dan Kruskal-Wallis bergantung pada kondisi data. Jika data berdistribusi normal dan varians homogen, ANOVA lebih powerful karena memanfaatkan seluruh informasi numerik secara efisien. Jika asumsi tersebut gagal, Kruskal-Wallis menjadi pilihan yang lebih aman karena tidak bergantung pada bentuk distribusi. Dalam praktik, kita bisa menjalankan uji normalitas dan homogenitas terlebih dahulu, lalu memutuskan metode mana yang paling sesuai sebelum menarik kesimpulan.

ANOVA juga memiliki batasan struktural. Metode ini tidak cocok untuk data berpasangan di mana observasi yang sama diukur berulang kali — kasus seperti itu membutuhkan repeated measures ANOVA. ANOVA satu arah juga hanya menangani satu faktor; jika kita ingin menguji dua faktor sekaligus beserta interaksinya, kita memerlukan two-way ANOVA. Memahami batasan ini mencegah kita menggunakan ANOVA pada konteks yang tidak sesuai.

ANOVA adalah fondasi penting dalam statistik inferensial yang wajib dikuasai setiap praktisi data. Untuk memperdalam pemahaman tentang uji hipotesis, statistik inferensial, dan analisis data dengan Python secara menyeluruh, ikuti program Data Science Bootcamp di Rumah Coding dan bangun portofolio analisis data yang solid.