Regresi ke anak yang kejam. Memahami regresi ke mean. Penerapannya dalam dunia keuangan

Percayakah Anda bahwa setelah keberuntungan besar, selalu ada rentetan kesialan? Misalnya, jika hari ini Anda menerima tawaran poker yang sangat bagus, maka besok bahkan mesin yang membagikan penutup sepatu akan mengabaikan Anda. Atau mungkin Anda berpikir bahwa bakat Anda dalam memotong dengan gergaji ukir atau kecantikan Anda yang tidak wajar harus diwarisi oleh anak-anak Anda? Jika Anda yakin akan hal ini, maka statistik berbicara lebih terkendali mengenai masalah ini. Prinsip statistik yang disebut “regresi terhadap mean” akan membantu menjelaskan fenomena tersebut. Mengabaikannya setidaknya dapat menyebabkan suasana hati yang buruk, dan paling tidak kekecewaan total dalam hidup Anda. Sebenarnya idenya sangat sederhana. Mari kita selesaikan.

Bakat atau kejeniusan, keberuntungan besar, kegagalan atau fenomena luar biasa lainnya sangatlah jarang terjadi, sehingga kemungkinan terjadinya sangat rendah. Kemungkinan terulangnya kejadian langka tersebut akan semakin kecil, karena perkalian probabilitas digunakan untuk menemukannya. Jadi, setelah kejadian ekstrem apa pun (baik atau buruk), semuanya kembali normal. Ada poin yang sangat penting di sini - hidup TIDAK mengimbangi kegagalan atau kemenangan Anda, hanya saja indikator keberuntungan Anda bergerak menuju nilai rata-ratanya. Ini adalah regresi ke mean (dari bahasa Latin regressio - gerakan terbalik). Hal yang sama terjadi dengan pergantian generasi. Anak-anak Anda pasti berbakat, tetapi kemungkinan besar di bidang yang berbeda.

Konsep regresi pertama kali diperkenalkan oleh Sir Francis Galton, seorang peneliti generalis asal Inggris. Dia bertanggung jawab atas konsep dasar statistik lainnya – korelasi. Saat mempelajari hereditas, Galton mengukur segala sesuatu yang dapat diukur pada rekan senegaranya: kepala, hidung, tangan, jumlah gerakan rewel, tingkat daya tarik, dll. Galton percaya bahwa karakter seseorang, kemampuan mental dan bakatnya juga ditentukan oleh keturunan dan tunduk pada prinsip distribusi normal.

Dalam salah satu karyanya, ia mencoba mencari hubungan antara tinggi badan orang tua dengan tinggi badan anaknya. Ketergantungannya jelas - orang tua yang tinggi melahirkan anak yang tinggi dan sebaliknya. Namun Galton, selain itu, juga menemukan beberapa pola yang tidak sepenuhnya logis. Misalnya, ia menemukan bahwa orang tua dengan tinggi badan di atas rata-rata memiliki anak yang tinggi, namun tidak setinggi orang tuanya. Dan orang tua dengan tinggi badan di bawah rata-rata memiliki anak yang pendek, namun tidak lebih pendek dari orang tuanya. Artinya tinggi badan anak dewasa menyimpang lebih sedikit dari rata-rata dibandingkan tinggi badan orang tuanya. Artinya, keturunan “mengalami kemunduran” lebih kuat ke arah mean. Sebenarnya Galton menyebut fenomena ini “regression to mediocrity”, yang lebih tepat mencerminkan maknanya, IMHO.

Galton membuat grafik yang menyerupai diagram sebar modern.

Dia membagi orang menjadi beberapa kelompok tergantung pada tinggi badan mereka (dalam inci), menghitung rata-rata aritmatika untuk setiap kelompok dan menandai nilai-nilai ini pada grafik. Selanjutnya, Galton memperkirakan titik-titik ini dan membuat garis lurus, yang disebut garis regresi. Galton bahkan menghitung koefisien korelasi - 2/3. Artinya hanya 67% tinggi badan anak ditentukan oleh tinggi badan orang tuanya.
Grafik tersebut berbunyi: “Ketika rata-rata tinggi badan orang tua lebih besar dari rata-rata tinggi badan penduduk, anak cenderung lebih pendek dari orang tuanya. Sebaliknya, ketika rata-rata tinggi badan orang tua kurang dari rata-rata populasi, anak-anak cenderung lebih tinggi dari orang tuanya.”

Meskipun kesimpulan dan gagasan Galton kini lebih dipertanyakan daripada dikritik, kesimpulan dan gagasan tersebut mempunyai arti revolusioner bagi statistik. Berkat ilmuwan serba bisa ini, analisis regresi dan korelasi kini banyak digunakan.

Di bawah ini kami telah membuat plot sebar (alias plot sebar) untuk data yang dikumpulkan oleh Galton. Pada tahun 1886, ia menyajikan sebuah tablet yang menunjukkan tinggi badan 928 anak dewasa dan tinggi badan 205 orang tuanya (rata-rata tertimbang tinggi badan ayah dan ibu). Sejak itu, data ini sering digunakan sebagai contoh regresi mean yang sangat baik.

Memahami Regresi terhadap Mean

Entah diabaikan atau disalahpahami, fenomena regresi adalah hal yang asing bagi pikiran manusia. Regresi pertama kali dikenal dan dipahami dua ratus tahun kemudian dibandingkan teori gravitasi dan kalkulus diferensial. Terlebih lagi, dibutuhkan salah satu pemikir terbaik Inggris pada abad ke-19 untuk menjelaskan kemunduran tersebut.

Fenomena ini pertama kali dijelaskan oleh Sir Francis Galton, sepupu kedua Charles Darwin, yang memiliki pengetahuan ensiklopedis sejati. Dalam makalah berjudul "Regression to the Mean in Inheritance," yang diterbitkan pada tahun 1886, ia melaporkan pengukuran beberapa generasi benih secara berturut-turut dan membandingkan tinggi badan anak-anak dengan tinggi badan orang tuanya. Dia menulis tentang benih seperti ini:

“Penelitian tersebut membuahkan hasil yang menarik, dan atas dasar itu, pada tanggal 9 Februari 1877, saya memberikan ceramah kepada Royal Association. Percobaan menunjukkan bahwa keturunannya tidak menyerupai ukuran induknya, tetapi selalu menjadi lebih biasa, yaitu lebih sedikit induk yang besar atau lebih banyak yang kecil... Eksperimen juga menunjukkan bahwa, rata-rata, regresi keturunan berbanding lurus dengan deviasi orang tua dari mean.”

Galton tampaknya berharap para ilmuwan di Royal Association, organisasi penelitian independen tertua di dunia, akan sama terkejutnya dengan "hasil menarik" yang ia peroleh. Namun yang paling menarik adalah dia terkejut dengan pola statistik yang biasa. Regresi ada dimana-mana, tapi kita tidak menyadarinya. Dia bersembunyi di depan mata. Dalam beberapa tahun, dengan bantuan ahli statistik terkemuka pada masanya, Galton beralih dari penemuan regresi ukuran yang diwariskan ke pemahaman yang lebih luas bahwa regresi pasti terjadi ketika ada korelasi yang tidak lengkap antara dua kuantitas.

Kendala yang harus diatasi peneliti antara lain adalah masalah pengukuran regresi antara besaran yang dinyatakan dalam satuan yang berbeda: misalnya berat badan dan kemampuan bermain piano. Mereka diukur dengan mengambil seluruh populasi sebagai standar perbandingan. Bayangkan 100 anak dari seluruh kelas sekolah dasar diukur berat badan dan kemampuan bermainnya dan mengurutkan hasilnya, dari nilai maksimum hingga nilai minimum untuk setiap indikator. Jika Jane menduduki peringkat ketiga dalam bidang musik dan peringkat dua puluh tujuh dalam berat badan, Anda dapat mengatakan bahwa dia lebih baik dalam bermain piano daripada tinggi badannya. Mari kita membuat beberapa asumsi untuk kesederhanaan.

Usia berapa pun:

Keberhasilan dalam bermain piano hanya bergantung pada jumlah jam latihan per minggu.

Berat badan hanya bergantung pada jumlah es krim yang dikonsumsi.

Makan es krim dan jumlah jam pelajaran musik per minggu merupakan variabel independen.

Sekarang kita dapat menulis beberapa persamaan menggunakan posisi daftar (atau skor standar sebagaimana para ahli statistik menyebutnya):

berat badan = umur + konsumsi es krim bermain piano = umur + jam latihan per minggu

Tentu saja, ketika mencoba memprediksi performa piano berdasarkan bobotnya, atau sebaliknya, regresi terhadap mean akan muncul. Jika yang kita ketahui tentang Tom hanyalah berat badannya yang keduabelas (jauh di atas rata-rata), secara statistik kita dapat menyimpulkan bahwa Tom mungkin lebih tua dari rata-rata dan mungkin mengonsumsi lebih banyak es krim dibandingkan yang lain. Jika semua yang kita ketahui tentang Barbara adalah bahwa dia berada di urutan kedelapan puluh lima dalam bidang piano (jauh di bawah rata-rata grup), kita dapat menyimpulkan bahwa Barbara kemungkinan besar masih muda dan mungkin berlatih lebih sedikit dibandingkan yang lain.

Koefisien korelasi antara dua besaran, yang berkisar antara 0 sampai 1, merupakan ukuran bobot relatif dari faktor-faktor yang mempengaruhi keduanya. Misalnya, kita semua mempunyai separuh gen yang sama dengan masing-masing orang tua kita, dan untuk sifat-sifat yang memiliki sedikit pengaruh eksternal (seperti tinggi badan), korelasi antara orang tua dan anak mendekati 0,5. Untuk menilai nilai ukuran korelasi, saya akan memberikan beberapa contoh koefisien:

Korelasi antara ukuran benda yang diukur secara akurat dalam satuan metrik atau imperial adalah 1. Semua faktor penentu mempengaruhi kedua pengukuran tersebut.

Korelasi antara berat badan dan tinggi badan yang dilaporkan sendiri untuk pria dewasa Amerika adalah 0,41. Jika perempuan dan anak-anak dimasukkan dalam kelompok tersebut, korelasinya akan jauh lebih tinggi karena jenis kelamin dan usia seseorang mempengaruhi penilaian mereka terhadap tinggi dan berat badan, sehingga meningkatkan nilai relatif dari faktor-faktor umum.

Korelasi tes kemampuan akademik SMA dengan IPK perguruan tinggi kurang lebih sebesar 0,60. Namun, korelasi antara tes bakat dan keberhasilan lulusan jauh lebih rendah – terutama karena tingkat kemampuan dalam kelompok ini tidak jauh berbeda. Jika kemampuan setiap orang kurang lebih sama, maka perbedaan parameter ini kemungkinan besar tidak akan terlalu mempengaruhi ukuran keberhasilan.

Korelasi antara pendapatan dan pencapaian pendidikan di Amerika Serikat adalah sekitar 0,40.

Korelasi antara pendapatan suatu keluarga dengan empat digit terakhir nomor teleponnya adalah 0.

Francis Galton memerlukan waktu beberapa tahun untuk memahami bahwa korelasi dan regresi bukanlah dua konsep yang berbeda, melainkan dua perspektif dalam satu kesatuan. Aturan umumnya cukup sederhana, namun memiliki konsekuensi yang mengejutkan: jika korelasinya tidak sempurna, maka akan terjadi regresi terhadap mean. Untuk mengilustrasikan penemuan Galton, mari kita ambil sebuah saran yang menurut banyak orang cukup membuat penasaran:

Wanita pintar sering kali menikah dengan pria yang kurang pintar.

Jika Anda bertanya kepada teman-teman Anda di sebuah pesta untuk mencari penjelasan atas fakta ini, dijamin Anda akan mendapatkan percakapan yang menarik. Bahkan orang yang akrab dengan statistik akan menafsirkan pernyataan ini dalam istilah sebab-akibat. Beberapa orang akan berpikir bahwa perempuan pintar berusaha menghindari persaingan dengan laki-laki pintar; seseorang akan berasumsi bahwa mereka terpaksa berkompromi dalam memilih pasangan karena pria pintar tidak mau bersaing dengan wanita pintar; yang lain akan memberikan penjelasan yang lebih tidak masuk akal. Sekarang pikirkan pernyataan berikut:

Korelasi antara skor kecerdasan pasangan tidaklah sempurna.

Tentu saja pernyataan ini benar - dan sama sekali tidak menarik. Dalam hal ini, tidak ada yang mengharapkan korelasi sempurna. Tidak ada yang perlu dijelaskan di sini. Namun, dari sudut pandang aljabar, kedua pernyataan ini setara. Jika korelasi antara skor kecerdasan pasangan tidak sempurna (dan jika rata-rata kecerdasan perempuan dan laki-laki tidak berbeda), maka secara matematis tidak dapat dihindari bahwa perempuan yang cerdas akan menikah dengan laki-laki yang rata-rata kurang cerdas (dan sebaliknya). . Regresi yang diamati terhadap mean sangat menarik atau lebih dapat dijelaskan daripada korelasi yang tidak ideal.

Seseorang dapat bersimpati dengan Galton - upaya untuk memahami dan menjelaskan fenomena regresi tidaklah mudah. Ironisnya, seperti yang dicatat oleh ahli statistik David Friedman, jika isu regresi muncul dalam sebuah persidangan, pihak yang harus menjelaskannya kepada juri pasti akan kalah. Mengapa ini sangat sulit? Alasan utama kesulitan ini sering disebutkan dalam buku ini: pikiran kita cenderung terhadap penjelasan sebab-akibat dan tidak mampu menangani “statistik sederhana” dengan baik. Jika suatu peristiwa menarik perhatian kita, memori asosiatif mulai mencari penyebabnya, atau lebih tepatnya, alasan apa pun yang sudah tersimpan dalam memori diaktifkan. Ketika regresi ditemukan, dicari penjelasan sebab akibat, tetapi salah, karena sebenarnya regresi ke mean ada penjelasannya, tetapi tidak ada alasannya. Salah satu hal yang menjadi perhatian kami selama turnamen golf adalah bahwa atlet yang bermain bagus di hari pertama seringkali bermain lebih buruk setelahnya. Penjelasan terbaiknya adalah bahwa para pegolf ini mendapat keberuntungan yang luar biasa pada hari pertama, namun penjelasan tersebut tidak memiliki kekuatan kausalitas yang disukai pikiran kita. Kami membayar banyak uang kepada mereka yang memberikan penjelasan menarik tentang efek regresi bagi kami. Seorang komentator di saluran berita bisnis yang dengan tepat menyatakan bahwa “tahun ini lebih baik untuk bisnis karena tahun lalu buruk” kemungkinan besar tidak akan bertahan lama.

Kesulitan kita dalam memahami regresi muncul dari Sistem 1 dan Sistem 2. Tanpa instruksi lebih lanjut (dan dalam banyak kasus, bahkan setelah memahami statistik), hubungan antara korelasi dan regresi masih belum jelas. Sulit bagi Sistem 2 untuk memahami dan menginternalisasikannya. Hal ini sebagian disebabkan oleh desakan Sistem 1 untuk memberikan penjelasan sebab akibat.

Penggunaan minuman energi untuk mengatasi depresi pada anak selama tiga bulan menghasilkan perbaikan yang signifikan.

Saya mengarang judul ini, namun yang digambarkan di dalamnya adalah benar: Memberikan minuman energi kepada anak-anak yang mengalami depresi selama jangka waktu tertentu menunjukkan kemajuan yang signifikan secara klinis. Demikian pula, anak-anak penderita depresi yang berdiri di atas kepala selama lima menit atau memelihara kucing selama dua puluh menit setiap hari juga akan menunjukkan peningkatan. Sebagian besar pembaca berita utama tersebut secara otomatis akan menyimpulkan bahwa peningkatan tersebut disebabkan oleh minuman energi atau mengelus kucing, namun ini adalah kesimpulan yang sama sekali tidak berdasar. Anak-anak yang mengalami depresi adalah kelompok ekstrem, dan kelompok-kelompok tersebut mengalami kemunduran seiring berjalannya waktu. Korelasi antara tingkat depresi pada pengujian berturut-turut tidak sempurna, sehingga regresi ke nilai rata-rata tidak dapat dihindari: Anak-anak yang mengalami depresi akan menjadi sedikit lebih baik seiring berjalannya waktu, bahkan jika mereka tidak memelihara kucing atau minum Red Bull. Untuk menyimpulkan bahwa minuman energi - atau pengobatan lainnya - efektif, perlu membandingkan kelompok pasien yang menerimanya dengan kelompok kontrol yang tidak menerima pengobatan sama sekali (atau, lebih baik lagi, plasebo). Kelompok kontrol diharapkan menunjukkan perbaikan karena regresi saja, dan tujuan percobaan adalah untuk mengetahui apakah pasien yang menerima pengobatan mengalami peningkatan lebih dari yang dijelaskan oleh regresi.

Atribusi kausal yang salah terhadap efek regresi tidak hanya terbatas pada pembaca media populer saja. Ahli statistik Howard Weiner menyusun daftar panjang peneliti terkemuka yang melakukan kesalahan yang sama, yaitu mengacaukan korelasi dengan sebab akibat. Efek regresi adalah sumber masalah yang umum dalam penelitian, dan ilmuwan berpengalaman mengembangkan ketakutan yang sehat terhadap jebakan, yaitu kesimpulan sebab akibat yang tidak beralasan.

Salah satu contoh kesalahan favorit saya dalam prediksi intuitif berasal dari buku Max Bazerman yang sangat bagus, Value Judgments in Management Decision Making, dan diadaptasi dari:

Anda memperkirakan penjualan di jaringan toko. Semua toko dalam rantai tersebut memiliki ukuran dan jenis yang serupa, namun volume penjualannya bervariasi karena lokasi, persaingan, dan berbagai faktor acak. Anda disajikan hasil tahun 2011 dan diminta menentukan penjualan tahun 2012. Anda diinstruksikan untuk tetap berpegang pada perkiraan umum para ekonom bahwa pertumbuhan penjualan secara keseluruhan akan sebesar 10%. Bagaimana Anda melengkapi tabel berikut?

Setelah membaca bab ini, Anda tahu bahwa solusi yang jelas untuk menambah 10% penjualan setiap toko adalah salah. Perkiraannya harus regresif, yaitu, untuk toko dengan hasil buruk, Anda harus menambahkan lebih dari 10%, dan sisanya - kurangi, atau bahkan kurangi sesuatu. Namun, kebanyakan orang bingung dengan tugas ini: mengapa bertanya tentang hal yang sudah jelas? Seperti yang ditemukan Galton, konsep regresi tidaklah jelas.