Wednesday, November 18, 2026

Polynomial Regression Test For US Life Expectancy

Polynomial Regression (ဗဟုကိန်း ဆက်စပ်မှု ခန့်မှန်းခြင်း) AIMA Chapter 19, Section 19.6 (Linear Regression and Its Extensions) မှာ ဖော်ပြထားတဲ့ Basis Function Expansion (အခြေခံဖန်ရှင်များ ချဲ့ထွင်ခြင်း) နည်းလမ်းကို အသုံးပြု၍ မျဉ်းကွေးသဏ္ဌာန် ဒေတာများကို ပုံဖော်တွက်ချက်ခြင်း ဖြစ်ပါတယ်။ ယခင် Correlation Matrix ဂရပ်ဖ်မှာ၊ Year နဲ့ WhiteFemale ကြား မျဉ်းဖြောင့်ဆက်စပ်မှု  တန်ဖိုး အနည်းငယ်ကျဆင်းနေရခြင်းမှာ လူ့သက်တမ်း တိုးတက်နှုန်းဟာ အချိန်ကြာလာတာနဲ့အမျှ နှေးကွေးပြားကပ်သွားသည့် အကွေးပုံစံ (Concave Curvature) ဖြစ်နေသောကြောင့် ဖြစ်ပါတယ်။

AIMA သီအိုရီ အခြေခံနှင့် Polynomial Regression သဘောတရား

  1. Input Space တွင် မျဉ်းကွေးဖြစ်သော်လည်း Parameter Space တွင် မျဉ်းဖြောင့်ဖြစ်ခြင်း (Ch. 19, Sec. 19.6)
    • မူလ Input တစ်ခုတည်းဖြစ်သော  ကို -degree ဗဟုကိန်း Feature များအဖြစ်  ဟု ပြောင်းလဲချဲ့ထွင်လိုက်ပါသည်—

    • ဤညီမျှခြင်းသည်  အပေါ်တွင် မျဉ်းကွေး (Non-linear) ဖြစ်သော်လည်း ရှာဖွေရမည့် ဝိတ်တန်ဖိုးများ () အပေါ်တွင်မူ Linear (မျဉ်းဖြောင့်) အတိုင်းပင် ရှိနေသေးသောကြောင့် Ordinary Least Squares (OLS) နည်းလမ်းဖြင့် တစ်ထိုင်တည်း အတိအကျ တွက်ထုတ်နိုင်ပါသည်။
  1. အဘယ်ကြောင့် Degree = 2 (Quadratic) သည် လူ့သက်တမ်းဒေတာနှင့် အကိုက်ညီဆုံး ဖြစ်သနည်း။
    • Biological Ceiling & Deceleration (): ၂၀ ရာစု အစောပိုင်းတွင် ဆေးပညာနှင့် သန့်ရှင်းရေး တိုးတက်မှုကြောင့် သက်တမ်းတိုးနှုန်း မြန်ဆန်ခဲ့သော်လည်း နောက်ပိုင်းနှစ်များတွင် ဇီဝဗေဒဆိုင်ရာ အသက်ကန့်သတ်ချက်ကြောင့် တိုးနှုန်း နှေးကွေးလာပါသည်။ ဒုတိယထပ်ကိန်း ညီမျှခြင်း () တွင်  တန်ဖိုးသည် အနုတ်လက္ခဏာ () ထွက်ပေါ်လာပြီး ထိုတိုးနှုန်းနှေးကွေးမှု အကွေးကို သဘာဝကျကျ ဖမ်းယူနိုင်ပါသည်။

 

  1. Bias–Variance Tradeoff နှင့် အနာဂတ် Extrapolation အန္တရာယ် (Ch. 19, Sec. 19.3 & 19.4)
    • Degree = 1 (Underfitting / High Bias): အကွေးကို မမြင်နိုင်ဘဲ မျဉ်းဖြောင့်အတိုင်း ဆွဲဆန့်သဖြင့် 2014 ခုနှစ် သက်တမ်းကို အမှန်ထက် များစွာပို၍ ခန့်မှန်းမိပါသည်။
    • Degree = 2 (Optimal Complexity): ၁၉၈၆ မတိုင်မီ ဒေတာ၏ ကွေးညွှတ်မှု အရှိန်ကို မှန်ကန်စွာ ဖမ်းယူနိုင်သဖြင့် မမြင်ဖူးသေးသော 1986–2014 ကာလ ဒေတာများအပေါ်တွင် အလွန်တိကျစွာ ခန့်မှန်းနိုင်ပါသည်။
    • Degree ≥ 4 (Overfitting / High Variance): Training Data (< 1986) ထဲမှ အသေးစိတ် အတက်အကျများ (Noise) ကိုပါ အတင်းလိုက်ကွေးသဖြင့် Training  မြင့်မားသော်လည်း အနာဂတ် (2030, 2045) သို့ ဆွဲဆန့်လိုက်သောအခါ မျဉ်းကွေးသည် အပေါ်သို့ ထောင်တက်ခြင်း သို့မဟုတ် အောက်သို့ ထိုးစိုက်ကျဆင်းခြင်း (Wild Extrapolation Explosion) ဖြစ်ပေါ်ပါသည်။
  2. Numerical Conditioning & Feature Scaling (Ch. 19, Sec. 19.9)
    •  ဖြစ်သဖြင့်  နှင့်  အထိ ကိန်းဂဏန်းများ အလွန်ကြီးမားသွားပါသည်။ ထို့ကြောင့် ကွန်ပျူတာတွက်ချက်မှုတွင် Floating-point Precision မပျက်စီးစေရန် StandardScaler ဖြင့် စကေးညှိပေးသည့် Pipeline ကို အသုံးပြုရပါသည်။

 

Polynomial Regression ဖြင့် ပြောင်းလဲရေးသားထားသော Python ကုဒ်

အောက်ပါပရိုဂရမ်ဟာ၊ ၁၉၈၆ ခုနှစ်မတိုင်မီ ဒေတာများ (Year < 1986) ဖြင့်သာ လေ့ကျင့်ပြီး၊ Degree 1 (Linear)၊ Degree 2 (Quadratic) နှင့် Degree 4 (High-Degree Overfit) တို့ရဲ့ 2014 ခုနှစ် ခန့်မှန်းချက်တွေကို Dataset ထဲရှိ အမှန်တကယ် 2014 တန်ဖိုးများ နှင့် နှိုင်းယှဉ်ပြသပေးမှာဖြစ်တယ်။

 [Here is Python Implementation Code.]

 ၃။ ရလဒ်များကို နှိုင်းယှဉ်သုံးသပ်ချက် (Linear vs. Quadratic vs. High-Degree)

အထက်ပါ ကုဒ်ကို Run လိုက်သောအခါ ထွက်ပေါ်လာမည့် ကိန်းဂဏန်းနှင့် ဂရပ်ဖ်ရလဒ်များကို အောက်ပါဇယားအတိုင်း နှိုင်းယှဉ်တွေ့မြင်ရပါမည်။

 

မော်ဒယ် အမျိုးအစား

Train R2R^2R2 (< 1986) assignment8.py

Unseen Test R2R^2R2 (1986–2014)

2014 ခန့်မှန်းချက် တိကျမှု

2030 & 2045 ရေရှည် ခန့်မှန်းမှု assignment8.py

AIMA Ch. 19 သီအိုရီ အဆင့်အတန်း

Degree 1 (Linear)

ကောင်းမွန်သည် (~0.95)

အလွန်နိမ့်ကျသည် (Negative  ဖြစ်နိုင်သည်)

အမှန်တကယ်တန်ဖိုးထက် +၃ နှစ်မှ +၆ နှစ်ခန့် ပိုတွက်မိ သည်

အပေါ်သို့ အဆက်မပြတ် မြင့်တက်သွားသည်

Underfitting (High Bias) — မျဉ်းကွေးသဘာဝကို မမြင်နိုင်ပါ

Degree 2 (Quadratic)

အလွန်ကောင်းသည် (~0.98+)

အမြင့်ဆုံး ဖြစ်သည်

အမှန်တကယ် 2014 တန်ဖိုးနှင့် အနီးစပ်ဆုံး ကိုက်ညီ သည်

သဘာဝကျကျ နှေးကွေးပြားကပ်သွားသည်

Optimal Fit —  ဖြင့် Biological Ceiling ကို ဖမ်းယူနိုင်သည်

Degree 4 (High-Degree)

အမြင့်ဆုံး (~0.99)

အလွန်ဆိုးရွားသည်

အောက်သို့ ထိုးဆင်းခြင်း သို့မဟုတ် အပေါ်သို့ ထောင်တက်ခြင်း ဖြစ်သည်

လက်တွေ့နှင့် လုံးဝကင်းကွာသော ဂဏန်းများ ထွက်လာသည်

Overfitting (High Variance) — Noise ကို အလွတ်ကျက်မိသည်

 

လက်တွေ့ ML Engineering အတွက် အဓိက မှတ်သားဖွယ်ရာများ

  1. Training  တစ်ခုတည်းကို မယုံကြည်ရခြင်း Degree 4 သည် ၁၉၈၆ မတိုင်မီ Training Data အပေါ်တွင်  အမြင့်ဆုံး ရရှိသော်လည်း ၁၉၈၆ နောက်ပိုင်း ဒေတာများပေါ်တွင် လုံးဝပျက်စီးသွားပါသည်။ ဤသည်မှာ AIMA Section 19.3 တွင် အလေးပေးဖော်ပြထားသော Training Error နည်းတိုင်း Generalization Error မနည်းနိုင် ဟူသော အခြေခံမူ ဖြစ်ပါသည်။

 

  1. Domain Knowledge နှင့် Model Complexity ကို ချိန်ညှိခြင်း လူ့သက်တမ်းသည် အကန့်အသတ်မရှိ မြင့်တက်နေမည့်အရာ မဟုတ်ဘဲ တဖြည်းဖြည်း နှေးကွေးသွားမည့် (Diminishing Returns / Saturation) သဘာဝရှိကြောင်း သိရှိထားသဖြင့် Degree 2 (w2 < 0) သို့မဟုတ် Logarithmic Regression () ကဲ့သို့ Monotonic Saturating Function များကသာ ရေရှည်ခန့်မှန်းမှုအတွက် အသင့်တော်ဆုံး ဖြစ်ပါသည်။

 


အထက်ပါ တတိယမြောက် ဂရပ်ပုံဖြစ်သော Polynomial Regression Extrapolation: WhiteFemale (Actual 2014 = 81.40 yrs) သည် Machine Learning နယ်ပယ်၏ အခြေခံအကျဆုံး သီအိုရီဖြစ်သော Bias–Variance Tradeoff နှင့် Extrapolation (အနာဂတ်သို့ ဆွဲဆန့်ခန့်မှန်းခြင်း) ၏ အကန့်အသတ်များ ကို အရှင်းလင်းဆုံး ပြသနေသည့် ရလဒ်တစ်ခု ဖြစ်ပါသည်။

၁။ ၂၀၁၄ ခုနှစ် အမှန်တကယ်တန်ဖိုး (81.40 yrs) နှင့် မော်ဒယ် ၃ မျိုး၏ စွမ်းဆောင်ရည် နှိုင်းယှဉ်ချက်

1986 Cutoff မျဉ်း၏ ညာဘက်ခြမ်းရှိ မမြင်ဖူးသေးသော ဒေတာများ (Unseen Actual Data: 1986–2014 အနက်ရောင် လေးထောင့်အစက်များ) အပေါ်တွင် မော်ဒယ် ၃ ခု၏ တုံ့ပြန်ပုံမှာ လုံးဝကွဲပြားခြားနားနေပါသည်—

  • Degree 1 (Linear — လိမ္မော်ရောင် မျဉ်းပြတ်)  Underfitting (High Bias)
    • ၂၀၁၄ ခုနှစ် သက်တမ်းကို 90.2 နှစ် ဟု ခန့်မှန်းထားသဖြင့် အမှန်တကယ် ရှိနေသော 81.40 နှစ် ထက် +8.80 နှစ် အထိ အလွန်အမင်း ပိုတွက်မိ (Overestimate) နေပါသည်။
    • အကြောင်းမှာ ၁၉၀၀ ပြည့်နှစ် (~48.7 နှစ်) နှင့် ၁၉၈၀ ပြည့်လွန်နှစ်များ (~78.5 နှစ်) ကို မျဉ်းဖြောင့်တစ်ကြောင်းတည်းဖြင့် ဆက်ဆွဲလိုက်သဖြင့် 1950–1975 ကြားရှိ အစိမ်းရောင်အစက်များ၏ အောက်ဘက်မှ ဖြတ်သွားပြီး 1986 နောက်ပိုင်းတွင် အပေါ်သို့ ထိုးတက်သွားသောကြောင့် ဖြစ်ပါသည်။
  • Degree 2 (Quadratic — အပြာရောင် မျဉ်းကွေး)  အကောင်းဆုံး ယေဘုယျပြုနိုင်စွမ်း (Optimal Generalization)
    • ၂၀၁၄ ခုနှစ် သက်တမ်းကို 79.3 နှစ် ဟု ခန့်မှန်းနိုင်သဖြင့် အမှန်တကယ်တန်ဖိုးနှင့် -2.10 နှစ် သာ ကွာဟပြီး မော်ဒယ် ၃ ခုလုံးတွင် အတိကျဆုံး ဖြစ်ပါသည်။
    • 1900 မှ 1985 အထိ အစိမ်းရောင်အစက်များ၏ ကွေးညွှတ်မှုကို ပြေပြစ်စွာ ဖမ်းယူနိုင်ခဲ့ပြီး 1986 မှ 2000 ပြည့်နှစ်ဝန်းကျင်အထိ အနက်ရောင် လေးထောင့်အစက်များနှင့် ထပ်တူနီးပါး လိုက်ပါနိုင်သည်ကို တွေ့ရပါသည်။
  • Degree 4 (High-Degree — အနီရောင် အစက်ပြောက်မျဉ်း)  ပြင်းထန်သော Overfitting (High Variance)
    • ၂၀၁၄ ခုနှစ် သက်တမ်းကို 63.4 နှစ် ဟု ခန့်မှန်းမိသဖြင့် အမှန်တကယ်တန်ဖိုးထက် -18.00 နှစ် အထိ မှားယွင်းကျဆင်းသွားပါသည်။
    • 1986 Cutoff မျဉ်းကို ကျော်လိုက်သည်နှင့် တစ်ပြိုင်နက် အောက်ဘက်သို့ ချောက်ထဲပြုတ်ကျသကဲ့သို့ ထိုးစိုက်ဆင်းသွားပြီး 2024 ခုနှစ်ဝန်းကျင်တွင် အသက် 45 နှစ်အောက်အထိ ရောက်ရှိသွားသည်ကို တွေ့ရပါသည်။

 

၂။ Degree 4 မျဉ်းကွေး ချက်ချင်းပြိုလဲသွားရသည့် နောက်ကွယ်မှ အကြောင်းရင်း (Data Gap & Runge's Phenomenon)

ဂရပ်ထဲရှိ အစိမ်းရောင်အစက်များ (Train Data < 1986) ၏ တည်နေရာကို အနီးကပ်စစ်ဆေးကြည့်ပါက အရေးကြီးသော အချက်တစ်ခုကို တွေ့မြင်နိုင်ပါသည်။

  1. နှစ် ၅၀ စာ ဒေတာကွက်လပ်ကြီး (1900–1950 Data Gap): ဘယ်ဘက်အစွန်း 1900 ခုနှစ်တွင် အစက်တစ်စက်တည်း ရှိပြီးနောက် 1901 မှ 1949 အထိ နှစ်ပေါင်း ၅၀ စာ ဒေတာလုံးဝမရှိဘဲ 1950 ခုနှစ်ရောက်မှ နောက်တစ်စက် ပြန်ပေါ်လာပါသည်။ ထို့နောက် 1960, 1970, 1975 နှင့် 1980–1985 တွင် အစက်များ ပြန်စိပ်လာပါသည်။
  2. Polynomial Oscillation (AIMA Ch. 19, Sec. 19.3 & 19.6): Degree 4 ဗဟုကိန်းညီမျှခြင်းသည် 1975–1985 ကြားရှိ အစက်လေးများ၏ အနည်းငယ် ပြားကပ်သွားမှုကို အတင်းလိုက်ညှိရန် ကြိုးစားရာမှ ဒေတာမရှိသော 1920 ဝန်းကျင်တွင် အပေါ်သို့ ခုံးတက်သွားပြီး (Oscillation)၊ 1985 အလွန်တွင်မူ ၎င်း၏ စတုတ္ထထပ်ကိန်း အရှိန်ကြောင့် အောက်သို့ အရှိန်ပြင်းစွာ ပြန်ကွေးဆင်းသွားခြင်း ဖြစ်ပါသည်။

၃။ Degree 2 (အပြာရောင်မျဉ်းကွေး) ၏ ဖွဲ့စည်းပုံဆိုင်ရာ အကန့်အသတ် (2003 နောက်ပိုင်း ပြန်ကျဆင်းမှု)

ဤဂရပ်ပုံမှ ရရှိသော အနက်ရှိုင်းဆုံး သင်ခန်းစာမှာ Degree 2 သည် အကောင်းဆုံး ဖြစ်နေသည့်တိုင် 2003 ခုနှစ်ဝန်းကျင် (~79.7 နှစ်) တွင် အမြင့်ဆုံးအမှတ် (Vertex) သို့ ရောက်ရှိပြီးနောက် 2045 ခုနှစ် (~74.5 နှစ်) သို့ အောက်ပြန်ဆင်းသွားခြင်း ဖြစ်ပါသည်။

  • လက်တွေ့ဖြစ်ရပ်နှင့် ကွာဟမှု အနက်ရောင် လေးထောင့်အစက်များ (1986–2014) ကို ကြည့်ပါက WhiteFemale လူ့သက်တမ်းသည် ကျဆင်းမသွားဘဲ 81.40 နှစ်အထိ ဖြည်းညှင်းစွာ ဆက်လက်မြင့်တက်နေပါသည်။
  • သင်္ချာအကြောင်းရင်း (Symmetric Parabola) ဒုတိယထပ်ကိန်း ညီမျှခြင်း (၊ ) သည် ခေါက်ချိုးညီသော ပါရာဘိုလာပုံစံ ဖြစ်သောကြောင့် အတက်နှေးသွားသည်ကို ပုံဖော်ပြီးသည်နှင့် မလွဲမရှောင်သာ အောက်သို့ ပြန်ကွေးဆင်းရပါသည်။
  • AIMA Ch. 19, Sec. 19.6 & 19.9 (Inductive Bias ရွေးချယ်မှု): လူ့သက်တမ်း တိုးတက်မှုသည် အမြင့်ဆုံးရောက်ပြီး ပြန်ပြုတ်ကျသွားသည့် ပါရာဘိုလာ မဟုတ်ဘဲ၊ တဖြည်းဖြည်း နှေးကွေးပြားကပ်သွားသည့် (Monotonic Saturation) ဖြစ်စဉ် ဖြစ်ပါသည်။ ထို့ကြောင့် ရေရှည်ခန့်မှန်းမှု (2030, 2045) အတွက် ခေါက်ချိုးညီ Polynomial များအစား အောက်ပြန်မဆင်းဘဲ ဖြည်းညှင်းစွာ ပြားကပ်သွားစေမည့် Logarithmic Basis Function () ကို အသုံးပြုခြင်းက ဤပြဿနာ၏ သဘာဝနှင့် အကိုက်ညီဆုံး ဖြစ်ပါသည်။


No comments:

Post a Comment

Note: Only a member of this blog may post a comment.