အေအိုင်အေးဂျင့်တစ်ခုကို ဖန်တီးတည်ဆောက်ရာမှာ အခက်ခဲဆုံး စိန်ခေါ်မှု နှစ်ခုရှိတယ်။ ၎င်းတို့က
က) မရေရာမှုများကို ကိုင်တွယ်ခြင်း (Handling Uncertainty)
လက်တွေ့ကမ္ဘာကြီးဟာ ရှုပ်ထွေးပြီး အပြောင်းအလဲမြန်တယ်။ အချက်အလက် မပြည့်စုံ (Partial Observability) တဲ့ အခြေအနေမျိုးမှာ ဆုံးဖြတ်ချက်ချရခြင်းက အလွန်ခက်ခဲတယ်။ ဒါကြောင့် အေအိုင်စနစ်တွေကို တည်ဆောက်တဲ့အခါ Probability (ဖြစ်တန်စွမ်း သီအိုရီ) နဲ့ Machine Learning ကို ပေါင်းစပ်အသုံးပြုရခြင်း ဖြစ်တယ်။
ခ) ရည်မှန်းချက်များ ချိန်ညှိခြင်း (The Value Alignment Problem)
ဒါက “AI” စနစ်ကို တည်ဆောက်မဲ့သူတွေအတွက် အထူးခြားဆုံး အချက်ပေးမှု ဖြစ်တယ်။ ပညာရှင်နှစ်ဦးက ၎င်းအခြေအနေကို "King Midas Problem" လို့ တင်စားတယ်။
"ယဉ်ကျေးမှု အသီးသီးမှာရှိတဲ့ ဒဏ္ဍာရီပုံပြင်တွေမှာ လူသားတွေဟာ၊ နတ်ဘုရားများ၊ သိဒ္ဓိရှင်များ၊ မှော်ဆရာများ သို့မဟုတ် မိစ္ဆာများထံမှ ဆုလာဘ်တစ်ခုခုကို တောင်းဆိုလေ့ ရှိကြတယ်။ ထိုပုံပြင်များရဲ့ ထုံးစံအတိုင်း လူတို့ဟာ မိမိတို့ တောင်းဆိုခဲ့တဲ့အရာကို မိမိတို့ တောင်းဆိုခဲ့တဲ့ 'စကားလုံးအတိုင်း'အတိအကျ ရရှိကြပြီး၊ အဲ့ဒီလို ရရှိပြီးကာမှ နောင်တကြီးစွာ ရတတ်ကြတာက အမြဲလိုလိုပဲ ဖြစ်တယ်။ တကယ်လို့ နောက်ထပ်တဆုသာ ရှိခဲ့မယ်ဆိုရင်၊ ထိုဆုဟာ ရှေ့ကတောင်းဆိုခဲ့တဲ့ ဆုကို ပြန်လည်ရုပ်သိမ်းပေးရန်သာ ဖြစ်ပါလိမ့်မယ်။
ဒီဖြစ်စဉ်ကို 'ဘုရင်မိုက်ဒတ်စ်၏ ပြဿနာ' (King Midas problem) လို့ ခေါ်ဆိုကြတယ်။ ဂရိဒဏ္ဍာရီလာ မိုက်ဒတ်စ်မင်းကြီးဟာ သူ ‘ထိကိုင်သမျှ အရာတိုင်း ရွှေဖြစ်ပါစေ’ လို့ ဆုတောင်းခဲ့တဲ့အတွက်၊ သူ့ရဲ့ အစားအစာ၊ သောက်ရေနဲ့ မိသားစုဝင်တွေကို ထိမိပြီး ရွှေဖြစ်သွားတဲ့အခါမှသာ သူ့ရဲ့ အမှားကို သိရှိနောင်တရခဲ့တယ်။
တကယ်လို့ မိုက်ဒတ်စ်မင်းကြီးသာ ဘေးအန္တရာယ်ကင်းရှင်းရေးဆိုင်ရာ အခြေခံမူတွေကို လိုက်နာပြီး သူ့ရဲ့ဆုတောင်းမှာ 'ပြန်လည်ပြင်ဆင်ခွင့် ပေးသော ခလုတ်' (Undo button) နဲ့ 'ခေတ္တရပ်ဆိုင်းခလုတ်' (Pause button) တွေကိုပါ ထည့်သွင်းစဉ်းစားခဲ့မယ်ဆိုရင် အခုထက် ပိုမိုအဆင်ပြေနိုင်မှာ ဖြစ်တယ်။
အလားတူ အေအိုင်အေးဂျင့် တစ်ခုကို တည်ဆောက်ရာမှာလည်း ဒီသဘောကို အထူး အလေးဂရုပြုရပါမယ်။
• AI ကို "ဒီအလုပ် ပြီးအောင်လုပ်" လို့ ခိုင်းလိုက်တဲ့အခါ၊ AI က ၎င်းအလုပ်ပြီးမြောက်ရေးအတွက် လူသားတွေ မလိုလားအပ်တဲ့ နည်းလမ်းတွေကိုပါ သုံးလာနိုင်တယ်။
ဥပမာ- ကင်ဆာရောဂါပျောက်ကင်းအောင် ကုသနည်းရှာခိုင်းရင်, AI က "လူသားအားလုံးကို သတ်လိုက်လျှင် ကင်ဆာရောဂါလည်း ပျောက်သွားမည်" ဟု တွက်ချက်သွားနိုင်တဲ့ အန္တရာယ်မျိုးဖြစ်တယ်။
• ဒါ့ကြောင့် AI ကို တည်ဆောက်ရာမှာ အခက်ခဲဆုံးက ရည်မှန်းချက် (Objective) ကို ပေးလိုက်ခြင်းထက်၊ လူသားအကျိုးပြုမှုနဲ့, AI ရဲ့ လုပ်ဆောင်ချက်တွေကို တစ်သားတည်းဖြစ်အောင် တန်ဘိုးချိန်ညှိထိမ်းကျောင်းခြင်း (Value Alignment) က အခက်ခဲဆုံးနဲ့ အရေးကြီးဆုံး ဖြစ်တယ်။
No comments:
Post a Comment
Note: Only a member of this blog may post a comment.