အင်တာနက် မလိုတဲ့ ChatGPT Alternative or Offline/Local LLM Tool

ChatGPT ရဲ့ စတင်မှုနောက်ပိုင်း LLM Model တွေ အများကြီး ထွက်လာပါတယ်။ နောက်ဆက်တွဲ အနေနဲ့ Offline (အင်တာနက် ချိတ်ဆက်မှု မလိုဘဲ ကိုယ့် ကွန်ပြူတာထဲမှာပဲ ထည့်သုံးလို့ ရတဲ့) LLM Tools (Command Line Application တင် မကဘဲ Graph User Interface နဲ့ပါ သုံးလို့ရ) တွေပါ ထွက်လာတယ်။

မြန်မာနိုင်ငံလို အင်တာနက် ပြဿနာ (အင်တာနက် မြန်နှုန်း မကောင်းခြင်း၊ မြန်နှုန်း တည်ငြိမ်မှု မရှိခြင်း၊ မကြာခဏ ပြတ်တောက်ခြင်း၊ စသဖြင့်) ရှိတဲ့ အနေအထားမှာ Offline Tool တွေက အသုံးတည့်ပါမယ်။

Offline LLM (Command Line) ကို ကိုယ့်ဖာသာ Download လုပ်ပြီး သုံးနေကြတဲ့ မြန်မာ Developer တွေ အများကြီး ရှိပါတယ်။ သူတို့ကလည်း အချိန် ရရင် ရသလို Knowledge Sharing လုပ်ပြီးတော့ Note တွေ ရေးပေးတာ တွေ့ပါတယ်။ ဥပမာ ကိုအိမောင်။

ဒီညနေ ကိုယ် ဟိုလုပ် ဒီလုပ် လုပ်ရင်းနဲ့ ဒီ Video ကို ကြည့်ဖြစ်တယ်။ Jan ဆိုတဲ့ LLM Platform ကို GUI ကြည့်ပြီး သဘောကျသွားတယ်။ ဒါနဲ့ ဒီ Video ကြည့်နေရင်းတန်းလန်း Download လုပ်ပြီးတော့ စမ်းကြည့်ဖြစ်ပါတယ်။

အသုံးတည့်ပါတယ်။ အင်တာနက် မလိုဘဲ LLM Model တွေ ကိုယ့် စက်ထဲ ထည့်ပြီး သုံးလို့ရတာ အင်မတန် ကောင်းမွန်တဲ့ အချက်ပါ။ ပိုပြီး ကောင်းတဲ့ အချက်က Sensitive ဖြစ်တဲ့ Data တွေကို Input ထည့်ပြီး သုံးမယ် ဆိုရင် ကိုယ့်စက်ထဲ ကိုယ့်ထည့်ထားတဲ့ LLM Tools နဲ့ အလုပ် လုပ်လို့ ရတော့ Data Confidentiality ကို လုံခြုံတယ်လို့ ခံစားမှု ပေါ်အောင် လုပ်လို့ ရသွားတယ်။

Installation လုပ်တာ ခက်ခဲတဲ့ ကိစ္စ မဟုတ်ပါဘူး။ အောက်မှာ ပြထားတဲ့ Link ကို သွားပြီးတော့ Installer File (Windows, Mac, Linux — သက်ဆိုင်ရာကို ရွေး) ကို Download လုပ်ပြီး Installation လုပ်ရင် ရပါပြီ။ ပြီးရင် ကိုယ် သုံးချင်တဲ့ Model (ကိုယ် အသုံးပြုမယ့် ကွန်ပြူတာ Hardware နဲ့ လိုက်ဖက်မယ့်ဟာ) ကို ထည့်သုံးရုံပါပဲ။

ကိုယ့်စက်က Installed RAM အနေနဲ့ 16.0 GB (15.7 GB usable) ရှိတယ်။ Processor က 12th Gen Intel(R) Core(TM) i7-1260P 2.10 GHz ။ GPU မဟုတ်ဘူး။ ဒီတော့ကာ Model အသေးတွေကို Code Generation လုပ်ရင်တောင် နှေးတယ်။ CPU ချက်ချင်း ထိုးတက်တယ်။ GPU ပါတဲ့ စက်တွေနဲ့ ဆိုရင်တော့ ကောင်းမယ်။ ကိုယ်လည်း GPU ပါတဲ့ စက်လေး တစ်လုံး ဝယ်နိုင်အောင် လုပ်ရတော့မယ်။

ဒီ‌ အောက်မှာ ဖော်ပြထားတဲ့ Screenshot တွေက ကိုယ် စမ်းထားတာကို နမူနာ ပြထားတာ ဖြစ်ပါတယ်။

Offline သုံးလို့ ရအောင် ကိုယ် Download ထားတဲ့ Model တွေပါ။

ဒါက Prompt နဲ့ Code Generation လုပ်ထားတာပါ။

ဒါကတော့ Generated လုပ်ထားတဲ့ Code အလုပ် လုပ် မလုပ် စမ်းကြည့်တာပါ။

CSV Output ထုတ်ခိုင်းထားတာမှာ Data တွေ တကယ် ပါ မပါ ပြန်စစ်ထားတာပါ။

အင်တာနက် မရှိရင်လည်း LLM တွေ သုံးလို့ ရတာကြောင့် Jan AI ဟာ မြန်မာနိုင်ငံက လူတွေ အတွက်တော့ တကယ် အသုံးတည့်ပါတယ်။