Blog

Home/Blog/Butir-butir

Transformer နှင့် Text Procession Nernure Nernure Network အကြားခြားနားချက်ကဘာလဲ။

yo, လူတိုင်းဘာဖြစ်နေတာလဲ ကျွန်ုပ်သည် Transformer ထုတ်ကုန်များပေးသွင်းသူတစ် ဦး ဖြစ်ပြီး Transformers နှင့် conculuntional nernure neurure neural neural neural networks (CNNS) အကြားကွဲပြားခြားနားမှုများအကြောင်းယနေ့ငါစကားပြောလိုသည်။ ၎င်းသည်အထူးသဖြင့် AI နှင့် Data Science ၏ကမ္ဘာတွင်အထူးစိတ်ဝင်စားဖွယ်အကြောင်းအရာဖြစ်သည်။

ဒီနှစ်ခုအရာရဲ့အခြေခံနားလည်မှုရဖို့နဲ့စကြရအောင်။ အတိုချုပ်အဘို့အ connolutional အာရုံကြောကွန်ယက်သို့မဟုတ် CNN ခဏပတ်ပတ်လည်ရှိခဲ့ပါတယ်။ ၎င်းကိုအစပိုင်းတွင်ပုံရိပ်ထုတ်ယူခြင်းအတွက်ဒီဇိုင်းပြုလုပ်ထားသော်လည်းလူများသည်၎င်းကိုစာသားအပြောင်းအလဲအတွက်စတင်အသုံးပြုကြသည်။ CNNS သည် input data မှ Kernel ဟုလည်းလူသိများသော filter သေးသေးလေးတစ်ခုလျှောခြင်းဖြင့်အလုပ်လုပ်သည်။ စာသား၏အမှု၌, ဤသည်စကားလုံးများ၏ sequence ကိုဖြစ်နိုင်ပါတယ်။ အဆိုပါ filter သည်ဒေတာများပေါ်တွင် convolution ဟုခေါ်သောသင်္ချာစစ်ဆင်ရေးကိုလုပ်ဆောင်သည်။ ၎င်းသည်အင်္ဂါရပ်များကိုထုတ်ယူရန်ကူညီသည်။ ဥပမာအားဖြင့်, သင်သည်သတင်းဆောင်းပါးကိုလေ့လာနေပါက CNN သည်ဆောင်းပါး၏ခေါင်းစဉ်ကိုဖော်ပြသည့်စကားလုံးများသို့မဟုတ်စကားစုများ၏ကြိမ်နှုန်းကဲ့သို့သောပုံစံများကိုကောက်ယူနိုင်လိမ့်မည်။

အခြားတစ်ဖက်တွင်မူ, ထရန်စဖော်မာသည်ပိတ်ပင်တားဆီးမှုတွင်အတော်လေးအသစ်အဆန်းဖြစ်သည်။ ၎င်းကို 2017 ခုနှစ်တွင် "အာရုံစိုက်မှုအားလုံး" ဟုခေါ်သောစာရွက်တစ်ရွက်တွင်မိတ်ဆက်ခဲ့သည်။ Transformer ဗိသုကာပညာသည်မိမိကိုယ်ကိုအာရုံစိုက်ခြင်းအပေါ်အခြေခံသည်။ ရိုးရှင်းသောအာရုံကြောကွန်ယက်များကဲ့သို့အချက်အလက်များကိုထုတ်ဖော်မည့်အစား Transformer သည် input sequence ၏အစိတ်အပိုင်းအားလုံးကိုတစ်ပြိုင်နက်တည်းကြည့်ရှုနိုင်သည်။ ၎င်းသည်စာသားအပြောင်းအလဲကိုစာသားအတွင်းရှိကာလရှည်သောအကွာအဝေးမှီခိုမှုကိုဖမ်းယူရန်ခွင့်ပြုထားသောကြောင့်၎င်းသည်စာသားပြုပြင်ခြင်းဖြင့်ဂိမ်းတစ်ခုဖြစ်သည်။ ဥပမာအားဖြင့်, အကယ်. သင်သည်ဝတ်ထုတစ်ပုဒ်ကိုဖတ်နေပါကအခန်းများစွာဖြစ်ပျက်ခဲ့သည့်အရာတစ်ခုခုကိုရည်ညွှန်းသည်ဆိုပါက Transformer သည်ထိုအစက်များကိုအလွယ်တကူချိတ်ဆက်နိုင်သည်။

နှစ်ခုအကြားအဓိကကွဲပြားခြားနားမှုများထဲမှတစ်ခုမှာသူတို့နောက်ဆက်တွဲအချက်အလက်များကိုမည်သို့ကိုင်တွယ်ပုံဖြစ်သည်။ CNNS တွင်မှန်ကန်သောလက်ခံသောလယ်ကွက်တစ်ခုရှိသည်။ ဆိုလိုသည်မှာ filter သည်တစ်ချိန်တည်းတွင်အချို့သောဒြပ်စင်များစွာကိုသာကြည့်နိုင်သည်ဟုဆိုလိုသည်။ ၎င်းသည်ရှည်လျားသောစာသားများနှင့်ဆက်ဆံရာတွင်ကိုင်တွယ်ဖြေရှင်းသည့်အခါ၎င်းသည်ဝေးကွာသောစကားလုံးများအကြားအရေးကြီးသောဆက်ဆံရေးကိုလွဲချော်နိုင်သည်။ ဥပမာအားဖြင့်, Paris တွင်ကျင်းပခဲ့သောညီလာခံတွင်ပြီးခဲ့သည့်အပတ်ကတွေ့ဆုံဆွေးနွေးပွဲတွင်ပြီးခဲ့သည့်အပတ်ကတွေ့ဆုံခဲ့သူသည် "ပြီးခဲ့သည့်အပတ်ကတွေ့ဆုံခဲ့သူသည်" CNN သည်ကျွမ်းကျင်သူ "နှင့်" ကျွမ်းကျင်သူ "နှင့်အတူ" နှင့်ဆက်သွယ်ရန် "သူ" နှင့်အတူ "CNN သည်ကျွမ်းကျင်သူ" နှင့်အတူ "ကိုဆက်သွယ်ရန်ရုန်းကန်နေရလိမ့်မည်။

ဆန့်ကျင်ဘက်အနေဖြင့် Transformer ၏ကိုယ်ပိုင်အာရုံစူးစိုက်မှုယန္တရားသည်၎င်းကို input sequence ၏မည်သည့်အစိတ်အပိုင်းကိုမဆိုတိုက်ရိုက်တက်ရောက်ရန်ခွင့်ပြုသည်။ ၎င်းသည်စကားလုံးတစ်စုံတစ်ခုစီအတွက်ရမှတ်တစ်ခုစီအတွက်ရမှတ်ကိုတွက်ချက်သည်။ ၎င်းသည်သူတို့နှင့်တစ် ဦး နှင့်တစ် ဦး မည်မျှသက်ဆိုင်သည်ကိုကိုယ်စားပြုသည်။ ဤနည်းအားဖြင့်၎င်းသည် "ထိုသူ" နှင့် "ကျွမ်းကျင်သူ" အကြားဆက်နွယ်မှုကိုအလွယ်တကူဖမ်းယူနိုင်သည်။

နောက်ထပ်ခြားနားချက်သည်လေ့ကျင့်ရေးထိရောက်မှုတွင်တည်ရှိသည်။ CNNS သည်ပိုမိုမြန်ဆန်စွာလေ့ကျင့်ရန်ပိုမိုမြန်ဆန်စွာလေ့ကျင့်ရန်ပိုမိုမြန်ဆန်သည်။ Filter သည်ထည့်သွင်းမှု၏သေးငယ်သောအပိုင်းကိုသာကြည့်သောကြောင့်ကွန်ပျူတာရှုပ်ထွေးမှုသည်အတော်အတန်နည်းသည်။ သို့သော်ကမ္ဘာလုံးဆိုင်ရာသတင်းအချက်အလက်များကိုဖမ်းယူခြင်းနှင့် ပတ်သက်. CNN များသည်လေ့ကျင့်ရေးအချိန်နှင့် parameters တွေကိုတိုးစေနိုင်သည့်အလွှာမျိုးစုံကိုစုဆောင်းရန်လိုအပ်သည်။

ထရန်စဖော်မာသူတို့သည်ကမ္ဘာလုံးဆိုင်ရာအချက်အလက်များကိုပိုမိုထိရောက်စွာဖမ်းယူနိုင်သော်လည်းလေ့ကျင့်ခန်းစဉ်အတွင်းပိုမိုမြင့်မားသောတွက်ချက်မှုရှုပ်ထွေးမှုများရှိသည်။ မိမိကိုယ်ကိုအာရုံစူးစိုက်မှုယန္တရားသည်အဆက်မပြတ်ပြုလုပ်ထားသောဒြပ်စင်အားလုံးအတွက်ကွန်ပျူတာများလိုအပ်သည်။ အထူးသဖြင့်ရှည်လျားသောအစီအစဉ်များအတွက်အထူးလေ့မွမ်းမံခြင်းနှင့်မှတ်ဉာဏ်များပြုလုပ်နိုင်သည်။ သို့သော်လတ်တလောတွင်ဖော်ပြထားသောအာရုံစူးစိုက်မှုနှင့်အရေအတွက်နည်းသောတိုးတက်မှုများသည်ဤပြ issues နာများကိုလျှော့ချရန်နှင့်ထရန်စဖော်မာလေ့ကျင့်မှုများကိုပိုမိုထိရောက်စေရန်ကူညီပေးခဲ့သည်။

ယခုတွင်ကွဲပြားခြားနားသောစာသားပြုပြင်ခြင်းလုပ်ငန်းများ၌စွမ်းဆောင်ရည်အကြောင်းပြောဆိုကြပါစို့။ စာသားအမျိုးအစားခွဲခြားခြင်းကဲ့သို့သောအလုပ်များတွင် CNN များသည်အတော်လေးထိရောက်မှုရှိနိုင်သည်။ ၎င်းတို့သည်စာသားမှစာသားများကိုစာသားများကိုလျင်မြန်စွာထုတ်ယူနိုင်သည်။ ၎င်းကိုကွဲပြားခြားနားသောအမျိုးအစားများခွဲခြားရန်အသုံးပြုနိုင်သည်။ ဥပမာအားဖြင့်, သင်သည်သတင်းဆောင်းပါးများကိုနိုင်ငံရေး, အားကစား,

Transformers မှသော်လည်းကောင်း, စက်ဘာသာပြန်ခြင်း, မေးခွန်း - အဖြေစနစ်များနှင့်စာသားမျိုးဆက်ကဲ့သို့သောအခြေအနေများနှင့်ရှည်လျားသောအကွာအဝေးမှီခိုမှုများကိုနားလည်ရန်လိုအပ်သည့်လုပ်ငန်းများကိုပိုမိုရှာဖွေရန်လိုအပ်သည်။ ဥပမာအားဖြင့်စက်ဘာသာပြန်ခြင်းတွင် Transformer သည်သီအိုရီတစ်ခုလုံး၏အဓိပ္ပာယ်ကိုနားလည်နိုင်ပြီး Target Language တွင်ပိုမိုတိကျသောဘာသာပြန်ဆိုမှုကိုနားလည်နိုင်ပြီး Target Language တွင်ပိုမိုတိကျသောဘာသာပြန်ဆိုမှုကိုနားလည်နိုင်သည်။ ၎င်းသည်ရှုပ်ထွေးသောဝါကျအဆောက်အအုံများနှင့် Idiomatic အသုံးအနှုန်းများကို CNN ထက်ပိုမိုကောင်းမွန်အောင်ကိုင်တွယ်နိုင်သည်။

အကယ်. သင်သည်မြင့်မားသောအရည်အသွေးမြင့်မားသော transformer ထုတ်ကုန်များအတွက်စျေးကွက်တွင်ရှိလျှင်သင်၏စာသားပြုပြင်ခြင်းလိုအပ်ချက်များအတွက်စျေးကွက်တွင်ရှိလျှင်သင်ဖုံးလွှမ်းထားသည်။ ကျနော်တို့ကျယ်ပြန့်အမျိုးမျိုးကိုဆက်ကပ်3 phase auto transformer,လျှပ်စစ်လျှပ်စစ်စွမ်းအင်သုံးနှင့်Rectifier Transformer၎င်းသည်မတူညီသော application များ၏မတူကွဲပြားသောလိုအပ်ချက်များနှင့်ကိုက်ညီရန်ဒီဇိုင်းပြုလုပ်ထားသည်။ သင်ဟာ NLP စီမံကိန်းအသစ်တခုခုကိုအလုပ်လုပ်နေတာလား, လက်ရှိစာသားပြုပြင်ခြင်းစနစ်တွေကိုတိုးတက်အောင်လုပ်ဖို့မျှော်လင့်နေတဲ့ကုမ္ပဏီကြီးတခုခုဒါမှမဟုတ်စီးပွားရေးလုပ်ငန်းကြီးတခုခုကိုလုပ်ဆောင်နေတာလား,

Electrical Power TransformerRectifier Transformer

အကယ်. သင်သည်ကျွန်ုပ်တို့၏ထုတ်ကုန်များအကြောင်းပိုမိုလေ့လာရန်သို့မဟုတ်အလားအလာရှိသော 0 ယ်ခြင်းအကြောင်းဆွေးနွေးရန်စိတ်ဝင်စားပါကဆက်သွယ်ရန်မတွန့်ဆုတ်ပါနှင့်။ ကျွန်ုပ်တို့သည်အမြဲတမ်းစကားပြောရန်နှင့်သင်၏စာသားပြုပြင်ခြင်းကိုနောက်အဆင့်သို့ပို့ဆောင်ရန်ကျွန်ုပ်တို့မည်သို့ကူညီနိုင်ကြောင်းကြည့်ရှုရန်အမြဲပျော်ရွှင်ပါသည်။

ကိုးကားခြင်း

  • Vaswani, A. , Shazer, N. , Pararar, J. Jon, Jon, Jons, Jons, Jons, Jons, L. , Gomez, A & Polosukhin, A. အာရုံစူးစိုက်မှုကသင်လိုအပ်သမျှပါ။ အာရုံကြောသတင်းအချက်အလက်ပြုပြင်ခြင်းစနစ်များအတွက်တိုးတက်မှု။
  • Lecun, Y. , Bandio, Y. , Hinton, G. (2015) ။ နက်ရှိုင်းသောသင်ယူမှု။ သဘာဝ, 521 (7553), 436 - 444 ။
David Li
David Li
David adalah perunding teknikal yang berpengalaman di Henan Tailong Electric Power Equipment Co., Ltd., di mana beliau memberikan nasihat pakar mengenai peralatan kuasa dan integrasi sistem. Pengetahuannya meliputi pasaran domestik dan antarabangsa.