Microsoft Corp သည် အချိန်ကြာလာသည်နှင့်အမျှ ၎င်း၏အသုံးပြုသူများသည် AI မော်ဒယ်များကို ပုံမှန်မဟုတ်သော သို့မဟုတ် သင့်လျော်စွာလုပ်ဆောင်စေမည့် မုဒ်တစ်ခုအဖြစ် ၎င်း၏အသုံးပြုသူများသည် AI မော်ဒယ်များကို configure လုပ်မည့်ဖြစ်နိုင်ခြေကို ဆက်လက်လျှော့ချသင့်သော Azure AI Studio တွင် လုံခြုံရေးအင်္ဂါရပ်များစွာကို ထည့်သွင်းထားသည်။ Redmond အခြေစိုက် နိုင်ငံစုံနည်းပညာကုမ္ပဏီ၊ Washington သည် AI အပြန်အလှန်တုံ့ပြန်မှုများ၏ ခိုင်မာမှုကို အာမခံပြီး သုံးစွဲသူအခြေခံအပေါ် ယုံကြည်မှုကို မြှင့်တင်ပေးသည့် တိုးတက်မှုများကို အလေးပေးဖော်ပြသည့် ဘလော့ဂ်ပို့စ်တစ်ခုတွင် တိုးတက်မှုများကို ဖော်ပြခဲ့သည်။
အချက်ပြဒိုင်းများနှင့် အခြားအရာများ
ကြီးမားသောတိုးတက်မှုများထဲတွင် AI chatbots များနှင့်စကားပြောနေစဉ်အတွင်းထိုးသွင်းမှုများကိုရှာဖွေပြီးသတ်ရန်ဒီဇိုင်းပြုလုပ်ထားသည့် "prompt shields" များဖန်တီးမှုဖြစ်သည်။ ၎င်းတို့သည် jailbreaks ဟုခေါ်တွင်ကြပြီး အခြေခံအားဖြင့် AI မော်ဒယ်များမှ မလိုလားအပ်သောတုံ့ပြန်မှုများကို ထုတ်ယူသည့်ပုံစံဖြင့် ဖွဲ့စည်းရန် ရည်ရွယ်ချက်ရှိရှိ ဖန်တီးထားသည့် အသုံးပြုသူများထံမှ အခြေခံအားဖြင့် ထည့်သွင်းမှုများဖြစ်သည်။
ဥပမာအားဖြင့်၊ Microsoft သည် မကောင်းသောအမိန့်များကို အကောင်အထည်ဖော်ရန် ဖြစ်နိုင်ချေရှိသည့် အချက်ပြထိုးသွင်းမှုများဖြင့် သွယ်ဝိုက်စွာပါဝင်နေပြီး ၎င်းကဲ့သို့သော အခြေအနေမျိုးသည် ဒေတာခိုးယူမှုနှင့် စနစ်ပြန်ပေးဆွဲခြင်းကဲ့သို့ ပြင်းထန်သော လုံခြုံရေးအကျိုးဆက်များကို ဖြစ်ပေါ်စေနိုင်သည်။ ယန္တရားများသည် ဤကဲ့သို့သော တစ်မျိုးတည်းသော ခြိမ်းခြောက်မှုများကို အချိန်နှင့်တပြေးညီ ရှာဖွေဖော်ထုတ်ရန် သော့ချက်ဖြစ်သည် ဟု Microsoft ၏ တာဝန်ရှိ AI အတွက် ထုတ်ကုန်အရာရှိချုပ် Sarah Bird မှ ပြောကြားခဲ့သည်။
အသုံးပြုသူ၏စခရင်တွင် မကြာမီသတိပေးချက်များရှိလာမည်ဖြစ်ကာ မော်ဒယ်တစ်ခုသည် မှားယွင်းသော သို့မဟုတ် လွဲမှားသောအချက်အလက်များကို ဖော်ပြသည့်အခါတွင် ပိုမိုအသုံးပြုရလွယ်ကူပြီး ယုံကြည်စိတ်ချရမှုကို အာမခံနိုင်မည်ဖြစ်ကြောင်း ညွှန်ပြမည်ဖြစ်သည်။
AI Tools များတွင် ယုံကြည်မှုတည်ဆောက်ခြင်း။
Microsoft ၏ ကြိုးပမ်းအားထုတ်မှုသည် သုံးစွဲသူတစ်ဦးချင်းစီနှင့် ကော်ပိုရိတ်ဖောက်သည်များကို ပစ်မှတ်ထားသော ဝန်ဆောင်မှုများတွင် ကျယ်ကျယ်ပြန့်ပြန့်အသုံးပြုနေသည့် လူကြိုက်များလာသော မျိုးဆက်သစ် AI ကို လူတို့ယုံကြည်မှုပေးစေရန် ရည်ရွယ်၍ ပိုမိုကြီးမားသောလုပ်ဆောင်မှုတစ်ခုဖြစ်သည်။ Microsoft သည် ထူးထူးဆန်းဆန်း သို့မဟုတ် အန္တရာယ်ရှိသော ရလဒ်များကို ထုတ်လုပ်ရန်အတွက် အသုံးပြုသူများ Copilot chatbot ကို ဂိမ်းကစားနိုင်သည့် သာဓကများကို ကြုံပြီးနောက်တွင် အံကြိတ်ထားသော သွားဖြီးဖြင့် ဖြတ်သန်းခဲ့သည်။ ၎င်းသည် AI နည်းပညာများနှင့် လူကြိုက်များသော အသိပညာများနှင့်အတူ မြင့်တက်လာနိုင်ဖွယ်ရှိသည့် ဖော်ပြထားသော ခြယ်လှယ်နည်းဗျူဟာများကို ပြင်းထန်စွာ ခုခံကာကွယ်ရန် လိုအပ်ကြောင်း ပြသသည့် ရလဒ်တစ်ခုအတွက် ပံ့ပိုးပေးမည်ဖြစ်သည်။ ကြိုတင်ခန့်မှန်းခြင်းနှင့် လျော့ပါးသက်သာစေခြင်းမှာ တိုက်ခိုက်မှုပုံစံများကို အသိအမှတ်ပြုခြင်းဖြစ်ပြီး၊ တိုက်ခိုက်သူတစ်ဦးက အခန်းကဏ္ဍမှပါဝင်ခြင်းတွင် မေးခွန်းများထပ်ကာထပ်ကာ သို့မဟုတ် အချက်ပေးသည့်နေရာတွင် စသည်တို့ဖြစ်သည်။
OpenAI ၏အကြီးဆုံးရင်းနှီးမြှုပ်နှံသူနှင့် မဟာဗျူဟာမြောက်လုပ်ဖော်ကိုင်ဖက်အနေဖြင့် Microsoft သည် တာဝန်သိပြီး ဘေးကင်းသော မျိုးဆက်သစ် AI နည်းပညာများကို မည်သို့ပေါင်းစပ်ဖန်တီးရမည်ဆိုသည့် နယ်နိမိတ်များကို တွန်းအားပေးနေသည်။ ဘေးကင်းရေးအစီအမံများအတွက် Generative AI ၏ အခြေခံပုံစံများကို တာဝန်သိစွာ ဖြန့်ကျက်လုပ်ဆောင်ရန် ကတိပြုပါသည်။ သို့သော် အဆိုပါကြီးမားသောဘာသာစကားမော်ဒယ်များသည် အနာဂတ် AI ဆန်းသစ်တီထွင်မှုများစွာအတွက် အခြေခံအုတ်မြစ်အဖြစ် ရှုမြင်လာမည်ဖြစ်သောကြောင့်ပင် ကိုင်တွယ်ခြယ်လှယ်မှု သက်သေမဟုတ်ကြောင်း Bird မှ ဝန်ခံခဲ့သည်။
ဤအခြေခံအုတ်မြစ်များပေါ်တွင်တည်ဆောက်ခြင်းသည် မော်ဒယ်လ်များကိုယ်တိုင်အားကိုးခြင်းထက် များစွာပို၍ကြာမြင့်မည်ဖြစ်ပါသည်။ AI ဘေးကင်းရေးနှင့် လုံခြုံရေးအတွက် ကျယ်ကျယ်ပြန့်ပြန့် ချဉ်းကပ်မှု လိုအပ်မည်ဖြစ်သည်။
မကြာသေးမီက Microsoft သည် ၎င်း၏ Azure AI Studio အတွက် လုံခြုံရေးအစီအမံများကို အားကောင်းလာစေရန် ကြေငြာခဲ့ပြီး AI ခြိမ်းခြောက်မှုအခင်းအကျင်းကို ကာကွယ်ရန် လုပ်ဆောင်နေသော တက်ကြွသောခြေလှမ်းများကို ပြသကာ အာမခံချက်ပေးခဲ့သည်။
၎င်းသည် AI ကို အလွဲသုံးစားလုပ်ခြင်းကို ရှောင်ရှားရန်နှင့် အချိန်မီ ဖန်သားပြင်များနှင့် သတိပေးချက်များကို ပေါင်းစပ်ခြင်းဖြင့် AI အပြန်အလှန်တုံ့ပြန်မှု၏ သမာဓိနှင့် ယုံကြည်စိတ်ချရမှုကို ထိန်းသိမ်းထားသည်။
AI နည်းပညာ၏ စဉ်ဆက်မပြတ် ဆင့်ကဲပြောင်းလဲလာမှုနှင့် နေ့စဉ်လူနေမှုဘဝတွင် အများအပြားပါဝင်လာမှုနှင့်အတူ၊ ၎င်းသည် Microsoft နှင့် အခြားသော AI အသိုင်းအဝိုင်းအတွက် အလွန်သတိထားရမည့် လုံခြုံရေးရပ်တည်ချက်ကို ထိန်းသိမ်းရန် အချိန်ကြာမြင့်မည်ဖြစ်သည်။
အရင်းအမြစ်- https://www.cryptopolitan.com/microsoft-ai-chatbot-security-to-tricksters/