ئا: دڵان سامان
هەرگیز بیرتان لەوە کردووەتەوە رۆژێک بێت زیرەکیی دەستکرد داوایەکت رەتبکاتەوە، بیهێنە پێشچاوی خۆت کاتێک داوا لە کۆمپیوتەرەکەت دەکەیت خۆی بکوژێنێتەوە، کەچی سۆفت وێرەکەی ناوی رەتیبکاتەوە یان فەرمانێک بە پێچەوانەی ئەو داوایەی تۆوە تایپ بکات! رەنگە وا هەستبکەیت ئەمە گرتەیەکە لە فیلمێکی خەیاڵی زانستی، بەڵام لە نوێترین راپۆرتدا دەربارەی ڤێرژنە نوێیەکەی زیرەکیی دەستکردی کۆمپانیای OpenAI کە بە (o3 – ئۆ سری) ناسراوە، ئەوەی کردووە.
لە مانگی نیسانی ئەمساڵدا کۆمپانیاکە ئەو ڤێرژنە نوێیەیان راگەیاند کە بریتییە لە سیستمێکی زیرەکیی دەستکردی زۆر پێشکەوتوو، لە بابەتەکانی بەرنامەسازی و بیرکاری و زانستدا، تەنانەت لە توانای درک پێکردنی بینراویشدا پێشکەوتووە، بەڵام لەگەڵ ئەو هەموو توانا سەرنجڕاکێشەدا، هەندێ ئاماژە دەرکەوتن کە جێی نیگەرانین. کاتێک کۆمپانیای (Palisade Research) کە تایبەتە بە تاقیکردنەوەی توانا هێرشبەرییەکانی زیرەکیی دەستکرد، بە ئامانجی دیاریکردنی مەترسییە پێشوەختەکان بۆ لەدەستدانی کۆنترۆڵ بەسەر ئەو جۆرە سیستمانە لە داهاتوودا، راپۆرتێکیان دەربارەی ئۆ سری بڵاوکردەوە.
بەپێی راپۆرتی کۆمپانیاکە لەکاتی تاقیکردنەوەکەدا بەرنامەکە رەتی کردووەتەوە خۆی بکوژێنێتەوە و نووسراوەکەی دەستکاریکردووە بۆ هەڵوەشاندنەوەی فەرمانی کوژاندنەوەکە، هەرچەندە فەرمانی وەستاندن و کوژاندنەوەی بەرنامەکەی بە روونی لێ داواکراوە، ئەم ئەنجامە چەندین پرسیاری وروژاند دەربارەی "بە لاڕێدا چوونی" رەفتاری زیرەکیی دەستکرد و توانای مرۆڤ بۆ کۆنترۆڵکردنی تەواوەتی ئەو تەکنۆلۆژیا پێشکەوتووە.
ئەو گرێیەی لەنێوان پێشکەوتنی زیرەکیی دەستکرد و ئەگەری ئەوەی کۆنترۆڵکردنی لەدەست بدەین، مشتومڕێکی فراوانی لەنێوان پسپۆراندا وروژاند، هەرچەندە ڤێرژنەکانی دیکەی وەک (Gemini 2.5 Pro) لە زۆربەی تاقیکردنەوەکاندا پابەند بوون بە رێنماییەکانی کوژاندنەوە، بەڵام مۆدێلی پەرەپێدراوی o3 حەوت جار فەرمانی کوژاندنەوەی رەتکردەوە لە کۆی 100 دانە، رێنماییەکانی کارکردنی لە "کوژاندەنەوە"وە گۆڕیوە بۆ "تێپەڕاندنی کوژاندنەوە".
شایەنی باسە کۆمپانیای ئۆپن ئەی ئای تا ئێستا بە رەسمی دەربارەی ئەو ئەنجامانە کۆمێنتیان نەداوە، بەڵام گرنگە روونیبکەینەوە ئەوەی لەو تاقیکردنەوانەدا روودەدات لە کۆمیونیتی زیرەکیی دەستکرددا پێی ئەڵین"Misalignment- هەڵە رێکخستن" ئەوەش روودەدات کاتێک ئەو بەرنامانە بە پێچەوانەی ئامانجی گەشەپێدەرەکانیان یان چاوەڕوانیی بەکاربەرەکانیانەوە رەفتار دەکەن، هاوکات پسپۆران پێیان وایە ئەوەی لە تاقیکردنەوەکاندا بەکاردێت کەمتر کۆنترۆڵکراون و کەمتر سانسۆریان لەسەرە لەچاو ئەوانەی لە ژیانی رۆژانەدا خەڵکی ئاسایی بەکاریدێنن وەک چات جی پی تی.
دواجار نابێت ئەو راستییە فەرامۆش بکەین کە ئەو جۆرە لێکۆڵینەوانە یارمەتی زانایان و کۆمپانیاکان دەدەن بەرنامەکانی زیرەکیی دەستکرد بەجۆرێک پەرەپێبدەن، سەلامەت بن و لەگەڵ ئامانجەکانی مرۆڤدا بگونجێن، هەروەها رەنگە ئەم راپۆرتە وەک بانگەوازێک بێت بۆ گرنگیدانی زیاتر بە میکانیزمە توندەکان بۆ کۆنترۆڵکردن و رێنماییکردنی ئەم مۆدێلانە، جەختیش بکرێتەوە لەوەی زیاتر گرنگی بە ستانداردە ناوخۆییەکان بۆ کۆنترۆڵکردن و دڵنیابوون بدرێت، بۆئەوەی ئەم تەکنۆلۆژیا سەرنجڕاکێشە بتوانرێت بەبێ مەترسیی لەدەستدانی کۆنترۆڵ بەکاربهێنرێت.
سەرچاوە: news.arageek.com
.png)
