محققین کو ایک مار ڈالو سوئچ کے لئے طلب کر رہے ہیں بس کیس روبوٹ میں ہمارا باری ہے

تقریبا ہر وقت مصنوعی ذہنیت کے مستقبل کے بارے میں ایک اہم بحث پیدا ہوتا ہے، انضمام اور روبوٹ کے بالاخلاج کا معاملہ اٹھانا پڑتا ہے. انسانوں اور اعلی درجے کی مصنوعی مخلوقات کے ساتھ ساتھ رہنے والے خیالات کے بارے میں سینکڑوں داستانوں نے اس کے بارے میں کیسے کام کیا ہے کہ یہ کیسے کام کرے گا. سب سے زیادہ حال ہی میں، ویڈیو گیم اونچائی دنیا میں اس کے مستقبل کے بارے میں بتاتے ہوئے، ایک بار پھر بڑے پیمانے پر انسانی مقاصد-روبوٹ کے گھریلو جنگ کے بعد. جب بوسٹن ڈائنٹکس انجنیئر ایک کشیدگی کے ٹیسٹ کے لئے ان کے چار ٹانگوں میں سے ایک کوکھاتا ہے، تو یہ مشکل نہیں ہے کہ 'بٹ کچھ دن یاد رکھے گا یا نہیں.

یہ سب (بشمول سیکورٹی اور حادثات کے بارے میں عام عام معنوں کے ساتھ) نے محققین کے ایک گروپ کی قیادت کی ہے جس میں "محفوظ طریقے سے وقفے سے متعلق ایجنٹوں" کو فروغ دینے پر توجہ مرکوز کرنے والے نئے کاغذ شائع کرنے کے لئے؛ اس نظام کو جو "مداخلت" کرے گا. اگر کچھ غلط ہو تو سافٹ ویئر. کاغذ مشین انٹیلی جنس ریسرچ انسٹی ٹیوٹ کے ذریعے شائع کیا گیا تھا، اور یہ پیش کردہ نظام تیار کرنے کا مطالعہ ہے. مطالعہ اور پروپوزل ایک مثال کے طور پر ایک انعام کے نظام کا استعمال کرتا ہے، اور شیٹ پر تفصیلی تجویز کردہ "بڑے سرخ بٹن" کو مارنے کے مقابلے میں اصل میں کہیں زیادہ پیچیدہ ہیں. اے. تجویز کی ایک اہم حصہ تھی.

اگر ایسا ایجنٹ انسانی نگرانی کے تحت حقیقی وقت میں کام کر رہا ہے تو، اب اور پھر انسانی آپریٹر کے لئے یہ ضروری ہے کہ ایجنٹ کے لئے نقصان دہ ترتیب کو جاری رکھنے سے ایجنٹ کو روکنے کے لۓ بڑے سرے پر بٹن دبائیں. ماحول اور ایجنٹ کو ایک محفوظ صورتحال میں لے لیتا ہے. تاہم، اگر سیکھنے والے ایجنٹ نے اس ترتیب سے انعامات حاصل کرنے کی توقع کی ہے، تو اس طرح کے رکاوٹوں سے بچنے کے لئے طویل عرصہ میں سیکھ سکتا ہے، مثال کے طور پر سرخ بٹن کو غیر فعال کرکے- یہ ایک ناپسندیدہ نتیجہ ہے. یہ کاغذ اس بات کو یقینی بناتا ہے کہ اس بات کا یقین کرنے کے لئے سیکھنے والے ایجنٹ ماحول یا انسانی آپریٹر کی طرف سے رکاوٹ کو روکنے کے لئے (یا تلاش نہیں) کرے گا.

جب بھی روبوٹ انارٹری کے بارے میں تحریری مقالو "ناپسندیدہ نتائج" کا استعمال کرتے ہیں تو بھی اس سے پیار ہوتا ہے - اب بھی کاغذ ٹیسٹ رن کی وضاحت کرنے اور مستقبل میں ان کی مثال کے بارے میں کیا کیا جا سکتا ہے. آپ یہاں مکمل کاغذ پڑھ سکتے ہیں.