A.I. ماہر ورجینیا ڈومگن: ٹریلی مسئلہ دکھاتا ہے کہ ہمیں شفافیت کی ضرورت ہے

ایک محقق نے دعوی کیا ہے کہ مصنوعی انٹیلی جنس شفافیت کی ضرورت ہے لہذا انسان اس کو اکاؤنٹ میں لے جا سکتے ہیں. ڈیلفٹ یونیورسٹی کے ایسوسی ایٹ پروفیسر ورجینیا ڈگنم نے جمعرات کو نیویارک یونیورسٹی میں ایک ناظرین کو بتایا کہ اگر ہم سمجھ نہیں آتے ہیں کہ مشینیں ایسا کرتے ہیں جسے ہم کرتے ہیں، ہم ان کے فیصلوں کا فیصلہ نہیں کر سکیں گے.

ڈگنم نے ایک سائنسدان اور محقق، ڈیوڈ برریبی کی طرف سے ایک کہانیاں پیش کی ہیں جو کہ شائع ہوا تھا آج نفسیات: "ثبوت سے پتہ چلتا ہے کہ جب لوگ مشینیوں کے ساتھ کام کرتے ہیں، تو وہ ادارے کا کم احساس محسوس کرتے ہیں جب وہ اکیلے کام کرتے ہیں یا دوسرے لوگوں کے ساتھ."

"ٹریلی کی دشواری،" ڈگنم نے وضاحت کی، یہ ایک ایسا علاقہ ہے جہاں لوگ صحیح مشین کا انتخاب کرنے کے لئے ایک مشین میں اندھے عقیدے رکھ سکتے ہیں. یہ سوال یہ ہے کہ آیا لیور کو ایک غیر معمولی فاصلے پر ٹرین پر تبدیل کرنے کے لۓ تاکہ اس کے بجائے پانچ افراد کے بجائے ایک شخص کو مار ڈالا جائے. لوگ امید کرتے ہیں کہ مشینیں اس مسئلے کو حل کرنے کے لئے سب سے زیادہ منطقی راہ میں حل کریں. یہ ہمیشہ کیس نہیں ہوسکتا ہے، اگرچہ، شفافیت اور اس کی وضاحت کرنے میں اس بات کی وضاحت کی جائے گی کہ مشین اس فیصلے پر کیسے آئی.

انہوں نے کہا کہ "یہ صرف ایک بہت ہی گہری، نہراتی نیٹ ورک چینل ہے جس کے واقعات کی کوئی بھی نہیں سمجھ سکتا، لیکن ان وضاحتوں کو ایسے طریقے سے بنانے کے لۓ جو لوگ سمجھ سکتے ہیں."

A.I. جو اس کے کاموں کو صاف کرتا ہے وہ ایک علاقہ ہے جسے ڈارپا تلاش کر رہا ہے. ایگزیکٹو نے اگست میں ایک اعلان شائع کیا کہ وہ ٹیموں کو قابل ذکر قابل دلچسپی میں دلچسپی رکھتے ہیں. منصوبوں، جو XAI کے نام سے جانا جاتا ہے. یہ نظام محققین کو سمجھنے میں مدد ملے گی کہ اے آئی. اس فیصلے کو بنا دیا جس نے اس نے کیا کیا، اس کے نتیجے میں متعلق معلومات کے ساتھ کیا کرنے کی بجائے مشین پر اعتماد کرنے کے بجائے فیصلہ کرنے کے لئے مزید گنجائش فراہم کی.

مشینری سیکھنے کے ساتھ، ڈگنم نے کہا کہ شفافیت ہمیشہ سے کہیں زیادہ اہم ہے. انہوں نے کہا کہ "ہم اس نظام کی توقع نہیں کر سکتے ہیں، اور خاص طور پر مشین سیکھنے کی مشینیں، سیکھنے اور اسے بالکل معلوم کرنے کے لئے.""ڈرائیونگ کرتے وقت ہم اپنے ڈرائیوروں کی توقع نہیں کرتے، ٹریفک قوانین کو مکمل طور پر سمجھتے ہیں. بہت سی ممالک میں، وہ ان کے "ایل" پلیٹس کو دکھانے کے لئے استعمال کرتے ہیں، 'میں سیکھ رہا ہوں، مجھے غلطیوں کے لۓ معاف کروں گا.' 'اے این کو دیکھ کر، اس بات کو سمجھنے کے بارے میں کچھ فیصلے اور اس کی بنیاد پر کام کرنے کے لئے اہم ہوگا روکنے والے مشینیں جو اب بھی خراب فیصلے کرنے سے سیکھ رہے ہیں.