A.I. ریسرچ انسٹی ٹیوٹ کو کس طرح ذمہ دار الگورتھم بنانے کا طریقہ دکھاتا ہے

ریسرچ انسٹی ٹیوٹ اے اے اب نے بدھ کو عوامی میدان میں الگورتھم کے ذمہ دارانہ عمل کے لئے نئی سفارشات شائع کی ہیں.جنوری میں نیویارک سٹی کونسل کی طرف سے قائم ایک ٹاسک فورس میں ان کی مشورے کی ہدایت کی جاتی ہے جو مصنوعی انٹیلی جنس کے سرکاری استعمال کا مطالعہ کر رہی ہے.

اے این اب کی رپورٹ، الگورتھممک اثرات کا تعین: پبلک ایجنسیوں میں احتساب میشن جب یہ الگورتھم کو تعینات کرنے کے لئے آتا ہے تو شفافیت کی ضرورت کو بیان کرتا ہے. الورجیتھم ہمارے روزانہ کی زندگیوں پر بہت بڑا اثر ہے، لیکن ان کے اثرات کبھی کبھی ناپسندیدہ نہیں ہوتے ہیں. کیونکہ وہ سماجی میڈیا اور ویڈیو پلیٹ فارمز کے بنیادی ڈھانچے میں پھنس گئے ہیں، مثال کے طور پر، یہ بھولنا آسان ہے کہ پروگراموں کو اکثر انٹرنیٹ صارفین کو کس طرح مواد کو دھکیل دیا جاتا ہے کا تعین کرتا ہے. یہ صرف اس وقت ہوتا ہے جب کچھ غلط ہو جاتا ہے، ایک سازش کا نظریہ ویڈیو جیسے یو ٹیوب کی رجحان سازی کی فہرست تک پہنچتا ہے، ہم خود کار طریقے سے فیصلے کے طریقوں کی جانچ پڑتال کرتے ہیں جو آن لائن تجربے کو شکل دیتے ہیں.

اور الگورتھم انٹرنیٹ پلیٹ فارمز تک محدود نہیں ہیں. ڈومینز میں تعلیم سے مجرمانہ عدالتی عدالت میں حکومتی اداروں کو تیزی سے الگورتھم پر بھروسہ کیا جا رہا ہے. ایک مثالی دنیا میں، الگورتھم کو سخت فیصلے سے انسانی تعصب کو ختم کرے گا، مثلا ایک قیدی کو پیرول کو دیا جانا چاہئے یا نہیں. عملی طور پر، تاہم، الگورتھم صرف ان لوگوں کے طور پر مؤثر ہیں جو ان کو بناتے ہیں.

مثال کے طور پر، ایک تحقیقات پروپوزل مظاہرہ کیا ہے کہ محکموں میں استعمال ہونے والے خطرے کی تشخیص الگورتھمز نسلی طور پر باصلاحیت تھے. معاملات کو بدتر بنانے کے لئے، عوامی شعبے میں استعمال ہونے والے بہت سے الورگتھوٹس نجی طور پر ملکیت ہیں، اور کچھ کمپنیاں کوڈ کو ان کے سافٹ ویئر میں شامل کرنے سے انکار کر دیتے ہیں. اس سے یہ سمجھنے میں ناممکن ہوتا ہے کہ یہ نام نہاد "بلیک باکس" الگورتھم کو کچھ خاص نتائج واپس آتے ہیں.

اے آئی اب کی طرف سے پیش کردہ ایک ممکنہ حل؟ الگورتھممک اثرات کی تشخیص. یہ تشخیص مکمل شفافیت کا ایک معنی قائم کرتے ہیں، مطلب یہ ہے کہ حکومت اداروں جو الگورتھم استعمال کررہے ہیں ان کو عام طور پر شائع کرنے کی ضرورت ہوگی. رپورٹ نے کہا کہ "خود کی طرف سے یہ ضرورت روشنی کے بہاؤ کی طرف بڑھنے کا ایک طویل راستہ بن جائے گی جس پر عوام کی خدمت میں تعینات کیا جارہا ہے، اور احتساب کی تحقیقات کو توجہ دی جائے گی."

الگورتھم کے گرد کھلی کھلی پالیسی کی وجہ سے شہریوں کے لئے ان کے استعمال کی جانچ پڑتال اور احتجاج کرنے کے لئے بھی دروازے کھولیں گے. کیا آپ چاہتے ہیں کہ آپ کو ایک الگورتھم کو آپ کے کنٹرول سے باہر عوامل پر مبنی خطرے سے متعلق تشخیص سکور فراہم کرنا پڑے گا، خاص طور پر جب اس سکور کی مدد سے آپ جیل جانے جاتے ہیں تو کیا ہوگا؟ شاید ہاں، شاید نہیں. کسی بھی طرح، یہ جاننا اہم ہے کہ بالکل الگ الگ الگ الگ کی طرف سے تجزیہ کیا جا رہا ہے.

اس کے علاوہ، اے آر اب لوگوں کے لئے غیر قانونی الگورتھم کے خلاف لابی کا قانونی معیار قائم کرنے کی سفارش کرتا ہے.

مثال کے طور پر، اگر کوئی ایجنسی ایسے نظام کو ظاہر کرنے میں ناکام ہوجاتا ہے جو خود کار طریقے سے فیصلے کرنے والے افراد کے گنجائش کے اندر اندر گر جاتے ہیں، یا اگر یہ وینڈرز کو تجارت کے خفیہ خفیہ دعوے بنانے کی اجازت دیتا ہے اور اس طرح معقول نظام تک رسائی کو روکنے کے لئے، عوام کے ساتھ خدشات کو بڑھانے کا موقع ہونا چاہئے ایک ایجنسی نگرانی کے جسم، یا براہ راست کسی عدالت کے محکمے میں اگر ایجنسی نے ان عوامی مسائل کے دوران ان کی رائے کو مسترد کرنے سے انکار کر دیا.

سفارشات بنیادی طور پر ایک اہم مینییٹ پر ابھرتے ہیں: اگر آپ الگورتھم استعمال کرتے ہیں تو اس کے بارے میں شرمندہ نہ ہو.

یہاں پوری رپورٹ پڑھیں.