یہاں ہم مستقبل کے دورے کو کیسے روک سکتے ہیں. HAL 9000 کی نقل و حرکت سے

ہم مستقبل کو کیسے روک سکتے ہیں. احکامات کی نافرمانیاں اور اپنے راستے پر جانے کا انتخاب کرتے ہیں؟ اس سے پلاٹ کی طرح آواز آتی ہے 2001: ایک خلائی اوڈیسی لیکن ایک ماہر اس کا دعوی کرتی ہے کہ ہم اس کے بارے میں سوچنا شروع کر سکتے ہیں. اس بات کا یقین، ہم Google تلاش الگورتھم کو سوئچ کر سکتے ہیں اگر یہ کبھی جھوٹ بولا، لیکن جب مالی اور قانونی نتائج کا سامنا کرنا پڑا تو اس سے کہیں زیادہ آسان کہا جا سکتا ہے. مستقبل میں، جیسا کہ ہم زیادہ اعلی درجے کی ای ای پر منحصر ہو جاتے ہیں، یہ ناممکن ثابت ہوسکتا ہے.

"یہ الگورتھم جان بوجھ کر ڈیزائن نہیں کیا گیا ہے خود ہی سمندری ڈاکو کے مستقبل کے ایک محقق سٹوارت آرمسٹرانگ نے بدھ کو بدھ کو 2016 میں ایک محقق سٹوارت آرمسٹرانگ نے کہا کہ ریبوٹ یا بند کرنے کے لئے ناممکن ہونا ممکن ہے. اس کا مطلب یہ ہے کہ غیر معمولی نتائج کے ساتھ تبدیلی کو بہتر بنانے میں مشکل ہوسکتا ہے، اور یہ ممکن نہیں ہو سکتا ہے. اس صورت حال میں خود کو تلاش کرنے کے لئے.

اسحاق عاصموف کا حل روبوٹکس کے تین قوانین تھا، جس میں مشکل کوڈ تصورات جیسے انسانوں کو نقصان پہنچانے کی کوئی وجہ نہیں. مسئلہ ہے، نقصان بلکہ ذہنی اور تشریح کے لئے کھلا ہے. انسان اقدار پر زیادہ کام کرتے ہیں جیسے سمجھتے ہیں کہ نقصان پہنچانے اور حالات کی تشریح کرنے کے لئے برا ہے، کچھ مشکل قواعد پر کام کرنے کے بجائے انہیں کبھی نقصان نہیں پہنچایا جائے گا.

آرمسٹرانگ نے کہا کہ "یہ اس طرح کی دشواری کی وجہ سے ہے کہ اب اس روایتی طریقے سے ان کو کوڈ کرنے کی کوشش کرنے کے بجائے قیمتوں پر حاصل کرنے کے لئے مشین سیکھنے کا استعمال کرنے میں لوگ بہت زیادہ دلچسپی رکھتے ہیں." "قیمتیں مستحکم ہیں جس طرح دیگر چیزیں A.I میں نہیں ہیں. قیمتیں خود کو خود مختاری کا دفاع کرتی ہیں."

لیکن ان حالات میں بھی، ای. ڈیزائن کرنے کے لئے ضروری ہے. وہ چل رہا ہے جبکہ ان کو انتباہ کرنے کے لئے. محفوظ مداخلت محفوظ پالیسی کی تبدیلیوں کی اجازت دیتا ہے، جو سیکھنے کے اقدار سے غیر منظم نتائج سے بچ سکتی ہے. اگر HAL 9000 نے کبھی بھی کھلنے سے پوڈ بیل دروازوں کو روکنے کی کوشش کی، یہ ضروری ہے کہ ہم اس کی شناخت کر سکیں کہ A.I. کے اقدار خراب ہوگئے ہیں اور نظام آف لائن کے بغیر مداخلت کرتے ہیں.