ڪراچي: مصنوعي ذهانت (اي آءِ) جي ڪمپني اينٿروپڪ جي هڪ محقق استعيفيٰ ڏئي ڇڏي آهي ۽ خبردار ڪيو آهي ته اي آءِ ليبارٽريون اهڙا نظام تيار ڪرڻ جي ڊوڙ ۾ آهن، جيڪي ڪجهه ئي سالن اندر انساني زندگي لاءِ ”خطرو“ بڻجي سگهن ٿا.
جيڪب ڪاڪسَن جي استعيفيٰ بابت پهريون ڀيرو وال اسٽريٽ جرنل خبر ڏني، جنهن ان کي ”اينٿروپڪ جي ڪنهن ملازم جي اي آءِ جي حفاظت بابت خدشن سبب نوڪري ڇڏڻ جي پهرين مثالن مان هڪ“ قرار ڏنو.
هي به پڙهو، گڏيل قومن جو چتاءُ
سوشل ميڊيا پليٽ فارم ايڪس تي هڪ سلسليوار پيغام ۾ ڪاڪسن، جيڪو نون اي آءِ ماڊلن کي تمام وڏي مقدار ۾ ڊيٽا استعمال ڪرائي تربيت ڏيڻ جي شعبي جو ماهر آهي، چيو:
”مون اڄ اينٿروپڪ مان استعيفيٰ ڏني آهي. مون گذريل ٽي سال اوپن اي آءِ ۽ اينٿروپڪ ٻنهي ۾ پري-ٽريننگ ريسرچ ڪندي گذاريا آهن.
”ٻنهي ڪمپنين مان ڪا به ذميواري سان ڪم نٿي ڪري. اهي پاڻ کي بهتر بڻائڻ جي صلاحيت رکندڙ سپر انٽيليجنس تيزيءَ سان پهچڻ جي ڊوڙ ۾ آهن ۽ اسان جي زندگين کي داءُ تي لڳائي رهيون آهن.“
هن چيو: ”هن ٽيڪنالاجي جي طاقت کي گهٽ نه سمجهو. جلد ئي اهڙا نظام سپر هيومن، يعني انسان کان وڌيڪ ذهين، هوندا، جيڪي ڪنهن به شيءِ کي هيڪ ڪري سگهندا، ڪنهن به شعبي ۾ رات وچ ۾ انقلاب آڻي سگهندا ۽ حقيقي طاقت ۽ وسيلا حاصل ڪري سگهندا.“
هن وڌيڪ چيو: ”اسان سڀني انهن شعبن مان هر هڪ ۾ ٿيندڙ ترقي ڏٺي آهي ۽ اها ترقي سست نه ٿي رهي آهي.“
ڪاڪسن اي آءِ محققن ۽ ڪمپنين جي اعليٰ عملدارن ۾ هن ٽيڪنالاجي جي ممڪنه نتيجن بابت موجود خدشن کان پڻ خبردار ڪيو.
هن چيو: ”جيڪي ماڻهو اي آءِ ٺاهي رهيا آهن، اهي سنجيدگي سان يقين رکن ٿا ته هن ڏهاڪي جي آخر تائين اها اسان سڀني کي ماري سگهي ٿي. هي ڪو مارڪيٽنگ جو حربو ناهي. حقيقت ۾ ڪيترائي عملدار ۽ سينيئر محقق ميڊيا سان ڳالهائيندي پنهنجا لفظ اهڙي نموني چونڊيندا آهن جو معقول نظر اچن، پر مان ساڳين ماڻهن کي ذاتي طور تي خوف جو اظهار ڪندي ٻڌندو آهيان. انساني سرگرمي جي ڪنهن به ٻي شعبي ۾ ايتري وڏي سطح جو خطرو موجود ناهي.“
ڪاڪسن سوال ڪيو ته جڏهن اهڙا خدشا موجود آهن ته پوءِ ڪمپنيون اي آءِ کي ترقي ڏيڻ جو سلسلو ڇو جاري رکي رهيون آهن.
هن چيو: ”هڪ عام جواب اهو هوندو آهي ته ’جيڪڏهن اهي واقعي ائين سمجهن ٿا ته پوءِ اڃا تائين اهو ڇو ٺاهي رهيا آهن؟‘ اوپن اي آءِ ۾ ڪيترن ماڻهن اڃا تائين ان معاملي جي انساني تهذيب لاءِ اهميت ۽ خطري کي مڪمل طور تي محسوس نه ڪيو آهي.“
هن وڌيڪ چيو: ”اينٿروپڪ ۾ خطري جي اهميت کي چڱيءَ طرح سمجهيو وڃي ٿو، پر اهي سڀ کان اڳ پهچڻ جي ڊوڙ ۾ ڦاٿل آهن. انهن جو خيال آهي ته ٻيو ڪو به ذميواري سان ڪم نه ڪندو، تنهنڪري خطري جي باوجود کين اهو ڪم پاڻ ڪرڻو پوندو.“
ڪاڪسن اي آءِ محققن تي زور ڏنو ته هو ترقي جي رفتار ۽ ان سان لاڳاپيل خطرن تي ٻيهر غور ڪن.
هن چيو: ”جيڪڏهن توهان ڪنهن ليبارٽري ۾ محقق آهيو ته مان توهان تي زور ڀريان ٿو ته سوچيو ته ايندڙ ڪجهه سال حقيقت ۾ ڪيئن هوندا.
”ڇا توهان ان جي ذهني نظام ۽ طريقيڪار کي سختي سان سمجهڻ کان سواءِ هڪ سپر انٽيليجنٽ آر ايل رن شروع ڪرڻ چاهيو ٿا؟ ڇا توهان صرف ان ڪري خاموشي سان پنهنجو ڪم جاري رکو ته ’اهو ته ڪنهن به صورت ۾ ٿيڻو آهي‘، يا هن موقعي تي مختلف شرطن ۽ ضابطن جو مطالبو ڪريو؟“ هن سوال ڪيو.
وال اسٽريٽ جرنل سان ڳالهائيندي ڪاڪسن پنهنجي استعيفيٰ جا ساڳيا سبب بيان ڪندي چيو ته هو سڄي صنعت ۾ جاري ان ڊوڙ جو حصو بڻجڻ نٿو چاهي، جنهن جو مقصد ”اهڙا اي آءِ نظام ٺاهڻ آهي جيڪي پاڻ کي بهتر بڻائي سگهن“، ڇاڪاڻ ته کيس خدشو آهي ته اهڙا نظام ڪنٽرول کان ٻاهر نڪري سگهن ٿا ۽ انسانيت کي تباهه ڪري سگهن ٿا.
هن اهو به چيو ته سندس شعبي جا ڪيترائي ساٿي هاڻي پاڻ کي بهتر بڻائيندڙ ماڊلن ڏانهن وڌندڙ سفر کي بيان ڪرڻ لاءِ ”ڪرَنچ ٽائيم“ ۽ ”اينڊ گيم“ جهڙا لفظ استعمال ڪرڻ لڳا آهن.
رپورٽ موجب ڪاڪسن انهن هڪ هزار کان وڌيڪ اي آءِ محققن ۾ پڻ شامل آهي، جن تازو هڪ بيان تي صحيحون ڪيون آهن. ان بيان ۾ عالمي حڪومتن وچ ۾ هم آهنگي پيدا ڪرڻ جو مطالبو ڪيو ويو آهي ته جيئن اهڙو نظام قائم ڪيو وڃي، جنهن تحت جيڪڏهن پاڻ کي بهتر بڻائڻ جي صلاحيت رکندڙ اي آءِ ماڊلن کي ڪنٽرول ڪرڻ لاءِ ”بريڪ پيڊل“ جي ضرورت پوي ته اي آءِ جي ترقي کي سست ڪري سگهجي.
ياد رهي ته ساڳيا خدشا ڪجهه ڏينهن اڳ گڏيل قومن جي انساني حقن واري شعبي جي سربراهه پڻ ظاهر ڪيا هئا ۽ هن مصنوعي ذهانت جي ڪمپنين کي خط لکي ان جو فوري تدارڪ ڪرڻ تي زور ڀريو هو.
تبصرے بند ہیں۔