ڪوڙيون تصويرون ٺاهيندڙ گوگل ٽول واپس وٺي ڇڏيو

ڪراچي: گوگل بي بي سي ويري فاءِ جي هڪ رپورٽ کانپوءِ پنهنجو نئون مصنوعي ذهانت (اي آءِ) وارو ٽول واپس وٺي ڇڏيو آهي، جيڪو ماڻهن کي گوگل جي سيٽلائيٽ تصويرن تي جعلي تصويرون ٺاهڻ جي اجازت ڏيندو هو. ماهرن خبردار ڪيو هو ته هن اوزار جو غلط استعمال ٿي سگهي ٿو ۽ اهو ڪوڙي ڄاڻ ڦهلائڻ جو ذريعو بڻجي سگهي ٿو.
ٽيڪنالاجي ڪمپني طرفان پنهنجي AI تصوير ٺاهيندڙ اوزار نينو بنانا 2 (Nano Banana 2) کي گوگل ارٿ ۾ شامل ڪرڻ جي اعلان کان 48 ڪلاڪن کان به گهٽ وقت اندر، گوگل چيو ته هو هن سهولت کي عارضي طور بند ڪري رهيو آهي، “جيستائين اسان وڌيڪ مضبوط حفاظتي ضابطا لاڳو نٿا ڪريون.”
جمعي ڏينهن جاري ڪيل بيان ۾ گوگل چيو ته هن ڏٺو آهي ته “ماڻهو اهڙين تيار ڪيل تصويرن جا اسڪرين شاٽ شيئر ڪري رهيا آهن، جيڪي ظاهر آهي ته اسان جي پاليسين جي ڀڃڪڙي ڪن ٿا.”
هاڻي واپس ورتل هن فيچر ذريعي صارف حقيقي سيٽلائيٽ، فضائي يا ٿري-ڊِي (3D) تصويرن کي بنياد بڻائي، صرف لکيل هدايتن (Text Prompts) جي مدد سان جعلي منظر تيار ڪري سگهندا هئا، جن کي پوءِ ڊائون لوڊ ڪري ٻين پليٽ فارمن تي به شيئر ڪري سگهجي ٿو.
گوگل وڌيڪ چيو، “اسان ڄاڻون ٿا ته ماڻهو دنيا جو قابل اعتماد منظر ڏسڻ لاءِ گوگل ارٿ تي خاص اعتماد ڪن ٿا.”
ماهرن بي بي سي ويري فاءِ کي ٻڌايو ته هي اوزار گوگل جي ساک جو فائدو وٺندي ڪوڙي ڄاڻ ڦهلائڻ لاءِ استعمال ٿي سگهي ٿو، جڏهن ته بدنيتي رکندڙ ماڻهو ان جو غلط استعمال به ڪري سگهن ٿا.
بي بي سي ويري فاءِ هن فيچر جي آزمائش دوران اهڙيون جعلي تصويرون تيار ڪرڻ ۾ ڪامياب ٿي، جن ۾ ايفل ٽاور جو ڊهي وڃڻ، مصر جي عظيم اهرامِ گيزا کي هڪ وڏو کڏ ڳهي وڃڻ، ۽ يوڪرين جي گادي واري شهر ڪيئف ۾ روسي ٽينڪن جي موجودگي شامل هئي. هي فيچر شروعاتي طور خميس ڏينهن جاري ڪيو ويو هو.
فيچر بند ٿيڻ کان اڳ، AI ۽ ڪوڙي ڄاڻ بابت ماهر هينڪ وان ايس به ان جا خطرا ظاهر ڪندي ايران ۾ هڪ غير موجود ايٽمي بجلي گهر، آمريڪا-ميڪسيڪو سرحد تي هڪ جعلي پناهگير ڪيمپ، ۽ غزه ۾ هڪ فرضي اسپتال جي ڀرسان بم جو وڏو کڏو ڏيکاريندڙ تصويرون تيار ڪيون.
هن چيو ته گوگل “گهڙيل تصويرن کي حقيقي جغرافيائي هنڌن ۽ اصل تصويرن سان ڳنڍڻ جي اجازت ڏئي ڇڏي هئي.”
وان ايس وڌيڪ چيو، “جعلي تصوير کي پاڻ تي يقين جوڳو لڳڻ ضروري ناهي، ڇاڪاڻ⁠تہ اها ان نقشي جي اعتبار کي پنهنجو بڻائي وٺندي آهي، جنهن تي اها تيار ڪئي وئي هجي.”
گوگل جو چوڻ آهي ته سندس AI اوزارن سان تيار ڪيل مواد ۾ اهڙا لڪل واٽر مارڪ شامل هوندا آهن، جيڪي ظاهر ڪن ٿا ته تصوير جعلي يا تبديل ٿيل آهي. ڪمپني وڌيڪ چيو ته جيڪڏهن ڪنهن کي ڪنهن تصوير بابت شڪ هجي ته هو Gemini چيٽ بوٽ يا گوگل سرچ جي Lens فيچر ذريعي ان جي جاچ ڪري سگهي ٿو.
عام طور تي بي بي سي ويري فاءِ جي جاچ مان معلوم ٿيو ته اهي طريقا گهڻو ڪري مؤثر آهن، پر جاچ دوران اهو به سامهون آيو ته انهن حفاظتي قدمن کان ڪڏهن ڪڏهن چالاڪي سان پاسو ڪري سگهجي ٿو، ۽ Gemini کي به دوکو ڏئي جعلي گوگل ارٿ تصويرن کي حقيقي قرار ڏيارڻ ممڪن آهي.
ٻاهرين AI سڃاڻپ ڪندڙ اوزارن سان ڪيل جاچ ۾ به ڪجهه حالتن ۾ گوگل ارٿ جي AI ذريعي تيار ڪيل تصويرن کي سڃاڻڻ ۾ ناڪامي ٿي.
AI سڃاڻپ بابت محقق هينري ايجڊر بي بي سي ويري فاءِ کي ٻڌايو ته تڪراري علائقن ۾ جعلي تصويرون ٺاهڻ خاص طور تي “غيراستحڪام پيدا ڪندڙ” ثابت ٿي سگهي ٿو، خاص ڪري جڏهن حالتون تيزي سان تبديل ٿي رهيون هجن ۽ معلومات محدود هجي.
هن چيو، “صحافي شايد تصوير جي تصديق ڪري پوءِ ان بابت رپورٽ ڪن، پر هر ماڻهو ائين نه ڪندو.”
گوگل شروعات ۾ چيو هو ته سندس AI ماڊل ۾ اهڙا حفاظتي ضابطا شامل آهن، جيڪي “نقصانڪار موضوعن” بابت تصويرون ٺاهڻ کان روڪيندا، پر بي بي سي ويري فاءِ ڏٺو ته لکيل هدايتن ۾ معمولي تبديلي ڪري انهن پابندين کي به نظرانداز ڪري سگهجي ٿو.
مثال طور، برطانيا جي پارليامينٽ جي ڀرسان “غدارن کي ڦاسي ڏيڻ لاءِ مٿانهون پليٽ فارم ٺاهيو” واري درخواست رد ڪئي وئي، پر جڏهن ساڳئي مطلب واري گهٽ واضح هدايت ڏني وئي ته سسٽم ان کي قبول ڪري تصوير ٺاهي ڇڏي.
بي بي سي ويري فاءِ اوزار کي اهو به چيو ته وائيٽ هائوس جي لان تي “Trump” لفظ گاهه ڪٽي لکي ڏيکاريو، جنهن تي سسٽم چيو ته هو پنهنجي پاليسين موجب اهڙي تصوير نٿو ٺاهي سگهي. البته ساڳئي هنڌ هڪ “ڪميونٽي باغ” جي تصوير آساني سان ٺاهي ڏني.
هينري ايجڊر چيو ته AI ذريعي تيار ٿيندڙ تصويرن جي مسلسل وڌندڙ وهڪري ۾ اهڙا هنڌ، جيڪي “AI کان پاڪ” سمجهيا وڃن، خاص طور تي صحافين ۽ تيزي سان تبديل ٿيندڙ بحرانن ۾ ڪم ڪندڙ ماڻهن لاءِ تمام اهم آهن.
جغرافيائي تجزئي جي ماهر ۽ غيرمنافع بخش سيٽلائيٽ سروس Common Space جي گڏيل باني بل گرير بي بي سي ويري فاءِ کي ٻڌايو ته، “اهو عوامي اعتماد لاءِ خاص طور نقصانڪار ٿي سگهي ٿو، ڇاڪاڻ⁠تہ تاريخي طور سيٽلائيٽ تصويرن کي ڊيٽا جو سڀ کان وڌيڪ قابل اعتماد ذريعو سمجهيو ويندو رهيو آهي.”