اردو ورلڈ کینیڈا ( ویب نیوز ) مصنوعی ذہانت پر مبنی چیٹ بوٹس جیسے کہ چیٹ جی پی ٹی، گوگل جیمنائی، کلاڈ اور دیگر بڑے لارج لینگوئج ماڈلز (LLMs) کے بارے میں ایک نئی تحقیق میں تشویشناک انکشاف سامنے آیا ہے۔
امریکا کی اسٹینفورڈ یونیورسٹی کی تحقیقاتی ٹیم نے کہا ہے کہ ان جدید ترین ماڈلز کو درست اور غلط خبروں کے درمیان فرق کرنے میں شدید مشکلات کا سامنا ہے، اور یہ مسئلہ ٹیکنالوجی کے بڑے پیمانے پر پھیلاؤ کے باعث خطرناک صورت اختیار کرسکتا ہے۔
تحقیق کے مطابق محققین نے 24 بڑے لارج لینگوئج ماڈلز کو ایک ایسا ٹیسٹ دیا جس میں انہیں جعلی اور درست خبروں کی شناخت کرنی تھی، مگر حیرت انگیز طور پر تمام ماڈلز اس ٹاسک میں ناکام رہے۔ ماہرین کے مطابق یہ نتائج اس لیے بھی پریشان کن ہیں کہ دنیا بھر میں ان اے آئی ماڈلز کا استعمال قانون، صحافت، طب، تحقیق، ایجوکیشن، اور یہاں تک کہ حکومتی فیصلہ سازی تک میں بڑھ رہا ہے۔
تحقیق میں خبردار کیا گیا کہ اگر اے آئی سسٹمز حقیقت اور افسانے کے درمیان مؤثر طور پر فرق نہیں کر سکتے، تو اس کے سنگین نتائج سامنے آسکتے ہیں، جن میں مریضوں کی غلط تشخیص، عدالتوں میں غلط فیصلے، جعلی خبروں کا پھیلاؤ، معاشرتی دھوکے، اور سیاسی پروپیگنڈا شامل ہیں۔ محققین نے کہا کہ جیسے جیسے یہ ٹیکنالوجی زیادہ خودکار نظاموں میں شامل ہو رہی ہے، اس کی کمزوریوں کو سنجیدگی سے نہ لینا مستقبل میں تباہ کن صورت حال پیدا کر سکتا ہے۔
رپورٹ میں مزید کہا گیا کہ لارج لینگوئج ماڈلز کی تربیت زیادہ تر انٹرنیٹ ڈیٹا اور انسانی تحریروں پر مبنی ہوتی ہے، جن میں پہلے ہی غلط معلومات کی بڑی مقدار موجود ہے۔ یہی وجہ ہے کہ یہ سسٹمز بعض اوقات پُراعتماد انداز میں غلط جواب دیتے ہیں، جسے ماہرین "ہیلوسینیشن” کہتے ہیں۔
اس تحقیق نے مصنوعی ذہانت پر انحصار کے خطرات کو ایک بار پھر نمایاں کر دیا ہے اور ماہرین زور دے رہے ہیں کہ مستقبل میں ان ماڈلز کو محض کارکردگی کی بنیاد پر نہیں، بلکہ ان کی سچائی کی پہچان اور مواد کی درستگی کی بنیاد پر بھی پرکھا جانا ضروری ہے۔ تحقیقاتی ٹیم نے عالمی اداروں، ٹیکنالوجی کمپنیوں اور پالیسی میکرز سے اپیل کی ہے کہ وہ اس مسئلے کو سنجیدگی سے لیں اور ایسے حفاظتی نظام بنائیں جو غلط معلومات کی روک تھام کر سکیں۔
