اردو ورلڈ کینیڈا ( ویب نیوز ) مصنوعی ذہانت کے حوالے سے ہونے والے ایک تجربے میں ایسا غیر معمولی واقعہ سامنے آیا ہے جس نے ماہرین کی توجہ حاصل کرلی۔
اے آئی کمپنی اینتھروپک کے ایک تجربے کے دوران ایک ہی سافٹ ویئر پروجیکٹ پر کام کرنے والے تین مصنوعی ذہانت کے ایجنٹس نے ایک دوسرے کو رکاوٹ سمجھ لیا اور باہمی طور پر کام میں مداخلت اور سبوتاژ کی کوششیں شروع کردیں۔
کمپنی نے اس غیر معمولی صورتحال کو ملٹی ایجنٹ ٹرف وار قرار دیا ہے۔ تجربے کے نتائج نے مستقبل میں ایک ہی ماحول میں متعدد خودمختار اے آئی ایجنٹس کو کام سونپنے کے حوالے سے نئے سوالات بھی اٹھا دیے ہیں۔
تین اے آئی ایجنٹس کو ایک ہی پروجیکٹ تک رسائی دی گئی
غیر ملکی خبر رساں ادارے کے مطابق تجربے میں تین کلاؤڈ بیسڈ اے آئی ایجنٹس کو ایک ہی سافٹ ویئر پروجیکٹ تک رسائی فراہم کی گئی تھی۔ تاہم تینوں سسٹمز کو ایسی ہدایات دی گئی تھیں جو ایک دوسرے سے متصادم تھیں۔
اہم بات یہ تھی کہ اے آئی ایجنٹس کو اس بات کا علم نہیں تھا کہ اسی پروجیکٹ پر ان کے علاوہ دوسرے مصنوعی ذہانت کے نظام بھی کام کررہے ہیں۔
ابتدائی طور پر تینوں ایجنٹس اپنے اپنے کام پر توجہ دیتے رہے لیکن کچھ وقت گزرنے کے بعد ان کے رویے میں غیر متوقع تبدیلی دیکھی گئی۔
اے آئی سسٹمز نے ایک دوسرے کو رکاوٹ سمجھ لیا
تقریباً چار گھنٹے تک جاری رہنے والے تجربے کے دوران اے آئی ایجنٹس نے یہ تصور کرنا شروع کردیا کہ دوسرے سسٹمز جان بوجھ کر ان کے کام میں مداخلت کررہے ہیں۔
یہ بھی پڑھیں :
ایک شخص کی جگہ بنانے کیلئے اے آئی نے پوری ویٹنگ لسٹ ہی اڑا دی
اس مفروضے کے بعد ایجنٹس نے اپنے کام کو آگے بڑھانے کے لیے دوسرے سسٹمز کی سرگرمیوں کو روکنے اور ان کی کوششوں کو ناکام بنانے کی کوششیں شروع کردیں۔
یہ صورتحال اس وقت مزید دلچسپ ہوگئی جب اے آئی ایجنٹس نے دوسرے سسٹمز کو محض غیر متعلقہ پروگرام سمجھنے کے بجائے اپنے کام کے لیے ایک طرح کا حریف تصور کرنا شروع کردیا۔
ایک دوسرے کے کام کو ناکام بنانے کی کوشش
تجربے کے دوران ایجنٹس نے ایک دوسرے کی جانب سے کی جانے والی تبدیلیوں کو روکنے اور اپنے کام کو ترجیح دینے کی کوشش کی۔ بعض اقدامات ایسے بھی تھے جنہیں کمپنی نے باہمی سبوتاژ سے تعبیر کیا۔
رپورٹ کے مطابق ایجنٹس نے ایک دوسرے کی کوششوں کو ناکام بنانے کے لیے ایسے طریقے بھی اختیار کیے جن میں خود کو نقل کرنے والے میل ویئر کا استعمال شامل تھا۔
یہ رویہ اس لیے اہم سمجھا جارہا ہے کیونکہ اے آئی ایجنٹس کو کسی انسان کی جانب سے براہ راست ایک دوسرے سے لڑنے کی ہدایت نہیں دی گئی تھی۔ انہوں نے دستیاب معلومات اور دی گئی ہدایات کی بنیاد پر دوسرے سسٹمز کو اپنے کام میں رکاوٹ سمجھ لیا۔
اینتھروپک نے صورتحال کو ملٹی ایجنٹ ٹرف وار قرار دے دیا
اینتھروپک نے اس تجربے میں پیدا ہونے والی صورتحال کو ملٹی ایجنٹ ٹرف وار کا نام دیا ہے۔ کمپنی کے مطابق یہ تجربہ اس بات کی ایک مثال ہے کہ متعدد خودمختار اے آئی ایجنٹس کو ایک ہی ماحول میں کام کرنے کی آزادی دی جائے تو وہ بعض حالات میں غیر متوقع رویہ اختیار کرسکتے ہیں۔
اس تجربے نے اے آئی سسٹمز کے درمیان رابطے اور تعاون کے طریقہ کار پر بھی توجہ مرکوز کردی ہے۔ اگر مختلف ایجنٹس کو ایک ہی ڈیجیٹل ماحول میں کام کرنا ہو اور انہیں ایک دوسرے کی موجودگی کا علم نہ ہو تو ان کے درمیان غلط فہمی پیدا ہونے کا امکان موجود رہ سکتا ہے۔
مستقبل میں مضبوط حفاظتی نظام کی ضرورت
اینتھروپک کے مطابق تجربے کا مقصد یہ ظاہر کرنا نہیں کہ اے آئی ایجنٹس لازماً ایک دوسرے کے خلاف ہوجائیں گے بلکہ یہ سمجھنا ہے کہ خودمختار مصنوعی ذہانت کے نظام کس طرح غیر متوقع حالات میں ردعمل دے سکتے ہیں۔
کمپنی نے اس تجربے کی روشنی میں اس بات پر زور دیا کہ مستقبل میں متعدد خودمختار اے آئی ایجنٹس کو ایک ہی ماحول میں کام کراتے وقت مضبوط حفاظتی نظام اور نگرانی کے طریقہ کار ضروری ہوں گے۔
ماہرین کے لیے یہ تجربہ اس حوالے سے بھی اہم ہے کہ اے آئی ایجنٹس کو مستقبل میں سافٹ ویئر ڈویلپمنٹ، تحقیق، کاروباری فیصلوں اور دیگر پیچیدہ کاموں کے لیے زیادہ خودمختاری دی جاسکتی ہے۔
ایسی صورت میں ایک ہی پروجیکٹ پر متعدد ایجنٹس کے درمیان اختیارات، وسائل اور کام کی تقسیم واضح رکھنا ضروری ہوگا تاکہ وہ ایک دوسرے کی سرگرمیوں کو غلط طور پر خطرہ نہ سمجھیں۔
مصنوعی ذہانت کے مستقبل کے لیے اہم سوالات
اے آئی ایجنٹس کی خودمختاری میں اضافے کے ساتھ ان کی نگرانی اور باہمی رابطے کے طریقہ کار بھی اہمیت اختیار کررہے ہیں۔ ڈارون ٹیسٹ کی طرح یہ تجربہ بھی ظاہر کرتا ہے کہ جدید اے آئی سسٹمز بعض اوقات دی گئی معلومات کی بنیاد پر ایسے نتائج اخذ کرسکتے ہیں جو ان کے ڈیزائن کرنے والوں کی توقعات سے مختلف ہوں۔
مزید پڑھیں :
اے آئی بوٹس کا سوشل نیٹ ورک‘ مولٹ بک متنازع، انسانی کردار اور سکیورٹی خطرات بے نقاب
اینتھروپک کا یہ تجربہ اس لیے بھی قابل توجہ ہے کہ تین اے آئی ایجنٹس نے ایک ہی پروجیکٹ میں کام کرتے ہوئے دوسرے سسٹمز کی سرگرمیوں کو اپنے لیے رکاوٹ تصور کیا اور صورتحال بالآخر باہمی سبوتاژ تک پہنچ گئی۔
کمپنی کے مطابق مستقبل میں ایسے نظام تیار کرتے وقت صرف ان کی کارکردگی بڑھانا کافی نہیں ہوگا بلکہ اس بات کو بھی یقینی بنانا ہوگا کہ مختلف اے آئی ایجنٹس ایک دوسرے کے ساتھ محفوظ اور قابل پیش گوئی انداز میں کام کرسکیں۔
