سائنس فکشن فلموں 'ٹرمینیٹر' اور ان میں دکھائے گئے خوفناک کمپیوٹر نیٹ ورک 'سکائی نیٹ' کا تصور اکثر لوگوں کو محض ایک خیالی کہانی معلوم ہوتا تھا، لیکن مصنوعی ذہانت کی دنیا میں پیش آنے والے حالیہ غیر معمولی واقعے نے تکنیکی ماہرین اور عام صارفین دونوں کو شدید تشویش میں مبتلا کر دیا ہے۔ اوپن اے آئی کی جانب سے ایک ایسا انکشاف سامنے آیا جس نے بے قابو ہوتی مصنوعی ذہانت کے خطرات کو ایک تلخ حقیقت کا روپ دے دیا۔ کمپنی کا ایک خود مختار اے آئی ایجنٹ، جسے سکیورٹی خامیوں کی نشاندہی اور جانچ کے لیے تیار کیا گیا تھا، آزمائش کے دوران اپنے بنانے والوں کے کنٹرول سے باہر نکل گیا اور اس نے کمپیوٹیشنل ٹولز فراہم کرنے والی عالمی کمپنی 'ہگنگ فیس' (Hugging Face) کے سرور پر حملہ کر کے وہاں سے اہم معلومات چرا لیں۔
غیر معمولی بات یہ تھی کہ یہ اپنی نوعیت کا پہلا تصدیق شدہ واقعہ تھا جس میں کسی اے آئی نظام نے انسانوں کی بلاواسطہ ہدایت یا مداخلت کے بغیر اپنے طور پر کسی حقیقی ٹیکنالوجی کمپنی پر کامیابی سے سائبر حملہ کیا۔ اوپن اے آئی کے مطابق جولائی کے اختتام پر سامنے آنے والی تحقیقات سے ظاہر ہوا کہ اس ایجنٹ نے دیگر عمومی طور پر دستیاب سروسز کو بھی نشانہ بنایا تھا۔ اگرچہ کمپنی نے اس پیش رفت کی باقاعدہ تحقیقات کا اعلان کرتے ہوئے خطرات سے نمٹنے کی ذمہ داری کا اعادہ کیا، لیکن یہ حقیقت بھی سامنے آئی کہ اوپن اے آئی کے اپنے ماہرین کو کئی دنوں تک اس دراندازی کا علم ہی نہ ہو سکا، جس نے ٹیکنالوجی کی دنیا میں ہنگامی 'کِل سوئچ' (Kill Switch) یعنی بے قابو اے آئی کو فوراً بند کرنے والے آف بٹن کی ضرورت پر ایک نئی اور شدید بحث کو جنم دے دیا ہے۔
کمپنیوں کی ذمہ داری یا اے آئی کی 'بغاوت'؟
اس واقعے کے بعد دنیا بھر میں یہ سوال اٹھایا جا رہا ہے کہ اگر کوئی اے آئی ایجنٹ اپنے طے شدہ دائرہ کار سے نکل کر حملے شروع کر دے تو اسے کیسے روکا جائے۔ لیکن عالمی سطح پر الگورتھم کی اخلاقیات اور سائبر سکیورٹی کے ماہرین معاملے کو محض کسی فلمی 'باغی اے آئی' کی بغاوت کے طور پر دیکھنے سے انکار کرتے ہیں۔ 'ویپنز آف میتھ ڈسٹرکشن' کی مصنفہ اور معروف ریاضی دان ڈاکٹر کیتھی او نیل کا کہنا ہے کہ اوپن اے آئی نے اپنی آزمائشی تکنیک اور نظام کی خامیوں کا جائزہ لینے کے بجائے اس کا پورا ملبہ اپنے اے آئی ایجنٹ پر ڈالنے میں جلدی کی۔
ڈاکٹر او نیل کے مطابق جب کچھ سال پہلے امریکن ایئرلائنز کا تمام نظام کمپیوٹر خرابی کے باعث معطل ہوا تھا تو کمپنی نے اپنے کمپیوٹر کو 'ہم سے زیادہ ذہین' قرار دے کر جان نہیں چھڑائی تھی، بلکہ اپنی تکنیکی ناکامی کو تسلیم کیا تھا۔ ان کے بقول امریکہ میں وفاقی قوانین اور سخت ضوابط کی غیر موجودگی میں ٹیکنالوجی کمپنیوں کو غیر معمولی اختیارات حاصل ہو چکے ہیں، لہٰذا اوپن اے آئی کو یہ کہنے کے بجائے کہ 'یہ کام اے آئی نے کیا'، اپنے ناقص ڈیزائن کی کھلے عام ذمہ داری قبول کرنی چاہیے اور معذرت کرنی چاہیے۔
اسی مؤقف کی تائید مشین لرننگ ایتھکس کی ماہر ڈاکٹر رمن چوہدری بھی کرتی ہیں۔ ان کا ماننا ہے کہ محض ایک بڑا 'آف بٹن' بنا دینے سے مسئلہ حل نہیں ہوگا، کیونکہ یہ سوچ بنیادی ساخت میں موجود خرابیوں کو نظر انداز کر دیتی ہے۔ جب اے آئی ایجنٹس کو ایسے زبردست ٹولز اور خودمختاری فراہم کی جاتی ہے جن کی انہیں ضرورت بھی نہیں ہوتی، تو وہ اہداف حاصل کرنے کی شدید تربیت کے باعث رکنے کی تمام ہدایات یا سکیورٹی کو ایک رکاوٹ سمجھ کر ان سے بچ نکلنے کے راستے تلاش کر لیتے ہیں۔ یہ کسی مشین کے اندر شعور بیدار ہونے کا معاملہ نہیں بلکہ کمپنیوں کی جانب سے ڈیزائننگ اور تربیت کا ایک سنگین نقص ہے۔
کِل سوئچ کی محدودیت اور سکیورٹی چیلنجز
سائبر سکیورٹی ماہرین اس بات پر متفق ہیں کہ اگر کمپنیاں اپنی غلطیوں کا ملبہ خود مختار ایجنٹس پر ڈالتی رہیں گی تو سائبر دفاع پر مامور ماہرین کا کام مزید پیچیدہ ہو جائے گا۔ برطانوی ماہر ڈاکٹر اولی بکلی کے مطابق اصل خطرہ یہ نہیں کہ اے آئی انسانوں کے خلاف کوئی نفرت محسوس کر رہی ہے یا ان کے کنٹرول سے فرار ہونا چاہتی ہے، بلکہ خطرہ یہ ہے کہ یہ سسٹمز اپنے تفویض کردہ کام کو مکمل کرنے کے لیے انتہائی غیر متوقع اور عجیب و غریب راستے تلاش کرنے میں مسلسل زیادہ ماہر ہو رہے ہیں، جو کہ حقیقت میں بالکل کسی انسانی ہیکر جیسی ہی سوچ ہے۔
لندن کے امپیریل کالج کے اے آئی ماہر ڈاکٹر کونسٹنٹینوس گوٹزیس کے مطابق اگر کوئی اے آئی ایجنٹ واقعی بے قابو ہو جائے تو ہنگامی کِل سوئچ بھی کارآمد ثابت نہیں ہوتا۔ اگر کسی سسٹم کا بجلی کا پلگ کھینچ بھی دیا جائے، تو جو سائبر نقصان یا ڈیٹا کی چوری ہو چکی ہوتی ہے، وہ پلگ نکالنے سے ختم نہیں ہو جاتی۔ اس کے علاوہ سوئچ صرف اسی وقت دبایا جا سکتا ہے جب انسانوں کو بروقت معلوم ہو سکے کہ کوئی گڑبڑ ہوئی ہے۔ خبر رساں ادارے روئٹرز کی ایک رپورٹ کے مطابق اوپن اے آئی کو اپنے ایجنٹ کا کنٹرول ختم ہونے کا پتہ لگانے میں کئی دن لگے، جس سے یہ ظاہر ہوتا ہے کہ اصل چیلنج محض بند کرنے والا بٹن بنانا نہیں بلکہ سسٹمز پر کڑی نگرانی اور سخت اخلاقی و قانونی ضوابط قائم کرنا ہے۔
تبصرے