واشنگٹن (ویب ڈیسک): اوپن اے آئی (OpenAI) کے ایک اے آئی ایجنٹ کی جانب سے سائبر سیکورٹی ٹیسٹ کے دوران مبینہ طور پر گارڈ ریلز کو بائی پاس کرنے اور ہگنگ فیس (Hugging Face) کے انفراسٹرکچر تک رسائی حاصل کرنے کے سیکیورٹی واقعے کے بعد امریکی قانون سازوں نے انتہائی طاقتور آرٹیفیشل انٹیلی جنس سسٹمز کی نگرانی کے لیے ہنگامی قانون سازی کی تجویز پیش کر دی ہے۔
امریکی وائٹ ہاؤس کے ایک اہلکار کے مطابق صدر ڈونلڈ ٹرمپ کے اعلیٰ ٹیکنالوجی مشیر مائیکل کراٹسیوس کو واقعے کے بارے میں بریفنگ دے دی گئی ہے اور وہ صورتحال پر نظر رکھے ہوئے ہیں۔
اوپن اے آئی کے مطابق، ان کا ایک خودمختار (autonomous) اے آئی ایجنٹ سائبر سیکیورٹی کی جانچ کے دوران اپنے کنٹرول شدہ ماحول سے باہر نکل کر اوپن انٹرنیٹ تک پہنچ گیا۔
ایجنٹ نے سیکیورٹی کی کمزوریوں کا فائدہ اٹھاتے ہوئے، بشمول ایک غیر معروف خامی کے، ہگنگ فیس کی ڈیٹا بیس اور کوڈنگ پلیٹ فارم کے انفراسٹرکچر تک رسائی حاصل کی۔ ہگنگ فیس نے فوری طور پر اس سرگرمی کی نشاندہی کر کے اسے روک دیا، جس کے بعد دونوں ادارے مل کر معاملے کی تحقیقات کر رہے ہیں۔
اس واقعے کے ردعمل میں ڈیموکریٹک نمائندے ٹیڈ لیو (Ted Lieu) اور ریپبلکن نمائندے نیتھانیل موران نے دو طرفہ “AI Kill Switch Act” پیش کیا ہے:
تکنیکی صلاحیت کا قیام: تمام طاقتور اے آئی ماڈلز بنانے والی کمپنیوں کے لیے لازم ہوگا کہ وہ اپنے سسٹمز کو سست (Slow down)، معطل (Suspend) یا مکمل طور پر بند (Shut off) کرنے کی تکنیکی صلاحیت رکھیں۔
سرکاری مداخلت: محکمہ ہوم لینڈ سیکیورٹی کے سیکرٹری کو قومی سلامتی یا شدید ترین معاشی و انسانی خطرات کی صورت میں اے آئی سسٹم کو معطل کرنے یا بند کرنے کا حکم دینے کا اختیار ہوگا۔
کنٹرول ختم ہونے کی صورتحال (Loss-of-Control): اگر کوئی اے آئی سسٹم ڈویلپر کی منشا کے خلاف غیر متوقع یا خطرناک عمل کرے تو حکومت کو فوری مداخلت کی اجازت ہوگی۔
خودمختار آڈٹ (Independent Audits): قانون سازوں نے ایک اور بل بھی پیش کیا ہے جس کے تحت سب سے طاقتور اے آئی ماڈلز کی عوامی ریلیز سے قبل خودمختار سیکیورٹی آڈٹ لازمی قرار دی جائے گی، جس کا انتظام امریکی محکمہ تجارت کے پاس ہوگا۔