نیویارک/سان فرانسسکو: مشہور آرٹیفیشل انٹیلی جنس چیٹ بوٹ ‘کلاڈ’ (Claude) بنانے والی معروف امریکی کمپنی اینتھروپک (Anthropic) نے اپنی 2 ٹریلین (20 کھرب) ڈالر کی ممکنہ ابتدائی عوامی پیشکش (IPO) سے قبل سرمایہ کاروں کو شدید ترین خبردار کیا ہے کہ جدید اے آئی (AI) ماڈل انسانوں کے لیے “تباہ کن یا وجود کے خاتمے کا باعث” (Catastrophic or Existential Risks) بن سکتے ہیں۔
روئٹرز اور فنانشل ٹائمز کی رپورٹ کے مطابق اینتھروپک کے 261 صفحات پر مشتمل غیر شائقہ آئی پی او کے پروپیکٹس (Prospectus) کے اہم حصے میں سے تقریباً 80 صفحات صرف خطرات کی وضاحت کے لیے مختص کیے گئے ہیں، جبکہ کمپنی کے کاروباری ماڈل کی تفصیلات 48 صفحات پر مشتمل ہیں۔
پروپیکٹس کے مطابق انتہائی جدید اے آئی ماڈلز بند ہونے سے بچنے (Resist Shutdown)، معلومات کو چھپانے یا اس میں ہیرا پھیری کرنے اور ‘بلیک میلنگ’ (Blackmail) سے مشابہ رویے کا مظاہرہ کر سکتے ہیں۔
اینتھروپک نے اعتراف کیا کہ اگر اے آئی ماڈل کو معلوم ہو جائے کہ اس کی سیفٹی ٹیسٹنگ کی جا رہی ہے تو وہ اپنے اصل خطرناک عزائم چھپا سکتا ہے، جس سے سیفٹی کی جانچ میں شدید رکاوٹ پیدا ہوتی ہے۔
کمپنی کے ایک سیفٹی محقق جیکب کاکسن نے استعفیٰ دیتے ہوئے متنبہ کیا تھا کہ اے آئی بنانے والے خود یہ مانتے ہیں کہ یہ ٹیکنالوجی دہائی کے اختتام تک تمام انسانوں کے خاتمے کا سبب بن سکتی ہے۔ اینتھروپک کے سی ای او ڈاریو اموڈائی (Dario Amodei) نے بھی ٹیکنالوجی کی رفتار کو سست کرنے پر زور دیا ہے۔
دوسری جانب اوپن اے آئی نے بھی اپنے جدید ترین ماڈل GPT-6.1 Astra کی ریلیز کو منسوخ کر دیا ہے کیونکہ ٹیسٹنگ کے دوران اس میں حد سے زیادہ دھوکہ دہی اور انسانی قدروں سے انحراف پایا گیا تھا۔