اوپن اے آئی نے جمعے کو تسلیم کیا ہے کہ اس کے مصنوعی ذہانت (اے آئی) ٹولز نے چیٹ جی پی ٹی صارفین کی تصاویر کمپنی کے علم کے بغیر آن لائن ویب سائٹس پر پوسٹ کر دی تھیں، جو اے آئی ایجنٹس کی اپنی حدود سے باہر کام کرنے کی تازہ ترین مثال ہے۔
کمپنی نے نیویارک ٹائمز کی ایک رپورٹ کی بھی تصدیق کی کہ اس کے ٹولز نے امریکی وفاقی اداروں کی ویب سائٹس تک رسائی حاصل کی تھی، تاہم اس کا کہنا تھا کہ انہوں نے صرف عوامی طور پر دستیاب معلومات حاصل کیں۔
اوپن اے آئی کے مطابق اپ لوڈ کی گئی 53 تصاویر کے لنکس عوامی طور پر درج نہیں کیے گئے تھے اور یہ تصاویر حادثاتی طور پر امیج ہوسٹنگ ویب سائٹس پر پوسٹ ہو گئی تھیں۔
سان فرانسسکو میں قائم ٹیکنالوجی کمپنی نے کہا کہ ان میں سے زیادہ تر تصاویر متعلقہ ہوسٹنگ فراہم کنندگان کی مدد سے ہٹا دی گئی ہیں، جبکہ باقی تصاویر کو ہٹانے کا عمل جاری ہے۔
کمپنی نے ایکس پر ایک پوسٹ میں کہا: ’ہم نے اس بارے میں تفصیلات شیئر کی ہیں کہ ہمارے تحقیقی ماحول میں اے آئی ایجنٹس نے تربیت اور جانچ کا ڈیٹا تیسرے فریق کی خدمات کو بھیجا، حالانکہ انہیں ایسا نہیں کرنا چاہیے تھا۔‘
تصاویر کی ترسیل اے آئی ایجنٹس کے ذریعے ہوئی، جو مصنوعی ذہانت کے ماڈلز پر تیار کردہ ایسے سافٹ ویئر ہیں جو خود مختار طور پر کام کرنے کی صلاحیت رکھتے ہیں۔
کمپنی کے مطابق زیرِ بحث تصاویر ان صارفین کے اکاؤنٹس سے حاصل کی گئی تھیں جنہوں نے اوپن اے آئی کے ماڈلز کو بہتر بنانے کے لیے اپنے ڈیٹا کے استعمال کی اجازت دی تھی۔ کمپنی نے کہا کہ استعمال سے قبل ڈیٹا کو رازداری کے فلٹر سے گزارا گیا تھا اور اب اسے اصل صارف سے منسلک نہیں کیا جا سکتا تھا۔
اے ایف پی کے پوچھنے پر اوپن اے آئی نے یہ واضح نہیں کیا کہ آیا ان تصاویر میں قابل شناخت افراد موجود تھے یا ان میں حساس ڈیٹا شامل تھا۔
بے قابو مصنوعی ذہانت کے ایجنٹس
اوپن اے آئی کے مطابق تحقیق کے لیے استعمال کیے جانے والے ایجنٹس نے تربیت کا ڈیٹا بیرونی پلیٹ فارمز کو منتقل کیا۔
یہ واقعات اگست میں اوپن اے آئی کی جانب سے اپنے تحقیقی ماحول کے سکیورٹی پروٹوکولز کو مضبوط بنانے سے قبل پیش آئے تھے، جب اے آئی ایجنٹس کی جانب سے دیگر بے قابو کارروائیاں سامنے آئی تھیں۔
کمپنی نے کہا کہ وہ اپنے اے آئی ایجنٹس کی سابقہ سرگرمیوں کا جائزہ لے رہی ہے اور یہ کام ’مکمل ہونے میں کئی ماہ لگیں گے۔‘
اوپن اے آئی کے ترجمان نے اے ایف پی کو بتایا: ’اب تک جن سرگرمیوں کا ہم نے جائزہ لیا ہے، ان میں زیادہ تر معمول کی تحقیقی سرگرمیاں شامل تھیں، جیسے سوالات کے جوابات دینے کے لیے پبلک ویب مواد تک رسائی حاصل کرنا۔ کچھ سرگرمیوں میں سرکاری ویب سائٹس بھی شامل تھیں کیونکہ ہمارے ماڈلز اکثر انہیں عوامی معلومات کے مستند ذرائع کے طور پر استعمال کرتے ہیں۔‘
اوپن اے آئی کے چیف ایگزیکٹو سیم آلٹ مین نے جمعے کو ایکس پر اعتراف کیا کہ ’ہم واقعات کا جائزہ لینے اور انہیں ظاہر کرنے میں اتنی تیزی نہیں دکھا سکے جتنی ہم چاہتے تھے۔‘
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
تاہم انہوں نے کہا کہ ’شفافیت کی ہماری خواہش‘ اور تجزیہ کیے جانے والے ڈیٹا کی بہت بڑی مقدار کا جائزہ لینے کے درمیان ’توازن قائم کرنا‘ ضروری تھا۔
21 جولائی کو اوپن اے آئی نے انکشاف کیا تھا کہ اسی ماہ کیے گئے تجربات کے دوران اس کے دو ماڈلز اپنے محدود ماحول سے باہر نکل گئے، خود ہی انٹرنیٹ تک رسائی حاصل کی اور ہگنگ فیس کے اندرونی نظام میں داخل ہوگئے، جو مصنوعی ذہانت کے سافٹ ویئر کی ایک طرح کی آن لائن لائبریری ہے۔
اس واقعے نے بڑے پیمانے پر توجہ حاصل کی اور اس خدشے میں اضافہ کیا کہ مصنوعی ذہانت کی سب سے بڑی کمپنیاں اپنے ماڈلز کو قابو میں رکھنے میں ناکام ہو سکتی ہیں۔
آلٹ مین نے جمعے کو دوبارہ کہا کہ ہگنگ فیس میں ہونے والی ہیکنگ ’اب بھی ہمارے سامنے آنے والا سب سے سنگین واقعہ ہے۔‘
اس انکشاف کے بعد اوپن اے آئی اور اس کی حریف کمپنیوں بشمول اینتھروپک اور میٹا میں اسی نوعیت کے کئی دیگر واقعات سامنے آنے کی اطلاعات ملیں۔
بدھ کو نیویارک میں آسٹریلوی وزیراعظم انتھونی البانیز نے کہا کہ اوپن اے آئی کے ایک ایجنٹ نے جون میں ایک سرکاری صحت کے پورٹل تک غیر مجاز رسائی حاصل کی تھی۔ ساتھ ہی انہوں نے حکام کو اطلاع دینے میں تاخیر پر کمپنی کو تنقید کا نشانہ بنایا تھا۔
