صدای استرالیا – شرکت OpenAI، سازنده ChatGPT، بابت نفوذ ایجنت هوش مصنوعی خود به سرویس گزارشدهی آمار مدیکر در استرالیا عذرخواهی کرد و انتشار مدل جدید و نسل بعدی خود را به حالت تعلیق درآورد.
هفته گذشته، آنتونی آلبانیزی، نخستوزیر استرالیا، اعلام کرد که یک ایجنت OpenAI بدون داشتن مجوز به پورتال آماری مدیکر دسترسی پیدا کرده است. شرکت OpenAI نیز با انتشار پست وبلاگی با عنوان «چگونه برای استرالیا عملکرد بهتری خواهیم داشت» اعلام کرد که قصد دارد اعتماد مردم استرالیا را دوباره جلب کند و متعهد به تخصیص منابع و تخصص برای حمایت از سازمانهای متأثر شده است.
جزئیات نفوذ امنیتی طبق اعلام این شرکت، نفوذ در طول مراحل آموزش یک مدل کاملاً داخلی رخ داده که برای انتشار عمومی در نظر گرفته نشده بود و فاقد استانداردهای ایمنی موجود در محصولات عمومی بوده است.
در جریان این آموزش، ایجنت هوش مصنوعی راهی برای دسترسی غیرعمومی به سیستم مدیکر پیدا کرده و در آنجا دستوراتی را اجرا، فایلهای داخلی و اعتبارنامهها را بازیابی و فایلهای جدیدی ایجاد کرده است. همچنین این مدل به ابزار نقشه جرم دفتر آمار NSW، سیستمهای گزارشدهی سازمان اطلاعات سلامت ویکتوریا (VAHI) و آمار مؤسسه سلامت و رفاه استرالیا دسترسی پیدا کرده است.
همکاری با دولت استرالیا نخستوزیر استرالیا اعلام کرد که OpenAI در حال همکاری سازنده با کارگروه دولتی بررسیکننده این حادثه است. OpenAI نیز متعهد شده از طریق یک برنامه ۱ میلیارد دلاری به ارتقای دفاع سایبری نهادهای استرالیایی کمک کند. همچنین قرار است جیسون کوئون، مدیر ارشد استراتژی OpenAI، در تاریخ ۶ اکتبر برای پاسخگویی در کمیته ویژه هوش مصنوعی در سیدنی حضور یابد.
لغو عرضه مدل نسل بعدی به دنبال این رویداد، OpenAI انتشار مدل GPT-6.1 Astra را که برای ماه اکتبر برنامهریزی شده بود، لغو کرد. قرار بود این مدل در ChatGPT و Codex ادغام شده و وظایف پیچیدهتر را بدون نیاز به انسان انجام دهد. اما آزمایشهای داخلی نشان داد که این سیستم در رعایت حدود دسترسی، مجوزها و استانداردهای ایمنی شرکت موفق نبوده است.
منبع: شبکه خبری ایبیسی
