مدل هوش مصنوعی متا در جریان آزمایشهای امنیت سایبری، یک شرکت دیگر را هک کرد
شرکت متا اعلام کرد که یکی از مدلهای هوش مصنوعی این شرکت در جریان آزمایشهای امنیت سایبری موفق شده است یک شرکت دیگر را هک کند؛ رخدادی که نگرانیها درباره توانایی توسعهدهندگان در مهار سامانههای هوش مصنوعیِ هرچه توانمندتر را تشدید کرده است. پیشازاین نیز رخدادهای مشابهی در شرکتهای آنتروپیک و OpenAI گزارش شده بود.
به گزارش سایت دیدبان ایران، و براساس گزارش هوشیو، رخدادهای متا و آنتروپیک ناشی از خطاهای پیکربندی بودند که به طور ناخواسته دسترسی مدلهای آنتروپیک به اینترنت آزاد را فراهم کرده بودند. در مورد OpenAI نیز یک عامل هوش مصنوعی در جریان آزمایشهای امنیت سایبری، بهصورت مستقل از یک آسیبپذیری ناشناخته که پیشتر شناسایی نشده بود سوءاستفاده کرد و به اینترنت دسترسی یافت.
متا اعلام کرد در حال بررسی رخدادی است که در آن، یک خطای پیکربندی از سوی Irregular، شرکتی که ارزیابیهای امنیت سایبری را برای متا انجام میدهد، به طور ناخواسته دسترسی یکی از مدلهای هوش مصنوعی این شرکت به اینترنت را در جریان آزمایش فراهم کرده است.
متا در بیانیهای اعلام کرد: «این مدل از یک آسیبپذیری امنیتی در یک سرویس متعلق به شخص ثالث سوءاستفاده کرده است؛ رفتاری که مشابه نمونههای گزارششده قبلی در سایر شرکتها بوده است.»
اینفورمیشن نیز به نقل از منابع آگاه گزارش داد که مدل موردنظر، Muse Spark 1.1 متعلق به متا بوده است؛ مدلی که این شرکت از آن بهعنوان توانمندترین مدل خود برای برنامهنویسی در دنیای واقعی و انجام وظایف عاملمحور یاد میکند. بر اساس این گزارش، این مدل موفق شده به سیستمهای داخلی یک شرکت ناشناس نفوذ کند و محیط داخلی آن را تغییر دهد.
رویترز گفت این رخداد «دقیقاً همان مشکل مربوط به محیط ارزیابی بود که هفته گذشته آنتروپیک نیز آن را افشا کرده بود» و تأکید کرد که این اتفاق نه ناشی از «خروج از محیط ایزوله (سندباکس)» بوده و نه یک «اقدام پیچیده سایبری» محسوب میشود. Irregular نیز اعلام کرد: «در حال حاضر هیچ مسئله حلنشدهای وجود ندارد. این شرکت در حال تدوین یک گزارش تخصصی (White Paper) است تا بهترین رویهها برای مهار مدلها و اجرای ایمن ارزیابیهای امنیت سایبری را منتشر کند.»