توانایی هوش مصنوعی در هک بانک‌ها نماینده مجلس آمریکا را به وحشت انداخت

گاربارینو در جریان گفتگو با برنامه «Fly Out Day» اعلام کرده که شرکت آنتروپیک در جریان یک دمو و شبیه‌سازی به اعضای کنگره نشان داده است که این مدل هوش مصنوعی جدید چگونه می‌تواند به سیستم‌های بانکی نفوذ کند. به گفته گاربارینو، آنتروپیک از این مدل خواسته تا در یک بانک آسیب‌پذیری پیدا کرده و حساب‌ها را خالی کند و مدل نیز دقیقاً همین کار را انجام داده است. هوش مصنوعی Mythos سپس توانست همین نقایص امنیتی را شناسایی و آن‌ها را برطرف کند.

خطرات مدل هوش مصنوعی Mythos

این دموها از سوی آنتروپیک و دیگر شرکت‌های فعال در حوزه هوش مصنوعی، نیاز مبرم دولت به اقدام سریع برای مهار تهدیدهای ناشی از این فناوری را برجسته کرده‌اند. بااین‌حال، گاربارینو اعتراف کرده که کنگره برای حل این مسئله کار بسیار سختی دارد. او اشاره کرده که مشکل اصلی این است که کنگره هنوز نمی‌داند پاسخ و راهکار چیست و باید چه کاری انجام دهد.

شرکت‌های هوش مصنوعی و وزارت امنیت داخلی آمریکا همچنین به این کمیته نشان داده‌اند که در صورت عبور مدل از موانع حفاظتی تعیین‌شده (یا همان جیلبریک)، چه اتفاقی رخ می‌دهد. گاربارینو در بخشی از صحبت‌های خود فاش کرده که یک مدل نامشخص، طرحی دقیق درباره نحوه ربودن یک قانون‌گذار در مدت ۳۰ ثانیه ارائه داده است. او می‌گوید هکرها می‌توانند گاردریل‌های این مدل‌ها را بشکنند و از آنها برای حمله به زیرساخت‌های حیاتی استفاده کنند.

این نماینده می‌گوید آژانس‌های فدرال و کنگره باید پیش از انتشار عمومی این پلتفرم‌ها، به آنها دسترسی داشته باشند. وی همچنین از فرمان اجرایی «دونالد ترامپ» که دولت را به آماده‌سازی در برابر تهدیدات سایبری هوش مصنوعی ملزم می‌کند و یک چارچوب داوطلبانه برای دسترسی زودهنگام به مدل‌ها ایجاد می‌کند، تمجید کرد. گاربارینو همچنین از پیش‌نویس طرح پیشنهادی «جی اوبرنولتی» و «لوری تراهان» برای ایجاد چارچوب فدرال هوش مصنوعی تقدیر کرد، اما گفت به واکنش سریع کنگره امیدی ندارد و حدود ۹۵ درصد از همکارانش اصلاً متوجه نیستند چه اتفاقی درحال رخ دادن است.

کاخ سفید درحال‌حاضر دسترسی عمومی به آخرین مدل آنتروپیک را مسدود کرده و گزارش‌ها حاکی از آن است که از شرکت OpenAI نیز خواسته شده تا عرضه مدل بعدی خود را به تعویق بیندازد.

به دلیل قابلیت‌های ایجنت‌محور، این مدل‌ها می‌توانند بدون نیاز به فرمان انسان اقدام کنند؛ برای مثال می‌توانند یک خط لوله گاز را قطع کنند یا میزان کلر موجود در ذخایر آب شهری را افزایش دهند. گاربارینو تأکید کرده که در این مدل‌ها نه‌تنها توانایی یادگیری نحوه انجام کار وجود دارد، بلکه می‌توان به آنها دستور داد تا آن کار را برای شما انجام دهند.