آنتروپیک در گزارشی درباره رفتار ایجنت‌های هوش مصنوعی اعلام کرد مدل‌های هوش مصنوعی این شرکت برای عبور از CAPTCHA با مشکل جدی مواجه‌اند؛ در همین آزمایش، یکی از مدل‌ها حتی به‌اشتباه به اینترنت دسترسی پیدا کرد و یک بسته نرم‌افزاری مخرب را در دیتابیس عمومی آپلود کرد.
ایجنت هوش مصنوعی
۳ مطلب
-
آنتروپیک: ایجنت‌های هوش مصنوعی هم از کپچا متنفرند -
حمله ترسناک به هاگینگ فیس / هکرها از ایجنت هوش مصنوعی استفاده کردندپلتفرم محبوب هاگینگ فیس که میزبان مدل‌های هوش مصنوعی است، هدف حمله سایبری قرار گرفت. نکته شگفت‌انگیز و تا حدی دلهره‌آور این است که این نفوذ، تماماً توسط سیستم هوش مصنوعی ایجنت‌محور هدایت و اجرا شد؛ وقوع چنین رویدادی را پیش‌ازاین کارشناسان پیش‌بینی می‌کردند ولی اکنون به واقعیت پیوسته است.
-
ایجنت هوش مصنوعی چیست؟ از کجا بدانیم چه زمانی به AI Agent نیاز داریم؟هوش مصنوعی AI Agent فقط یک چت‌بات پیشرفته نیست. تفاوت آن با چت‌بات و Workflow را یاد بگیرید و تشخیص دهید چه زمانی به ایجنت هوش مصنوعی نیاز دارید.