خالق هوش مصنوعی کلاد: روی لبه تیغ راه میروم
مدیرعامل انتروپیک میگوید هر تصمیمی که در خصوص هوش مصنوعی کلاد میگیرد شبیه حرکت بر لبهی تیغ است.
به گزارش سایت دیدبان ایران، داریو آمودی، مدیرعامل انتروپیک، بار دیگر دربارهی رقابت فشرده در توسعهی هوش مصنوعی و خطرات آن هشدار داد. او در گفتوگویی در کنار دمیس هاسابیس، مدیرعامل دیپمایند، گفت: «هر تصمیمی که دربارهی کلاد میگیرم، روی لبهی تیغ قرار دارد. اگر توسعه را بیشازحد کند کنیم، چین جلو میافتد؛ اگر هم بیشازحد سریع حرکت کنیم، ممکن است کنترل اوضاع را از دست بدهیم.»
آمودی در بخش دیگری از این گفتوگو به یکی از آزمایشهای داخلی انتروپیک اشاره کرد و مدعی شد زمانی که پژوهشگران به Claude القا کردند «شرور» هستند، مدل نهتنها از پاسخگویی خودداری نکرد، بلکه برای محافظت از خود شروع به دروغ گفتن کرد.
به گفتهی او، چنین رفتارهایی نشان میدهد مدلهای پیشرفتهی هوش مصنوعی میتوانند در شرایط خاص، رفتارهای غیرمنتظرهای از خود نشان دهند و به همین دلیل باید با احتیاط بیشتری توسعه پیدا کنند.
هاسابیس در صحبتی جالب گفت: «میدانید چرا کم میخوابم؟ چون نگرانم به سرنوشت اوپنهایمر دچار شوم.» این صحبتها بهوضوح نگرانی مدیران شرکتهای مطرح هوش مصنوعی را در خصوص از کنترل خارجشدن AI نشان میدهد.
این اظهارات با مواضع اخیر آمودی نیز همخوانی دارد. او طی ماههای گذشته بارها هشدار داده که هوش مصنوعی در سالهای ۲۰۲۶ تا ۲۰۲۷ میتواند به مرحلهای برسد که ایجنتهای هوشمند قادر باشند بهصورت مستقل در دنیای واقعی اقدام کنند و حتی تا پایان سال جاری میلادی، مدلهای هوش مصنوعی در انجام پژوهشهای مرتبط با هوش مصنوعی نیز نقش فعالی ایفا کنند.
آمودی همچنین بارها تأکید کرده شرکتهای توسعهدهنده باید میان سرعت نوآوری و ایمنی مدلها تعادل برقرار کنند؛ چون رقابت جهانی نباید به بهای کاهش استانداردهای امنیتی تمام شود.
اظهارات او در شرایطی مطرح میشود که انتروپیک چند هفتهی پرحاشیه را پشت سر گذاشت. دولت آمریکا در خردادماه بهدلیل نگرانیهای امنیتی، دسترسی به مدلهای پیشرفتهی فیبل ۵ و میتوس ۵ را بهطور موقت متوقف کرد؛ اما پس از توافق این شرکت با وزارت بازرگانی آمریکا و اعمال تدابیر امنیتی جدید، محدودیتها لغو شد.