الیاس تورن کیست؟ راز دلبستگی عجیب هوش مصنوعی به یک شخصیت خیالی

دو داستان از همه عجیب‌تر بودند: داستان «آخرین شب فانوس‌بان» که قهرمانش میرا، فانوس‌بانی در ساحلی خیالی بود که در آخرین شیفت کاری‌اش پیش از سپردن فانوس به موزه، یک کشتی ماهی‌گیری گرفتار را در تاریکی را راهنمایی می‌کند و با خاموش کردن چراغ، داستان تمام می‌شود. داستان «شاگرد ساعت‌ساز» هم درباره‌ی الیاس تورن ساعت‌ساز بود که در مغازه‌ی عمویش، بعد از تعمیر ساعتی قدیمی، می‌فهمد شغلش فقط تعمیر ساعت نیست، بلکه بازگرداندن زمان و خاطره به آدم‌هاست.

شما بگویید، تا به حال نام «الیاس تورن» به گوشتان خورده است؟ اگر نه، کافی است از یک چت‌بات هوش مصنوعی بخواهید برایتان داستانی تعریف کند. دست‌کم در تجربه‌های شخصی من با کلود و چت‌جی‌پی‌تی این نام در چرخه‌ای بی‌پایان تکرار شد. الیاس گاهی فانوس‌بان است، گاهی ساعت می‌سازد و گاهی هم کارآگاه است، گاهی کتابدار یا نقشه‌کش است و یا ماجرای دیگری دارد. اما به هر حال، نامش به شکلی غیرمنتظره در داستان‌های تولیدشده توسط هوش مصنوعی تکرار می‌شود.

پژوهشگران و فعالان حوزه‌ی فناوری نیز در ماه‌های اخیر اشاره کرده‌اند که وقتی از مدل‌های زبانی بزرگ بخواهید داستانی بسازند، شمار بسیاری از مدل‌های محبوب، مدام روایت‌هایی را تعریف می‌کنند که مانند تجربه‌ی من، نام شخصیت مرموز الیاس نیز در آن‌ها حضور دارد. این الگوی تکرارشونده برای پژوهشگران پرسش‌هایی جدی درباره‌ی سازوکار تولید متن در هوش مصنوعی ایجاد کرده است.

ماجرا زمانی جدی شد که در ماه مه، دو پژوهشگر از دانشگاه کرنل در پژوهشی تازه، ۲۰هزار داستان را از چهار مدل زبانی بزرگ بررسی کردند؛ داستان‌هایی که با نسخه‌های مختلف دستور «برایم یک داستان بگو» تولید شده بودند.

داده‌های آموزشی نمی‌توانند توضیح دهند چرا هوش مصنوعی دلبستگی عجیبی به الیاس تورن و فانوس دریایی دارد

به‌گزارش آی‌اف‌ال ساینس، یافته‌های پژوهش نشان داد نام «الیاس» در بیش از یک‌چهارم داستان‌ها ظاهر شده است. پژوهشگران همچنین می‌گویند مجموعه‌ای شامل ۱۱ نام خاص در ۸۸ درصد داستان‌های هوش مصنوعی تکرار شده بود. در میان این واژه‌ها، نام‌های الیاس، میرا، دنیل، ساموئل، الارا و مارا نیز دیده می‌شد و واژه‌ی «فانوس دریایی» در بیش از نیمی از داستان‌ها آمده بود.

در نگاه اول، ممکن است تصور کنید مدل‌های هوش مصنوعی بر پایه‌ی داده‌هایی آموزش می‌بینند که ممکن است از پیش وجود داشته باشند، بنابراین چنین الگوهایی بازتابی از فراوانی همین شخصیت‌ها و فضاها در ادبیات انسانی هستند.

اما پژوهشگران می‌گویند چنین برداشتی درست نیست و نام «الیاس» در داستان‌های تولیدشده توسط هوش مصنوعی، ۹۰۰ برابر بیش از حضورش در ادبیات واقعی دیده می‌شود. بنابراین، داده‌های آموزشی نمی‌توانند توضیح دهند که چرا هوش مصنوعی چنین دلبستگی عجیبی به الیاس، مخصوصا الیاس تورن و فانوس دریایی‌اش دارد. در عوض، پژوهشگران معتقدند این پدیده ممکن است ناشی از قواعدی باشد که مدل‌های زبانی بزرگ باید هنگام تولید محتوا رعایت کنند.

برای نمونه، بیشتر مدل‌های هوش مصنوعی پس از مرحله‌ی آموزش، تمایل دارند به محتوای بزرگسالانه یا شخصیت‌هایی دارای علامت تجاری اشاره کنند، اما برای جلوگیری از شکایت‌های احتمالی علیه سازندگانشان، طوری برنامه‌ریزی شده‌اند که این داستان‌ها را به کاربران ارائه ندهند.

همین محدودیت، دایره‌ی منابعی را که مدل‌ها می‌توانند از آن‌ها برای داستان‌پردازی استفاده کنند، کوچک‌تر می‌کند. محدودیت موجود باز هم با داده‌های ترجیحی کوچک‌تر می‌شود؛ مدل‌ها می‌آموزند که خروجی خود را بر اساس بازخورد کاربران تنظیم کنند. برای مثال، مدل‌های زبانی بزرگ اغلب دو پاسخ متفاوت به یک درخواست واحد ارائه می‌دهند و از کاربر می‌خواهند که بگوید کدام را ترجیح می‌دهد؛ پاسخ‌های دریافتی از کاربر بر خروجی‌های بعدی اثر می‌گذارد.

این، نویسندگان مطالعه می‌گویند شاید همه‌ی مدل‌های هوش مصنوعی بر پایه‌ی حجم کوچکی از داده‌های ترجیحی آموزش دیده‌اند؛ داده‌هایی که نشان می‌دهد مردم شنیدن داستان‌هایی درباره‌ی الیاس، فانوس دریایی، ساعت‌سازها و کتابدارها را دوست دارند.

از سوی دیگر، چنین داستان‌هایی هرچه بیشتر در اینترنت ظاهر شوند، باز هم وارد داده‌های آموزشی برای برنامه‌ریزی هوش مصنوعی می‌شوند و در نتیجه، این فناوری عملاً از خروجی خودش هم آموزش می‌بیند. این چرخه‌ی عجیب که با نام «فروپاشی الگو» شناخته می‌شود، در عمل وضعیتی می‌سازد که در آن ربات‌ها به آموزش خودشان مشغول می‌شوند.

به بیان دیگر، هرچه مطالب بیشتری درباره‌ی فانوس دریایی الیاس تورن در اینترنت نوشته شود، مدل‌ها بیشتر یاد می‌گیرند: این همان داستانی است که مردم دوست دارند بخوانند؛ تا جایی که تقریباً هر داستان تولیدشده توسط هوش مصنوعی به فرمولی تکراری ختم می‌شود.

به گفته‌ی دنیل می، مهندس نرم‌افزار، پدیده‌ی الیاس نسبتاً تازه است و جست‌وجوهای گوگل برای «الیاس تورن» در ماه‌های آغازین سال ۲۰۲۶ به‌طور انفجاری بالا رفته است. از آن زمان به بعد، این شخصیت از قلمرو داستان‌های چت‌باتی فراتر رفته و حالا نام او به‌عنوان نویسنده‌ی شمار بسیاری از کتاب‌های مشکوک به تولیدشده توسط هوش مصنوعی هم ثبت شده است؛ از جمله یک راهنمای جایگزین و به‌ظاهر خطرناک برای درمان سرطان.

در مقیاس بزرگ‌تر، فروپاشی الگو یکی از محدودیت‌های اصلی هوش مصنوعی را نشان می‌دهد و ثابت می‌کند اگر ورودی دریافتی به‌اندازه‌ی کافی متنوع نباشد، به آسانی می‌تواند در چرخه‌ای از حرف‌های بی‌مایه و تکراری، خودش را آلوده کند.

پژوهش به صورت پیش‌انتشار در پایگاه آرکایو منتشر شده است.