هوش مصنوعی چگونه دانش شرکتها را به سرمایه خود تبدیل میکند؟ ساتیا نادلا و پارادوکس معکوس اطلاعات
ساتیا نادلا هشدار میدهد که زمان استفاده از هوش مصنوعی، علاوهبر پرداخت اشتراک، دانش و اسرار ارزشمند خود را هم به دیگران واگذار میکنید.
به گزارش سایت دیدبان ایران، این روزها به هر شرکت و سازمانی که قدم بگذارید، تلاش همگانی را برای استفاده از ابزارهای هوش مصنوعی بهوضوح میبینید. در اتاق جلسات، مدیران با هیجان از ابزاری حرف میزنند که بهرهوری را چندبرابر میکند؛ در بخش تولید محتوا، کارمندان خروجیهای جذاب یک چتبات را به هم نشان میدهند و در تیم فنی، برنامهنویسها از دستیار هوشمندی میگویند که باگ کدهایشان را در کسری از ثانیه پیدا میکند.
انگار کسبوکارها سوار قطار سریعالسیری بهسوی آینده شدهاند و هیچکس دلش نمیخواهد از این رقابت نفسگیر جا بماند. همه میخواهند جریان کاریشان را سریعتر، هوشمندتر و کارآمدتر کنند؛ ولی پشت شتاب هیجانانگیز AI، کمتر کسی در مورد بهای واقعی چنین ابزارهایی حرفی میزند. آیا شرکتها در ازای بهرهبردن از مزایای هوش مصنوعی؛ ارزشمندترین دارایی خود یعنی دانش سازمانی و تکنیکهای اختصاصیشان را حراج میکنند؟
ساتیا نادلا، مدیرعامل مایکروسافت، بهتازگی در مقالهای قابلتأمل، مفهومی بهنام پارادوکس معکوس اطلاعات را مطرح میکند و هشدار میدهد که در عصر جدید، ما نهتنها با پول، بلکه با حیاتیترین اطلاعاتمان هوش مصنوعی را میخریم.
در ادامه به مقالهی ساتیا نادلا نگاهی میاندازیم تا ببینیم مدیرعامل شرکت چندتریلیون دلاری مایکروسافت، دقیقاً چه نکاتی را به کسبوکارها یادآوری میکند و چه راهکاری برای محافظت از دیانای اطلاعاتی سازمانها پیشنهاد میدهد.
نادلا برای توضیح شرایط فعلی، گریزی به دنیای اقتصاد میزند و مقالهاش را با اشاره به مفهوم معروف پارادوکس اطلاعات از کنت آرو، اقتصاددان برندهی جایزه نوبل، آغاز میکند.
در بازار سنتی دانش، فروشندهها بیشاز خریداران ریسک میکنند. مثلاً فرض کنید من یک ایده، راز تجاری یا تحلیل اقتصادی ناب دارم و میخواهم آن را به شما بفروشم. شما بهعنوان خریدار میگویید: «تا وقتی ایده را نشنوم، نمیتوانم بفهمم چقدر ارزش دارد و آیا اصلاً ارزش پولدادن دارد یا نه.»
ولی بهمحض اینکه ایده را به شما بگویم تا ارزشش را ارزیابی کنید، دیگر آن را یاد گرفتهاید و صاحبش شدهاید! در واقع اطلاعات را بدون پرداخت هزینه بهدست آوردهاید و دیگر نیازی به خریدنش ندارید. پس در بازار سنتی دانش، فروشنده ریسک میکند؛ چون باید بخشی از دارایی فکریاش را جلوتر لو بدهد تا بتواند آن را بفروشد.
نادلا در مقالهی خود میگوید امروز هوش مصنوعی و چتباتها قواعد بازی را ۱۸۰درجه تغییر دادهاند. او مینویسد:
پارادوکس معکوس یعنی شما برای استفاده از محصولی که بابتش پول پرداخت کردهاید، مجبورید پرامپت، کدهای برنامهنویسی شرکتتان، صورتهای مالی محرمانه یا ایدههای شخصیتان را وارد کنید. شرکتهای توسعهدهندهی هوش مصنوعی نیز اغلب از همین ورودیها برای آموزش، تکامل و هوشمندتر کردن مدلهای خود استفاده میکنند.
شرکتها برای استفاده از یک سرویس هوش مصنوعی دو بار هزینه میدهند؛ یکبار با پول و بار دیگر با دانش
نادلا توضیح میدهد که با سازوکار موجود، شما عملاً برای استفاده از هوش مصنوعی، دو بار هزینه میکنید؛ بار اول با پولی که بابت خرید اشتراک یا زیرساخت میپردازید و بار دوم چیزی ارزشمندتر از پول پرداخت میکنید؛ همان دانشی که باید فاش کنید تا هوش مصنوعی برایتان کارآمد و مفید شود.
هرچه بخواهید مدل هوش مصنوعی برای کار شما دقیقتر و بهتر عمل کند، مجبورید دادهها و فوتوفنهای بیشتری از شرکتتان را تقدیمش کنید و با گذشت زمان، این رابطه کاملاً یکطرفه میشود.
بهگفتهی نادلا، هرچه بیشتر از ابزاری که خریدهاید استفاده کنید، فروشندهی هوش مصنوعی بیشتر و بیشتر دربارهی شما و کسبوکارتان یاد میگیرد؛ درحالیکه شما تقریباً هیچ ایدهای ندارید که فروشنده در ازای این دقیقاً چه چیزی بهدست میآورد و با دادههایتان چه میکند.
در دنیای سنتی، قانونگذاران برای حل مشکل پارادوکس راهکاری بهنام حق ثبت اختراع یا همان پتنت را خلق کردند. پتنتها به مخترع، کاشف یا ایدهپرداز اجازه میدهند تا ایدهاش را به دنیا معرفی کند، بدون اینکه بترسد دارایی فکریاش را بدزدند یا مالکیتش را از دست بدهد.
پارادوکس معکوس اطلاعات در عصر جدید هم به راهکار مؤثری نیاز دارد؛ هرچند مشکل صرفاً با شیوههای مرسوم محافظت از دادهها حل نمیشود. چون در عصر هوش مصنوعی، اطلاعات شما از درهای اصلی دزدیده نمیشوند؛ بلکه از لابهلای درزها و بهشکلی کاملاً نامحسوس نشت میکنند.
نادلا برای توصیف درزهای اطلاعاتی از واژهی پسماند (Exhaust) استفاده میکند؛ ولی منظور از پسماند دیجیتال چیست؟ مدلهای هوش مصنوعی از تعاملات روزمره یاد میگیرند؛ از دستورات یا پرامپتهایی که کارمندان شما مینویسند، از ابزارهایی که دستیارهای هوشمند استفاده میکنند و از همه مهمتر، اصلاحاتی که انسانها هنگام اشتباهکردن مدل انجام میدهند.
اصلاحات و پرامپتهای روزمره، فوتوفنهای سازمان را در قالب پسماند دیجیتال به هوش مصنوعی میدهد
برای مثال تصور کنید کارمند شما خروجی یک هوش مصنوعی را میخواند و بعد در باکس چتبات مینویسد: «نه، ما در شرکتمان با مشتری اینگونه رفتار نمیکنیم، ما رویهی دیگری داریم و باید به این شیوه عمل کنیم که...». با همین اصلاح ساده، فوتوفنهای اختصاصی کسبوکار شما به هوش مصنوعی شرکتی دیگر بهرایگان آموزش داده میشود.
نادلا در توصیف روند خاموش انتقال دانش شرکتها مینویسد:
درست همان زمانی که هوش مصنوعی را مصرف میکنید، در حال خلق هوش هم هستید و آنچه خلق میکنید، به شما تعلق دارد. این هوش خاص شماست یا به تعبیر فردریش هایک، اقتصاددان بزرگ، دانشی آمیخته با زمان، مکان و شرایط اختصاصی سازمان شما که هیچکس دیگری آن را در اختیار ندارد. هوشی که خلق کردهاید، میداند که شما چطور فکر میکنید، چه چیزی را ارزشمند میدانید و موفقیت را با چه معیاری میسنجید.
شرکتهای سازندهی هوش مصنوعی، برای آموزش مدلهای اولیهی خود، از حق استفادهی منصفانه از دادههای عمومی سطح اینترنت دفاع میکنند؛ اما وقتی نوبت به مشتریانشان میرسد، قوانین سختگیرانهای وضع میکنند تا مشتری نتواند از این مدلها برای استخراج دانش و ساخت مدلهای اختصاصی خودش استفاده کند.
سازمانها باید مالک خروجیهای هوش مصنوعی باشند تا ابزارها را با چارچوبهای خود همراستا کنند
ازسویدیگر همین ارائهدهندگان خدمات هوش مصنوعی، حق یادگیری از دادهها و تعاملات مشتریان را برای خودشان محفوظ نگه میدارند. نادلا میگوید ما با جادهای یکطرفه مواجهیم و هشدار میدهد:
همانطور که الکس کارپ، مدیرعامل شرکت پالانتیر میگوید، مشتریان فنی میخواهند محاسبات، مدلها، پشتهداده (Data Stack) و مزیت رقابتی منحصربهفردشان را تحتکنترل خود نگه دارند. آنها میخواهند مطمئن شوند که مالک ابزار تولیدی خودشان هستند و این ابزار به شخص دیگری منتقل نمیشود.
سیستمهای فعلی هوش مصنوعی، مالکیت را منتقل میکنند؛ همان چیزی که کارپ و شرکتها نگرانش هستند.
نادلا راهحل را در ترسیم مرز و حریمی نفوذناپذیر برای سازمانها میداند؛ دژی محکم که درونش دو دارایی بزرگ عصر ما، یعنی سرمایهی انسانی شامل هوش و تجربهی کارمندان و سرمایهی توکنی شامل دادهها و کدهای محاسباتی، اصلاحات و حافظهی سازمانی با هم ترکیب میشوند و رشد میکنند. شرکتها به دیوارهایی نیاز دارند که هیچچیز، حتی همان پسماند اطلاعاتی و اصلاحات انسانی، بدون رضایتشان از آنها خارج نشود.
کسبوکارهای مدرن میخواهند از خروجیهای سیستمهای هوش مصنوعی برای آموزش و بهینهسازی مدلهای اختصاصی خودشان استفاده کنند و نادلا این موضوع را حق طبیعی همهی شرکتها برای همسوکردن مدلها با تعهدات و مسئولیتهای قانونی و سازمانیشان میداند.
در عصر جدید تمرکز شرکتها از جمعآوری داده، به مکانیزمهای یادگیری تغییر میکند
در دوران رایانش ابری، شرکتها داده جمعآوری میکردند؛ اما در عصر هوش مصنوعی، سازمانها در حال انباشت یادگیریاند؛ بنابراین مفهوم «مرز اعتماد» نیز باید تکامل پیدا کند؛ از محافظت از اطلاعات گرفته تا حفاظت از فرایندها و مکانیزمهایی که سازمانها از طریق آنها یاد میگیرند، سازگار میشوند و هوشمندی خود را تکثیر میکنند.
نادلا به سازمانها پیشنهاد میدهد برای تحقق این هدف پنج گام کلیدی بردارند:
۱. کنترل (Control): معیارهای ارزیابی خصوصی خودتان را بسازید؛ چراکه این معیارها مشخص میکنند معنای کار خوب و درست در سازمان شما چیست. مالکیت مطلق حافظهی سازمانی، ردپای تعاملات، بازخوردها، تصمیمگیریها و بافتار نهادی خود را نیز حفظ کنید و مطمئن شوید که میتوانید از خروجیهای مدل برای وظایف و پرسوجوهای اختصاصی خودتان استفاده کنید.
۲. قابلیت (Capability): محیطهای یادگیری اختصاصی خودتان را درون همان مرزهای اعتماد بسازید؛ جاییکه مدلهای هوش مصنوعی بتوانند با جریان کار واقعی سازمان شما آموزش ببینند؛ بدون اینکه دانش شرکت به بیرون درز کند.
(Choice): سیستم مدیریت و هماهنگی شرکتتان را به یک مدل خاص وابسته نکنید. از خودتان بپرسید اگر مدلی که الان استفاده میکنیم ناگهان از دسترس خارج شود، آیا همچنان توانایی کار و بهینهسازی سیستم را داریم؟ اگر یک مدل عمومی هوش مصنوعی حذف شود، تخصصها و قابلیتهای پیشرفته شرکت هنوز با شما باقی میماند؟
۴. هزینه (Cost): زمانیکه لایهی هماهنگی شرکت را مستقل نگه میدارید، میتوانید زمینه، مدلها و وظایف سازمانی را به کارآمدترین و مقرونبهصرفهترین شکل ممکن و بدون افت کیفیت مدیریت کنید.
۵. همافزایی و رشد مرکب (Compound): وقتی این چهار اصل را کنار هم قرار دهید، یک حلقهی یادگیری مستمر یا بهاصطلاح یک ماشین صعود به قله برای خودتان میسازید؛ سیستمی که اجازه میدهد سرمایهگذاری شما در هوش مصنوعی، ارزش شرکتتان را بهصورت تصاعدی بالا ببرد.
مدیرعامل مایکروسافت مقالهاش را با جملهای کلیدی به پایان میرساند:
درحالیکه هشدارهای ساتیا نادلا دربارهی پارادوکس معکوس اطلاعات بسیار منطقی و کاربردی بهنظر میرسد. مارک آیزنشتات، تحلیلگر و فعال حوزهی تکنولوژی، صحبت او را بهسمت شرکت مایکروسافت برمیگرداند و با نگاهی منتقدانه لایههای پنهان مقاله را پیشروی مخاطبان قرار میدهد.
مارک تأیید میکند که نادلا در مورد هزینهی دوگانهی هوش مصنوعی (یکبار با پول، یکبار با دانش سازمانی) کاملاً حق دارد؛ ولی چه کسی بیشترین سود را از این پارادوکس معکوس میبرد؟ برای مثال به ابزارهای زیر نگاه کنید.
گیتهاب کوپایلوت در مرکز محیط برنامهنویسی قرار میگیرد و هر کد پیشنهادیاش که کارمندان میپذیرند، هر کدی که رد میکنند و هر ویرایشی که انجام میدهند، به یک سیگنال آموزشی یا همان پسماند اطلاعاتی برای مدلهای این شرکت تبدیل میشود.
منتقدان معتقدند شرکتهایی مثل مایکروسافت راهحلهای محافظتی خودشان را میفروشند
سرویس آژور OpenAI، دادههای اختصاصی شرکتها را از طریق مدلهایی پردازش میکند که مایکروسافت مالک مشترک آنها محسوب میشود و مایکروسافت۳۶۵ کوپایلت، ایمیلها، اسناد و پیامهای تیمز را میخواند. مایکروسافت بزرگترین و گستردهترین سیستم جهان را برای جمعآوری دادههای جانبی حاصل از هوش مصنوعی در شرکتها و سازمانها در اختیار دارد.
منتقدان میگویند نادلا مشکلی را توصیف میکند که محصولات خودش در ایجادش نقش داشتهاند، سپس زیرساختهای مایکروسافت را بهعنوان راهحل معرفی میکند. مثلاً آژور با کلیدهای مدیریتشده توسط مشتری، مرز اعتماد را شکل میدهد یا Azure ML میتواند نقش زیرساخت توزیعشده را ایفا کند.
مارک آیزنشتات تصدیق میکند که مقالهی نادلا بهدرستی معضل پارادوکس معکوس را شرح میدهد. بااینحال اگر راهحل ضمنی او بناکردن مرزهای اعتماد روی بستر مایکروسافت باشد، تفاوتی در اصل قضیه ایجاد نمیکند؛ مثلاینکه دیوارهای محافظ اطلاعاتتان را از همان شرکتی اجاره کنید که میخواهید اطلاعاتتان را از دستش در امان نگه دارید.
متنبازی که اگر فردا فروشنده، قوانینش را تغییر داد، بتوانید آنها را منشعب کنید. مرز اعتماد واقعی یعنی سیستمی که اگر فردا خدماتدهندگانش را اخراج کردید، زیرساختش همچنان در شرکت شما بماند.
آیزنشتات در پایان توییت خود میپرسد: «وقتی میخواستید دیوارهای محافظتی سازمانتان را بسازید، آیا اولین فروشندهای که از لیست خط زدید، همان کسی بود که بیشترین ابزارها را به شما میفروخت؟»