آیا هوش مصنوعی ما را آدم‌هایی کسل‌کننده‌تر می‌کند؟

نگرانی از هوش مصنوعی معمولاً با چند واژه آشنا آغاز می‌شود: اطلاعات نادرست، قطبی‌سازی، از بین رفتن مشاغل و قدرت روزافزون ماشین‌ها در تصمیم‌گیری‌های انسانی. این نگرانی‌ها واقعی‌اند، اما شاید یکی از عمیق‌ترین پیامدهای هوش مصنوعی کمتر دیده شده باشد: خطر یکنواخت‌تر شدن انسان‌ها. نه به این معنا که همه دقیقاً یکسان فکر خواهند کرد، بلکه به این معنا که انتخاب‌ها، سلیقه‌ها، خروجی‌های خلاقانه و حتی مسیرهای کشف شخصی ما ممکن است آرام‌آرام به سمت گزینه‌های امن، رایج و قابل پیش‌بینی رانده شود.

مسئله فقط این نیست که هوش مصنوعی چه چیزی را به ما پیشنهاد می‌کند؛ مسئله این است که اگر تصمیم‌های بیشتری را به آن بسپاریم، بخشی از ظرفیت انسانی خود را برای آزمون، خطا، کنجکاوی، سرگردانی خلاق و کشف اتفاقی از دست می‌دهیم. انسان بودن همیشه با نوعی بی‌نظمی همراه بوده است: امتحان کردن چیزهایی که شاید دوستشان نداشته باشیم، انتخاب مسیرهایی که نتیجه‌شان معلوم نیست، و گاهی کشف جنبه‌هایی از خودمان که پیش‌تر از آن‌ها بی‌خبر بودیم. خطر آنجاست که سیستم‌های هوشمند، به نام راحتی و رضایت سریع، این بی‌نظمی ارزشمند را از زندگی حذف کنند.

معمای همیشگی میان امنیت و کشف

برای فهم این خطر، باید به یکی از بنیادی‌ترین دوگانگی‌های تصمیم‌گیری انسانی نگاه کرد: انتخاب میان بهره‌برداری از چیزهایی که از قبل می‌دانیم دوست داریم، و کشف چیزهایی که هنوز امتحان نکرده‌ایم. در علوم رفتاری، این مسئله با عنوان «توازن میان بهره‌برداری و اکتشاف» شناخته می‌شود.

تصور کنید وارد فروشگاهی با ۳۱ طعم بستنی می‌شوید. یک گزینه امن پیش روی شماست: طعمی که قبلاً امتحان کرده‌اید و می‌دانید دوستش دارید. اما گزینه دیگری هم وجود دارد: طعمی عجیب، تازه و نامطمئن که شاید ناامیدتان کند، اما شاید هم به یکی از انتخاب‌های محبوب آینده‌تان تبدیل شود. همین منطق در زندگی روزمره بارها تکرار می‌شود؛ ماندن در رستوران همیشگی یا امتحان کردن جایی تازه، حفظ مدل موی معمول یا انتخاب ظاهری متفاوت، ادامه دادن شغل باثبات یا ورود به مسیری نامطمئن‌تر.

انسان‌ها از نظر میزان تمایل به ریسک و کشف با هم متفاوت‌اند، اما تکامل ما را طوری شکل داده که میان احتیاط و کنجکاوی تعادلی برقرار کنیم. در گذشته‌های دور، ماندن بیش از حد در محدوده امن می‌توانست به گرسنگی منجر شود، و رفتن بیش از حد به ناشناخته‌ها ممکن بود خطر مرگ داشته باشد. امروز بیشتر انتخاب‌های ما چنین پیامدهای مستقیمی ندارند، اما سازوکار ذهنی همچنان باقی مانده است. رشد فردی و جمعی ما دقیقاً در همین تعادل شکل می‌گیرد: نه اسیر شدن در تکرار، نه گم شدن دائمی در تجربه‌های بی‌نتیجه.

چرا هوش مصنوعی ریسک را دوست ندارد؟

مشکل از آنجا آغاز می‌شود که بسیاری از سیستم‌های هوش مصنوعی برای اکتشاف طراحی نشده‌اند. آن‌ها معمولاً برای افزایش رضایت فوری، تعامل بیشتر و کاهش احتمال ناامیدی بهینه می‌شوند. اگر کاربر روی یک پیشنهاد کلیک کند، موسیقی را گوش دهد، فیلم را تا آخر ببیند یا پاسخ را بپسندد، سیستم پاداش می‌گیرد. اگر پیشنهاد باعث نارضایتی شود، الگوریتم یاد می‌گیرد در آینده کمتر چنین ریسکی کند.

در چنین ساختاری، گزینه امن همیشه برنده است. اگر بیشتر مردم یک طعم خاص بستنی را ترجیح دهند، هوش مصنوعی احتمالاً همان را پیشنهاد می‌کند. این انتخاب از دید تجاری منطقی است: پیشنهادهای امن نارضایتی را کم می‌کنند، نرخ ترک کاربر را پایین می‌آورند و احتمال تعامل را افزایش می‌دهند. اما از دید انسانی، همین منطق می‌تواند به کاهش تنوع تجربه‌ها منجر شود.

هوش مصنوعی الزاماً فاقد تخیل نیست؛ بیشتر اوقات فاقد انگیزه برای ریسک کردن است. وقتی معیار موفقیت سیستم بر پایه رضایت کوتاه‌مدت تعریف می‌شود، الگوریتم به سمت آنچه امتحان خود را پس داده حرکت می‌کند. نتیجه، جهانی است که در آن گزینه‌های پرفروش پرفروش‌تر می‌شوند، انتخاب‌های حاشیه‌ای ناپدید می‌شوند و مسیرهای غیرمنتظره کمتر در برابر ما قرار می‌گیرند.

راحتی ضروری، هزینه پنهان

البته این تصویر یک‌طرفه نیست. الگوریتم‌های پیشنهاددهنده بخش مهمی از زندگی مدرن را قابل مدیریت کرده‌اند. حجم انتخاب‌های امروز چنان زیاد است که بدون نوعی فیلتر هوشمند، تصمیم‌گیری روزمره طاقت‌فرسا می‌شود. وقتی یک پلتفرم هزاران فیلم یا ده‌ها میلیون آهنگ پیش روی کاربر می‌گذارد، کمک گرفتن از سیستم‌های توصیه‌گر نه‌تنها مفید، بلکه گاهی ضروری است.

این همان نقطه دشوار بحث است. هوش مصنوعی واقعاً به ما کمک می‌کند از میان انبوه گزینه‌ها عبور کنیم. اما اگر این کمک همیشه به سمت «همان چیزی که احتمالاً دوست داری» متمایل باشد، زندگی ما به نسخه‌ای فشرده‌تر و قابل پیش‌بینی‌تر از خودمان تبدیل می‌شود. راحتی به دست می‌آید، اما بخشی از تصادف، شگفتی و کشف از دست می‌رود.

در آزمایشی ساده، از یک مدل هوش مصنوعی خواسته شد بارها از میان طعم‌های مختلف بستنی یک گزینه پیشنهاد کند. در ۱۰۰ بار تکرار، ۹۶ بار یکی از دو طعم بسیار محبوب پیشنهاد شد. این نتیجه در ظاهر بی‌اهمیت به نظر می‌رسد، اما پیامد آن روشن است: اگر سیستم‌ها دائماً چند گزینه امن را تقویت کنند، گزینه‌های دیگر به‌تدریج از میدان دید و سپس از بازار حذف می‌شوند. در دنیای بستنی، این یعنی از ۳۱ طعم ممکن است فقط دو طعم باقی بماند. در دنیای فرهنگ، دانش، خلاقیت و هویت، پیامد می‌تواند بسیار عمیق‌تر باشد.

یکنواختی آماری به جای تنوع انسانی

وقتی افراد از هوش مصنوعی برای راهنمایی استفاده می‌کنند، انتخاب‌ها می‌توانند به سمت هنجارهای رایج‌تر حرکت کنند. ترجیحات انسانی کمتر متنوع می‌شود، خروجی‌های خلاقانه شباهت بیشتری به هم پیدا می‌کنند، و حتی پاسخ افراد به پرسش‌هایی درباره مهم‌ترین دانشمندان، ورزشکاران یا شخصیت‌های تاریخی ممکن است به فهرست‌هایی مشابه ختم شود. نتیجه، تبدیل تنوع بی‌پایان باورها، سلیقه‌ها و داوری‌های انسانی به نوعی «همسانی آماری امن» است.

این اتفاق فقط در سطح جمعی رخ نمی‌دهد؛ در سطح فردی نیز خطرناک است. حتی وقتی هوش مصنوعی ویژگی‌های شخصی ما را یاد می‌گیرد، باز هم ممکن است در محدوده امن همان ویژگی‌ها باقی بماند. اگر بداند کاربری معمولاً یک نوع خاص موسیقی، غذا یا فیلم را ترجیح می‌دهد، احتمالاً همان را بیشتر و بیشتر پیشنهاد می‌کند. در نتیجه، کاربر نه‌تنها شبیه دیگران می‌شود، بلکه به نسخه‌ای محدودتر از خودش تقلیل پیدا می‌کند.

فرض کنید فردی در گذشته ۷۰ درصد مواقع یک انتخاب خاص داشته و ۳۰ درصد باقی‌مانده را میان چند گزینه دیگر تقسیم کرده است. اگر تصمیم آینده به الگوریتم سپرده شود، سیستم ممکن است همان گزینه غالب را صد درصد مواقع انتخاب کند. از نگاه آماری، این کار منطقی است؛ از نگاه انسانی، فاجعه‌ای کوچک اما معنادار رخ داده است. آن ۳۰ درصد پراکندگی، همان جایی بود که شخصیت، تنوع و امکان تغییر زنده می‌ماند.

مرگ تدریجی پیچیدگی انسانی

اثر هوش مصنوعی بر پیچیدگی انسان ناگهانی و آشکار نیست. کسی یک‌شبه متوجه نمی‌شود که سلیقه‌اش ساده‌تر، انتخاب‌هایش قابل پیش‌بینی‌تر و تجربه‌هایش کم‌تنوع‌تر شده است. این روند بیشتر شبیه فرسایش تدریجی است: یک فیلم کمی امن‌تر، یک کتاب کمی پرفروش‌تر، یک مقصد سفر کمی رایج‌تر، یک پاسخ کمی هنجاری‌تر. تصمیم‌هایی کوچک که هرکدام بی‌ضرر به نظر می‌رسند، اما در مجموع مسیر زندگی را باریک‌تر می‌کنند.

خطر اصلی در چرخه بازخورد نهفته است. هرچه بیشتر تصمیم‌ها را به هوش مصنوعی واگذار کنیم، رفتار ما محدودتر می‌شود. سپس سیستم از همین نسخه محدودتر ما یاد می‌گیرد و پیشنهادهای محدودتری ارائه می‌دهد. در ادامه، ما باز هم محدودتر انتخاب می‌کنیم. این چرخه می‌تواند انسان را از موجودی چندبعدی به پروفایلی قابل پیش‌بینی تبدیل کند؛ مجموعه‌ای از ترجیحات غالب، نه شبکه‌ای زنده از کنجکاوی‌ها، تناقض‌ها و تغییرات.

هیچ‌کس دوست ندارد «معمولی» و «بی‌ویژگی» باشد. انسان‌ها معمولاً خود را خاص، پیچیده و تا حدی غیرقابل طبقه‌بندی می‌دانند. توهین‌آمیز بودن واژه‌هایی مانند «سطحی» یا «معمولی» دقیقاً از همین‌جا می‌آید: این واژه‌ها شکست را توصیف نمی‌کنند، بلکه فقدان عمق و تمایز را نشان می‌دهند. اگر هوش مصنوعی به‌تدریج همه ما را به انتخاب‌های رایج‌تر سوق دهد، مسئله فقط از دست رفتن تنوع بازار نیست؛ مسئله از دست رفتن بخشی از غرابت، عمق و پویایی انسان است.

راه‌حل: هوش مصنوعی اکتشافی، نه فقط هوش مصنوعی رضایت‌بخش

راه‌حل، کنار گذاشتن هوش مصنوعی نیست. این ابزارها بخش مهمی از زندگی امروزند و در بسیاری زمینه‌ها واقعاً مفیدند. راه درست، بازطراحی رابطه ما با آن‌هاست؛ به‌گونه‌ای که فقط برای بهره‌برداری از ترجیحات موجود به کار نروند، بلکه به کشف هوشمندانه نیز کمک کنند.

به جای اینکه از هوش مصنوعی فقط بخواهیم «چیزی را که دوست دارم پیدا کن»، می‌توانیم از آن بخواهیم «چیزی را پیدا کن که احتمالاً دوست خواهم داشت، اما هنوز امتحانش نکرده‌ام». تفاوت این دو درخواست اساسی است. اولی کاربر را در محدوده آشنا نگه می‌دارد؛ دومی مرزهای سلیقه را کمی جابه‌جا می‌کند.

ظرفیت واقعی هوش مصنوعی دقیقاً می‌تواند در همین نقطه آشکار شود. چون این سیستم‌ها الگوهای عظیمی از ترجیحات انسانی را دیده‌اند، می‌توانند بفهمند چه چیزی نزدیک به سلیقه ماست، اما کاملاً درون حباب فعلی ما قرار ندارد. چنین سیستمی می‌تواند ریسک‌های حساب‌شده پیشنهاد دهد: نه انتخاب‌هایی کاملاً تصادفی، نه تکرار بی‌پایان گزینه‌های امن.

دکمه‌ای برای تنظیم فاصله از منطقه امن

آینده مطلوب می‌تواند شامل ابزارهایی باشد که کاربر در آن‌ها میزان اکتشاف را خودش تنظیم کند. تصور کنید در پلتفرم فیلم، موسیقی، خرید یا جست‌وجو، دکمه‌ای وجود داشته باشد که مشخص کند چقدر می‌خواهید از ترجیحات معمول خود فاصله بگیرید. در روزهای عادی، شاید تنظیم را روی «دقیقاً مطابق سلیقه من» بگذارید. در روزهایی دیگر، شاید گزینه‌ای مانند «من، اما با کمی پیچش» را انتخاب کنید. و گاهی، وقتی واقعاً آماده تجربه‌ای تازه هستید، حالت «کارت وحشی» را فعال کنید.

چنین طراحی‌ای مهم است، چون اکتشاف را تحمیل نمی‌کند؛ امکانش را فراهم می‌کند. کاربر همچنان می‌تواند از راحتی پیشنهادهای دقیق بهره ببرد، اما وقتی بخواهد از حباب خود بیرون بزند، هوش مصنوعی به جای مانع شدن، راهنما می‌شود. این رویکرد عاملیت انسانی را حفظ می‌کند: انسان تصمیم می‌گیرد چه زمانی امن بماند و چه زمانی خطر کند.

اما برای رسیدن به چنین مدلی، انگیزه‌های سیستم‌ها باید تغییر کند. کافی نیست از هوش مصنوعی بخواهیم «خلاق‌تر» باشد. اگر پاداش اصلی همچنان رضایت فوری و کلیک سریع باشد، سیستم به گزینه‌های امتحان‌شده بازمی‌گردد. باید الگوریتم‌ها را برای ریسک‌های هوشمندانه نیز پاداش داد؛ برای پیشنهادهایی که کمی جسورانه‌اند، اما همچنان بر شناخت معنادار از کاربر تکیه دارند.

حفظ حق عجیب بودن

این بحث در نهایت درباره بستنی، فیلم یا موسیقی نیست. مسئله اصلی حفظ حق انسان برای عجیب بودن است؛ همان علاقه‌های تصادفی، مسیرهای نامعمول و تناقض‌هایی که شخصیت ما را زنده نگه می‌دارند. کسی ممکن است به یادگاری‌های یک فیلم قدیمی علاقه داشته باشد، ناگهان وارد ژئوکشینگ شود، یا بی‌دلیل همچنان ماشین دنده‌دستی را ترجیح دهد. این‌ها شاید از نگاه الگوریتمی نویز به نظر برسند، اما از نگاه انسانی بخشی از هویت‌اند.

زیبایی انسان در همین ناسازگاری‌هاست؛ در چیزهایی که مدل‌ها به‌راحتی نمی‌توانند توضیح دهند. اگر همه چیز بهینه، قابل پیش‌بینی و مطابق احتمال بالاتر شود، بخشی از زندگی که ما را چندوجهی و زنده نگه می‌دارد کم‌رنگ خواهد شد.

اکنون لحظه حساسی است، زیرا هوش مصنوعی دیگر فقط پیشنهاد نمی‌دهد؛ به‌تدریج در حال عمل کردن به نمایندگی از انسان‌هاست. وقتی سیستم‌ها از «توصیه‌گر» به «تصمیم‌گیر» تبدیل می‌شوند، مسئله از راحتی فراتر می‌رود و به آینده عاملیت انسانی می‌رسد. اگر قرار است هوش مصنوعی بخشی از تصمیم‌های زندگی را هدایت کند، باید مطمئن شویم که فقط ما را به سمت گزینه‌های امن‌تر، رایج‌تر و قابل پیش‌بینی‌تر نمی‌برد.

گاهی لازم است در برابر پیشنهادهای کاملاً منطقی و محبوب مقاومت کنیم و از هوش مصنوعی بخواهیم ما را به جایی کمی ناشناخته‌تر ببرد؛ جایی که هنوز احتمال کشف، شکست، شگفتی و تغییر وجود دارد. انسان برای رشد به چیزی بیش از رضایت سریع نیاز دارد. او به امکان گم شدن، تجربه کردن و گاهی انتخاب‌های غیرمنتظره نیازمند است.

تاریخ: دوشنبه ۱۵ تیر ۱۴۰۵ برابر با ۶ ژوئیه ۲۰۲۶

منبع: TEDx Talks