وبلاگ
بررسی مقالات:همسخن با بازتابمان در آیینۀ هوش مصنوعی
همسخن با بازتابمان در آیینۀ هوش مصنوعی
نویسنده: شانون والور
ترجمه و بازنویسی: محمدرضا واعظ
«من آیینهات خواهم بود،
آنچه هستی را بازتاب میدهم،
اگر که خودت ندانی»
— ولوت آندرگراند.
«من آیینهات خواهم بود» (1967)
این متن بخشی از مقدمه کتاب زیر است با جرح و تعدیل:
Shannon Vallor, The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking, Oxford University Press, 2024
در ۱۱ ژوئن ۲۰۲۲، یک مهندس گوگل به نام بلِیک لیموئین [1] در سراسر جهان خبرساز شد. او مدعی شد که لامدا (LaMDA)، محصول هوش مصنوعیای که در گوگل روی آن کار میکرد، یک موجود دارای ذهن و آگاهی است— نه صرفاً بخشی از دارایی شرکتی.
این ادعا به سرعت با واکنش شدید رسانهها مواجه شد، اما این جنجال زودگذر بود، چرا که جامعه پژوهشی هوش مصنوعی با قاطعیت ادعای او را رد کردند. متخصصان در زمینۀ مدلهای زبانی بزرگ (LLM) که لامدا نیز یکی از آنهاست، اعلام کردند که این سیستم هیچ آگاهیای ندارد؛ نه بیشتر از یک تُستر نان.
بحثی که در میان متخصصان هوش مصنوعی شکل گرفت، نه در مورد نادرستی ادعای لیموئین، بلکه دربارۀ میزان اشتباه او بود. آیا او صرفاً کمی زود قضاوت کرده و در مورد سیستمی که شاید پیشدرآمدی بر هوش مصنوعی واقعاً دارای ذهن است، مبالغه کرده بود؟ یا اشتباه او ریشهای عمیقتر داشت— نوعی خطای ادراکی در مورد پدیدهای که هنوز اصلاً در افق امکانپذیری ما قرار نگرفته است؟
زمانی که گوگل حدود یک ماه بعد، لیموئین را به دلیل نقض سیاستهای افشای اطلاعات محرمانۀ شرکت اخراج کرد، جامعه علمی اعتراض خاصی نکرد.
با اینکه لیموئین از نظر بسیاری از همکارانش فردی محترم و خوشنام بود، اما منتقدانش نیز در اشتباه نبودند: لامدا صرفا یک محصول است، نه یک شخص. جامعه پژوهشی هوش مصنوعی البته یکدست و همنظر نیست، اما در این مورد خاص، تقریباً همه موافق بودند که لیموئین در اشتباه است. با این حال، اگر ادعای او از نظر علمی محتمل بود، پیامدهای آن میتوانست شگفتانگیز و حتی هولناک باشد.
نکتۀ عجیب در این داستان این است که لیموئین فردی تازهکار یا بیاطلاع نبود.
او مهندسی باتجربه بود که دانش فنیاش از ۹۹.۹ درصد مردم جهان بیشتر است. پس چگونه ممکن است چنین اشتباهی از او سر زده باشد؟ برای فهم این موضوع، باید ابتدا درک کنیم که پیشرفتهترین سیستمهای هوش مصنوعی امروز، در واقع بهمثابه آینههایی بزرگ [2] از هوش انسانی ساخته شدهاند.
آنها برای خودشان فکر نمیکنند؛ بلکه بازتابی پیچیده از افکار، قضاوتها، خواستهها، نیازها، برداشتها، انتظارات و تخیلات ضبطشدۀ ما را تولید میکنند.
سیستمهای هوش مصنوعی، بازتابی از هوش خود ما را به خودمان بازمیگردانند. این بازتاب، منبع قدرت روزافزون علمی و تجاری آنهاست. بسیاری از کتابها، سخنرانیهای عمومی و گزارشهای پرزرقوبرق رسانهای دربارۀ توانایی این سیستمها در دگرگونساختن نظم اقتصادی و اجتماعی— یا حتی ویرانکردن آن— هشدار دادهاند.
اما این جستار دربارۀ قدرت دیگری از این آینههاست؛ قدرتی که پنهانتر، اما خطرناکتر است: قدرت آنها در القای نوعی فراموشی نسبت به خود. نوعی فراموشی انتخابی که کنترل ما را بر عاملیت انسانیمان کاهش داده و آگاهیمان از خود را تیره و تار میکند. این یک توهّم است و حتی ماهرترین افراد در حوزۀ فناوری نیز ممکن است اسیر آن شوند؛ همانطور که لیموئین، درواقع، با بازتاب خود سخن میگفت.
شرکتهایی که امروز قدرتمندترین فناوریهای هوش مصنوعی را میسازند، بیشازپیش آنها را بهعنوان نماینده یا حتی جانشینی برای صدای مشترک بشری و قضاوت جمعی ما معرفی میکنند.
به ما گفته میشود که هوش مصنوعی ما را بهتر از خودمان میشناسد. قاضیها برای تصمیم دربارۀ آزادی زندانیان از الگوریتمهای پیشبینیکننده استفاده میکنند؛ مدیران منابع انسانی از نرمافزارهای خودکار برای انتخاب کارمندان بهره میبرند. ابزارهای هوش مصنوعی به دولتها میگویند که چه کسی مستحق دریافت خدمات عمومی است، و به بیمارستانها میگویند چه کسی شایستۀ درمان است. این ابزارها برای استادان دانشگاه سخنرانی مینویسند و برای دانشجویان همان مطالب را بهصورت مقاله بازنویسی میکنند.
سامانههای پیشنهادی، به ما میگویند چه بخوانیم، چه ببینیم، و چه دوست بداریم— و حالا حتی آن چیزهایی را که باید ببینیم و دوست بداریم، برایمان تولید هم میکنند. اپلیکیشنهای هوش مصنوعی میتوانند برای ما شریک عاطفی بیابند— یا حتی یکی را به دلخواهمان بسازند.
آینههای هوش مصنوعی امروز به ما میگویند انسان بودن یعنی چه، ما به چه چیز اهمیت میدهیم، چه چیزی برایمان خوب یا زیبا یا شایستۀ توجه است. آنها گذشتۀ ما را بازگو میکنند و آیندۀ جمعی ما را به تصویر میکشند— بدون آنکه حتی یک روز از آن تاریخ را زیسته باشند یا لحظهای از وضعیت انسانی را درک کرده باشند.
چه بر سر انسان یا گونهای هوشمند میآید اگر دیگر خود، روایتگر داستان خویش نباشد؟ چه از کف میدهیم وقتی شناخت از خود و اختیار دربارۀ خود را به پیشبینیهای الگوریتمی و مبهم واگذار میکنیم؟ ماجراهای لیموئین تکاندهندهاند، اما استثنا نیستند. آنها نشانهاند. ما همه در آستانۀ فراموشی فاصلۀ عظیمی هستیم که میان انسان بودن و ماشین بودن وجود دارد. اگر گامهای جسورانهای برای بازآفرینی رابطهمان با ابزارهایی که خودمان ساختهایم برنداریم، همهمان ممکن است همچون لیموئین، با بازتابمان در آیینۀ هوش مصنوعی همسخن شویم.
1.Blake Lemoine
2.immense mirrors
