وبلاگ
بررسی مقالات:چالشهای اخلاقی هوش مصنوعی: آیا آینده را میتوان مهار کرد؟
هوش مصنوعی بهسرعت در حال تغییر جهان است، اما همراه با تمام پیشرفتهایی که به ارمغان آورده، چالشهای جدیدی نیز پدید آمده که نمیتوان آنها را نادیده گرفت. از حریم خصوصی تا امنیت، از اشتغال تا تبعیض، به نظر میرسد زندگی روزمرهی ما دیگر هرگز مانند گذشته نخواهد بود. اما این چالشها دقیقاً چه هستند؟
وقتی دیگر حریم خصوصی معنایی ندارد
هوش مصنوعی به داده نیاز دارد و چه دادهای مهمتر از اطلاعات شخصی ما؟ ما معمولاً بدون اینکه متوجه باشیم، اجازه میدهیم دادههایمان جمعآوری شوند، اما این همیشه بیخطر نیست.
شاید شما هم گاهی حس کردهاید که دستیار صوتی گوشی شما مثل Siri یا Google Assistant به مکالماتتان گوش میدهد. مثلاً یکبار در مورد خرید کفش صحبت کردهاید و چند دقیقه بعد تبلیغ همان برند در اینستاگرام نمایش داده شده! در واقع، هوش مصنوعی به کمک میکروفون و دادههایی که ذخیره میکند، تبلیغات را هدفمند میسازد. اما این سؤال پیش میآید: آیا او همیشه در حال شنود است؟
همچنین، اگر در شهرهایی مثل لندن یا پکن زندگی کنید، احتمالاً متوجه میشوید که دوربینهای نظارتی همهجا هستند. این سیستمها، که با کمک هوش مصنوعی کار میکنند، قادرند چهرهی افراد را تشخیص دهند و حتی فعالیتهای آنها را ردیابی کنند. حالا تصور کنید دولت از این فناوری برای کنترل رفتار مردم استفاده کند، مثلاً اگر در یک تظاهرات شرکت کنید، فردا ممکن است از کارتان اخراج شوید.
وقتی هوش مصنوعی ناعادلانه رفتار میکند
ما فکر میکنیم که ماشینها بیطرف هستند، اما در واقعیت، آنها فقط آنچه را که به آنها داده شده پردازش میکنند. اگر دادهها مغرضانه باشند، تصمیمهای هوش مصنوعی هم مغرضانه خواهند بود.
در سال ۲۰۱۴، شرکت آمازون پروژهای را آغاز کرد تا با استفاده از هوش مصنوعی، فرایند بررسی و امتیازدهی به رزومههای متقاضیان شغلی را خودکار کند. این سیستم به رزومهها از یک تا پنج ستاره امتیاز میداد. با این حال، در سال ۲۰۱۵، آمازون متوجه شد که این سیستم بهطور سیستماتیک به رزومههای زنان برای مشاغل فنی مانند برنامهنویسی امتیاز کمتری میدهد. دلیل این مسئله آن بود که مدلهای رایانهای آمازون بر اساس رزومههای ارسالشده در ده سال گذشته آموزش دیده بودند که بیشتر توسط مردان ارائه شده بودند. این موضوع باعث شد سیستم بهطور ناعادلانهای متقاضیان مرد را ترجیح دهد. با وجود تلاشهای آمازون برای اصلاح این سیستم، تضمینی برای حذف کامل تبعیض وجود نداشت؛ بنابراین، این پروژه در نهایت متوقف شد.
بعلاوه، تحقیقات نشان داده که برخی از سیستمهای تشخیص چهره، در شناسایی افراد سیاهپوست خطاهای بیشتری دارند. این اتفاق میتواند نتایج خطرناکی داشته باشد، مثلاً در فرودگاهها، پلیس به اشتباه فردی بیگناه را به جای یک مجرم تحت تعقیب دستگیر کند.
وقتی نمیدانید چرا رد شدهاید
بعضی از الگوریتمهای هوش مصنوعی مانند یک جعبهی سیاه عمل میکنند. شما نمیدانید که چگونه تصمیم میگیرند، اما زندگی شما را تحت تأثیر قرار میدهند.
تصور کنید که برای دریافت وام به بانک مراجعه میکنید. هوش مصنوعی اطلاعات مالی شما را بررسی میکند و درخواست شما را رد میکند، اما شما هیچ ایدهای ندارید که چرا! آیا به خاطر یک پرداخت دیرهنگام است؟ به خاطر محل زندگیتان؟ بدون شفافیت، امکان اعتراض وجود ندارد.
برخی دانشگاهها از هوش مصنوعی برای بررسی درخواستهای دانشجویی استفاده میکنند. اما اگر سیستم تصمیم بگیرد که شما واجد شرایط نیستید، هیچ راهی برای فهمیدن علت آن ندارید. شاید سیستم به اشتباه تشخیص داده که نمرات شما کمتر از حد انتظار است.
وقتی ماشینها بیش از حد مستقل میشوند
ما در حال ساخت سیستمهایی هستیم که بدون دخالت انسان تصمیم میگیرند، اما آیا کنترل آنها همیشه در دست ما خواهد بود؟ در سال ۲۰۱۸، یک خودروی خودران اوبر در حال حرکت بود که یک عابر پیاده را تشخیص نداد و با او برخورد کرد. چه کسی مقصر بود؟ مهندسانی که نرمافزار را طراحی کرده بودند؟ رانندهای که پشت فرمان بود اما به ماشین اعتماد داشت؟ یا شاید خود ماشین؟
کشورهای مختلف در حال توسعهی رباتهای نظامی هستند که میتوانند بدون نیاز به فرمان انسانی، اهداف خود را انتخاب و نابود کنند. اما اگر این ماشینها اشتباه کنند و افراد غیرنظامی را هدف بگیرند، چه کسی پاسخگو خواهد بود؟
وقتی شغل شما به خطر میافتد
اتوماسیون باعث حذف بسیاری از شغلها شده است. برخی افراد میتوانند خود را با تغییرات وفق دهند، اما بسیاری دیگر ممکن است از کار بیکار شوند.
در برخی فروشگاهها، دیگر نیازی به صندوقدار نیست؛ شما میتوانید محصولات را بردارید و بدون ایستادن در صف، از فروشگاه خارج شوید، چون سیستمهای مجهز به هوش مصنوعی خودشان خرید شما را تشخیص میدهند. بسیاری از شرکتها دیگر نیازی به پشتیبانهای انسانی ندارند، زیرا چتباتهای هوشمند میتوانند به سرعت و بدون وقفه به مشتریان پاسخ دهند. اما این بدان معناست که هزاران شغل در این صنعت از بین رفته است.
وقتی نمیتوانید به چیزی که میبینید اعتماد کنید
فناوریهای جدید باعث شدهاند که مرز بین واقعیت و جعل بهشدت کمرنگ شود. دیپفیکها و محتوای جعلی، تهدیدی جدی برای دنیای دیجیتال هستند و میتوانند اطلاعات غلط را در مقیاس وسیع گسترش دهند.
در سال ۲۰۱8، یک ویدیوی دیپفیک از باراک اوباما منتشر شد که به نظر میرسید او در حال بیان نظراتی است که در واقع هرگز نگفته بود. این ویدیو برای نشان دادن قدرت فناوری دیپفیک ساخته شده بود، اما نشان داد که چگونه هوش مصنوعی میتواند حقیقت را تغییر دهد و افکار عمومی را تحت تأثیر قرار دهد. (4)
در سال ۲۰۱۹، مدیر یک شرکت بریتانیایی قربانی حملهی سایبری شد که در آن مجرمان از یک الگوریتم تقلید صدا استفاده کردند تا صدای مدیرعامل شرکت مادر او را شبیهسازی کنند. آنها با استفاده از این فناوری، از او خواستند که مبلغ زیادی را به یک حساب بانکی منتقل کند. او بدون شک به این "دستور" اعتماد کرد و پول را انتقال داد، اما بعداً مشخص شد که این یک کلاهبرداری پیچیده بوده است. (5)
و اگر روزی هوش مصنوعی احساسات داشته باشد؟
اگر روزی هوش مصنوعی به سطحی از آگاهی برسد، آیا باید حقوقی برای آن قائل شویم؟ آیا خاموش کردن یک سیستم آگاه، شبیه به پایان دادن به زندگی یک موجود زنده خواهد بود؟ این پرسشهای فلسفی و اخلاقی ممکن است در آیندهای نهچندان دور، بسیار جدی شوند.در ژوئن ۲۰۲۲، بلیک لموین، مهندس گوگل، ادعا کرد که مدل زبانی LaMDA این شرکت به آگاهی و شعور دست یافته است. این ادعا پس از آن مطرح شد که لموین در تعاملات خود با LaMDA، پاسخهایی دریافت کرد که به نظر میرسید نشاندهنده درک و احساسات انسانی است. لموین این موضوع را با مدیران گوگل در میان گذاشت، اما شرکت این ادعاها را رد کرد و اعلام کرد که شواهد کافی برای اثبات آگاهی LaMDA وجود ندارد. در پی این ماجرا، لموین به مرخصی اداری با حقوق فرستاده شد و در نهایت در ژوئیه ۲۰۲۲ از شرکت اخراج شد.
این رویداد بحثهای گستردهای در جامعه علمی درباره آگاهی مصنوعی و معیارهای سنجش آن برانگیخت. بسیاری از متخصصان حوزه هوش مصنوعی، ادعاهای لموین را رد کرده و معتقدند که مدلهای زبانی مانند LaMDA، صرفاً بر اساس الگوهای آماری عمل میکنند و فاقد درک و آگاهی واقعی هستند.
همچنین، رباتهای انساننما مانند Sophia که توسط شرکت Hanson Robotics توسعه یافتهاند، قادرند حالات چهرهی انسان را تقلید کنند و مکالمات پیچیده داشته باشند. برخی حتی معتقدند که در آینده ممکن است این رباتها احساساتی شبیه به انسان تجربه کنند. اگر روزی یک ربات مدعی شود که رنج میبرد، آیا ما وظیفهی اخلاقی داریم که به او کمک کنیم؟
آیا آیندهی هوش مصنوعی را میتوان کنترل کرد؟
چالشهای اخلاقی هوش مصنوعی هر روز پیچیدهتر میشوند. این فناوری، علیرغم همهی مزایای خود، میتواند به مشکلات جدی مانند نقض حریم خصوصی، تبعیض، عدم شفافیت، از بین رفتن کنترل انسانی، بیکاری گسترده، حملات امنیتی، جعل اطلاعات و حتی احتمال خودآگاهی هوش مصنوعی منجر شود.
برای مقابله با این چالشها، باید قوانین و مقررات سختگیرانهتری در زمینهی توسعه و استفاده از هوش مصنوعی وضع شود. علاوه بر آن، توسعهی هوش مصنوعی باید با نظارت مستمر و اصول اخلاقی همراه باشد تا اطمینان حاصل شود که این فناوری در خدمت بشریت باقی میماند.
اما آیا ما واقعاً قادر خواهیم بود هوش مصنوعی را در چارچوبهای اخلاقی مهار کنیم؟ یا این فناوری به مسیری غیرقابلکنترل پیش خواهد رفت؟ پاسخ این پرسش، آیندهی بشریت را تعیین خواهد کرد.