همهچیز درباره اخلاق در هوش مصنوعی؛ از تبعیض الگوریتمی تا حریم خصوصی و محیطزیست
به گزارش پایگاه خبری اخبارخوب به نقل از خبرگزاری خبرآنلاین، اخلاق در هوش مصنوعی مجموعهای از اصول و ملاحظات برای طراحی، توسعه و استفاده مسئولانه از این فناوری است. عدالت، حریم خصوصی، شفافیت، ایمنی، پاسخگویی، نظارت انسانی و آثار اجتماعی و زیستمحیطی از مهمترین موضوعات این حوزهاند.
یونسکو در توصیهنامه جهانی اخلاق هوش مصنوعی، مصوب سال ۲۰۲۱، حفاظت از حقوق بشر و کرامت انسانی را مبنای این رویکرد قرار داده است. اصول سازمان همکاری و توسعه اقتصادی (OECD) و چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استانداردها و فناوری آمریکا (NIST) نیز بر موضوعاتی مانند انصاف، امنیت، توضیحپذیری و پاسخگویی تأکید دارند.
چرا اخلاق هوش مصنوعی اهمیت دارد؟
هوش مصنوعی میتواند توانایی انسان را در بسیاری از زمینهها افزایش دهد، اما در صورت طراحی یا استفاده نامناسب، ممکن است به افراد و گروهها آسیب بزند. الگوریتمی که با دادههای ناقص یا سوگیرانه آموزش دیده باشد، احتمال دارد تبعیضهای موجود را بازتولید کند. ابزار تولید محتوا نیز میتواند متن، تصویر، صدا یا ویدئویی بسازد که تشخیص ساختگیبودن آن دشوار باشد.
تأثیر خطای یک سامانه همواره محدود به یک کاربر نیست. اگر ابزاری در مقیاس گسترده استفاده شود، یک نقص کوچک میتواند بر تعداد زیادی از افراد اثر بگذارد. به همین دلیل، ملاحظات اخلاقی باید از انتخاب داده و طراحی سامانه تا ارزیابی، استقرار و استفاده نهایی در نظر گرفته شوند.
عدالت و تبعیض الگوریتمی؛ وقتی دادهها بیطرف نیستند
یکی از مهمترین نگرانیها، تبعیض الگوریتمی است. گاهی تصور میشود چون رایانه احساسات یا پیشداوری انسانی ندارد، تصمیم آن نیز بیطرف است؛ اما این نتیجه همیشه درست نیست. مدلهای هوش مصنوعی از دادههای انسانی میآموزند و این دادهها ممکن است بازتابدهنده نابرابریهای گذشته یا کمبود نمایندگی برخی گروهها باشند.
برای نمونه، اگر سامانهای برای ارزیابی متقاضیان شغلی با دادههای تاریخی استخدام یک سازمان آموزش ببیند، ممکن است الگوهایی را یاد بگیرد که به زیان گروههایی تمام شود که در گذشته کمتر استخدام شدهاند.
حذف یک متغیر، مانند جنسیت یا قومیت، لزوماً مشکل را برطرف نمیکند؛ زیرا متغیرهای دیگری ممکن است بهطور غیرمستقیم اطلاعات مشابهی را منتقل کنند. رسیدگی به این مسئله نیازمند بررسی دادهها، آزمون منظم سامانه و پایش پیامدهای آن در عمل است.
حریم خصوصی و حفاظت از دادهها
بسیاری از سامانههای هوش مصنوعی برای آموزش، ارزیابی یا ارائه خدمات به داده نیاز دارند. همین موضوع پرسشهایی را درباره جمعآوری و استفاده از اطلاعات ایجاد میکند: چه دادهای گردآوری میشود؟ از کجا آمده است؟ چه کسانی به آن دسترسی دارند؟ چه مدت نگهداری میشود؟ و آیا افراد میدانند اطلاعاتشان برای چه منظوری استفاده میشود؟
این پرسشها درباره دادههای سلامت، موقعیت مکانی، اطلاعات مالی، مکالمات شخصی و هر دادهای که بتواند هویت فرد را آشکار کند، اهمیت بیشتری دارند. حریم خصوصی فقط به زمان جمعآوری اطلاعات مربوط نیست؛ امنیت ذخیرهسازی، محدودکردن دسترسی، نحوه پردازش و حذف دادهها را هم دربرمیگیرد.
برای کاربران عادی نیز یک قاعده ساده کاربردی است: اطلاعات شخصی یا محرمانهای را که برای انجام کار ضروری نیست، صرفاً از روی راحتی در اختیار ابزار هوش مصنوعی نگذارید.
شفافیت و توضیحپذیری؛ چرا باید مبنای تصمیم را بدانیم؟
گاهی کاربر نتیجه یک سامانه را میبیند، اما نمیداند سامانه چگونه به آن رسیده است. این موضوع در تصمیمهایی که ممکن است بر استخدام، دریافت خدمات یا حقوق افراد اثر بگذارند، اهمیت ویژهای دارد.
شفافیت و توضیحپذیری به هم مرتبطاند، اما یکسان نیستند. شفافیت میتواند شامل ارائه اطلاعات درباره هدف، محدودیتها و شیوه استفاده از سامانه باشد. توضیحپذیری بیشتر به این مربوط میشود که بتوان خروجی یا تصمیم مشخصی را برای مخاطب توضیح داد.
توضیح مناسب باید به فرد کمک کند محدودیتهای سامانه و عوامل مؤثر بر نتیجه را بفهمد و در صورت لزوم بتواند تصمیم زیانبار را به چالش بکشد. در عین حال، توضیح ساده نباید تصویری نادرست از سازوکار واقعی سامانه بسازد.
مسئولیتپذیری؛ اگر هوش مصنوعی اشتباه کند، چه کسی پاسخگوست؟
مسئولیت خطای یک سامانه هوش مصنوعی ممکن است میان چند بازیگر تقسیم شود: سازنده مدل، ارائهدهنده خدمات، سازمانی که آن را به کار گرفته و فردی که خروجی را در تصمیمگیری استفاده کرده است. میزان مسئولیت هر طرف به نقش، اختیار و کنترل او بر سامانه بستگی دارد.
برای مثال، اگر سازمانی از هوش مصنوعی برای بررسی درخواستهای استخدام استفاده کند، نمیتواند مسئولیت تصمیم را به گردن «الگوریتم» بیندازد. سازمان باید درباره نحوه استفاده از ابزار، نظارت بر عملکرد آن، بررسی خطاها و رسیدگی به اعتراضها پاسخگو باشد.
بهکارگیری هوش مصنوعی نباید به راهی برای فرار افراد یا سازمانها از مسئولیت تبدیل شود. ثبت فرایندها و نگهداری سوابق مرتبط نیز میتواند به بررسی و پیگیری خطاها کمک کند.
نظارت انسانی؛ انسان باید چه نقشی داشته باشد؟
در کاربردهایی که خروجی هوش مصنوعی ممکن است بر سلامت، امنیت، حقوق یا آینده افراد اثر جدی بگذارد، نظارت انسانی اهمیت بالایی دارد. این نظارت نباید به تأیید صوری خروجی محدود شود؛ فرد مسئول باید توانایی فهم و بررسی نتیجه را داشته باشد و در صورت نیاز بتواند آن را رد یا اصلاح کند.
میزان نظارت لازم به پیامد احتمالی خطا بستگی دارد. برای یک کار کمخطر، خودکارسازی بیشتر ممکن است پذیرفتنی باشد؛ اما در تصمیمهای حساس، بررسی انسانی میتواند ضروریتر باشد. بنابراین «انسان در حلقه تصمیمگیری» نسخهای یکسان برای همه کاربردها نیست و باید با سطح ریسک متناسب شود.
ایمنی و امنیت؛ دقت بهتنهایی کافی نیست
سامانه هوش مصنوعی باید نهفقط در شرایط عادی، بلکه تا حد امکان در برابر خطا، سوءاستفاده و شرایط پیشبینینشده نیز مقاوم باشد. نقص فنی یا ضعف امنیتی ممکن است پیامد انسانی داشته باشد؛ به همین دلیل ایمنی و امنیت بخشی از بحث اخلاقی این فناوریاند.
چارچوب NIST برای مدیریت ریسک هوش مصنوعی، ویژگیهایی مانند اعتبار و قابلیت اعتماد، ایمنی، امنیت و تابآوری، شفافیت، توضیحپذیری، حریم خصوصی و انصاف را در کنار هم بررسی میکند. گاهی میان این ویژگیها موازنههایی وجود دارد؛ ازاینرو ارزیابی سامانه باید متناسب با کاربرد و میزان خطر آن انجام شود.
هوش مصنوعی، حق مؤلف و مالکیت فکری
آموزش مدلهای مولد با حجم زیادی از داده، پرسشهایی درباره منبع آثار، مجوز استفاده و حقوق نویسندگان، هنرمندان، عکاسان، برنامهنویسان و ناشران ایجاد کرده است. این بحث تنها فنی نیست؛ صاحبان آثار میخواهند بدانند محتوایشان چگونه در آموزش مدلها به کار رفته و استفاده از خروجی تولیدشده تحت چه شرایطی مجاز است.
قوانین کشورها در این زمینه یکسان نیستند و همچنان در حال تغییرند. با این حال، از منظر اخلاقی، شفافیت درباره دادهها و توجه به حقوق پدیدآورندگان و دیگر ذینفعان اهمیت دارد.
آینده مشاغل؛ مسئله فقط بیکاری نیست
پرسش «آیا هوش مصنوعی شغل انسانها را میگیرد؟» تنها بخشی از بحث است. این فناوری ممکن است بعضی وظایف را خودکار کند، بهرهوری را افزایش دهد یا ماهیت کار را تغییر دهد. در نتیجه، پرسشهای دیگری نیز مطرح میشوند: منافع افزایش بهرهوری چگونه توزیع میشود؟ آیا کارکنان برای استفاده از ابزارهای تازه آموزش میبینند؟ آیا نظارت الگوریتمی در محیط کار به حریم خصوصی آنها آسیب میزند؟ و آیا استخدام و ارزیابی عملکرد همچنان منصفانه خواهد بود؟
اخلاق هوش مصنوعی در بازار کار فقط به تعداد مشاغل مربوط نیست؛ کیفیت کار، اختیار انسان، دسترسی برابر به فرصتها و تقسیم منافع فناوری نیز اهمیت دارند.
اثرات زیستمحیطی هوش مصنوعی
هوش مصنوعی در فضای دیجیتال محدود نمیماند. آموزش و اجرای مدلهای بزرگ به زیرساخت محاسباتی، مراکز داده و مصرف انرژی نیاز دارد و در برخی موارد منابع آب نیز درگیر میشوند. بنابراین آثار زیستمحیطی باید در کنار منافع فناوری بررسی شوند.
پرسش اخلاقی این است که آیا میتوان فواید یک سامانه را بدون محاسبه هزینههای زیستمحیطی آن سنجید؟ ارزیابی چرخه عمر فناوری، بهرهوری زیرساختها و مصرف منابع میتواند تصویر کاملتری از پیامدهای توسعه هوش مصنوعی به دست دهد.
شفافیت درباره محتوای تولیدشده با هوش مصنوعی
در برخی موقعیتها، دانستن اینکه متن، تصویر، صدا یا ویدئو با هوش مصنوعی ساخته یا دستکاری شده، اهمیت دارد؛ بهویژه در خبر، تبلیغات، آموزش و محتوای سیاسی یا اجتماعی.
در اتحادیه اروپا، قانون هوش مصنوعی رویکردی مبتنی بر سطح ریسک دارد و برای برخی سامانهها و محتواها تعهدات شفافیت در نظر گرفته است. کمیسیون اروپا اعلام کرده برخی تعهدات مربوط به ماده ۵۰ این قانون از ۲ اوت ۲۰۲۶ برای موارد مشمول قابل اجرا شدهاند. جزئیات و دامنه مقررات، با توجه به نوع کاربرد و حوزه قضایی، متفاوت است.
اخلاق هوش مصنوعی مسئولیت چه کسانی است؟
مسئولیت اخلاقی فقط بر عهده شرکتهای سازنده نیست. توسعهدهندگان، ارائهدهندگان خدمات، سازمانهای استفادهکننده، کاربران حرفهای و نهادهای قانونگذار هم نقش دارند. یک مدل ممکن است از نظر فنی مناسب طراحی شده باشد، اما سازمانی از آن در کاربردی نامناسب استفاده کند؛ یا کارکنان، خروجی یک ابزار را بدون بررسی منتشر کنند.
NIST هوش مصنوعی را سامانهای «اجتماعی ـ فنی» میداند؛ یعنی عملکرد و خطر آن تنها به الگوریتم وابسته نیست و عوامل انسانی، سازمانی، دادهها و شیوه استفاده نیز در آن نقش دارند. به همین دلیل، ملاحظات اخلاقی باید در تمام چرخه عمر فناوری، از طراحی و انتخاب داده تا استفاده، ارزیابی و اصلاح، دیده شوند.
چگونه از هوش مصنوعی مسئولانه استفاده کنیم؟
کاربران نیز میتوانند چند اصل ساده را رعایت کنند:
- خروجی هوش مصنوعی را بدون بررسی، حقیقت قطعی ندانند.
- اطلاعات شخصی یا محرمانه را بیدلیل وارد سامانه نکنند.
- برای اطلاعات مهم، منبع معتبر را بررسی کنند.
- در استفاده از آثار دیگران به حق مؤلف و مجوزها توجه داشته باشند.
- در تصمیمهای حساس، قضاوت انسانی را کاملاً به الگوریتم واگذار نکنند.
- اگر خروجی ممکن است به فرد یا گروهی آسیب بزند، پیامد آن را پیش از انتشار یا استفاده بسنجند.
- در صورت لزوم و متناسب با زمینه، درباره استفاده از هوش مصنوعی شفاف باشند.
جمعبندی؛ فناوری باید در خدمت انسان باشد
اخلاق در هوش مصنوعی مجموعهای از شعارهای کلی درباره «خوببودن فناوری» نیست؛ موضوع آن تصمیمهای واقعی است: چه دادهای جمعآوری شود، چه کسی به آن دسترسی داشته باشد، سامانه چگونه ارزیابی شود، خطا چطور شناسایی شود، فرد چگونه بتواند تصمیمی را به چالش بکشد و چه کسی مسئول پیامدهای استفاده از فناوری باشد.
توصیهنامه یونسکو، اصول OECD و چارچوب مدیریت ریسک NIST، با وجود تفاوت در هدف و ساختار، بر حقوق و کرامت انسان، عدالت، حریم خصوصی، شفافیت، امنیت، نظارت و پاسخگویی تأکید دارند.
در زندگی روزمره نیز مسئولانهبودن از انتخابهای ساده شروع میشود: هر پاسخ را حقیقت قطعی ندانیم، اطلاعات حساس را بیدلیل در اختیار سامانه نگذاریم، منابع را بررسی کنیم، درباره محتوای مصنوعی شفاف باشیم و در تصمیمهای مهم، قضاوت انسانی را کنار نگذاریم.
هوش مصنوعی میتواند ابزاری قدرتمند برای افزایش توانایی انسان باشد؛ اما اینکه این قدرت چگونه و به سود چه کسانی به کار گرفته شود، فقط مسئلهای فنی نیست. این پرسشی انسانی، اجتماعی و زیستمحیطی است.
57