هوش مصنوعی ذهن شما را هم فریب می دهد؟ کشف خطرناک سوگیری جدید

هوش مصنوعی و تاثیرش بر سوگیری‌های انسانی

یه پژوهش جدید تو دانشگاه UCL نشون میده که سامانه‌های هوش مصنوعی (AI) تمایل دارن سوگیری‌های انسانی رو تقلید کنن و حتی بیشترشون کنن. این موضوع باعث میشه کسایی که از این هوش مصنوعی استفاده می‌کنن، خودشونم متعصب‌تر بشن. طبق یافته‌هایی که توی مجله Nature Human Behaviour منتشر شده، سوگیری‌های آدمیزاد و هوش مصنوعی می‌تونن یه چرخهٔ بازخوردی ایجاد کنن. تو این چرخه، سوگیری‌های کوچیک اولیه، خطر اشتباه انسانی رو بالا می‌برن.

محقق‌ها فهمیدن که سوگیری تو هوش مصنوعی می‌تونه عواقب جدی داشته باشه. اونا دیدن افرادی که با یه هوش مصنوعیِ سوگیرانه سروکار داشتن، بیشتر احتمال داشت که عملکرد زن‌ها رو دست‌کم بگیرن و احتمال موفقیت مردای سفیدپوست تو کارهای با موقعیت بالا رو اغراق کنن. پروفسور Tali Sharot، نویسندهٔ همکار این تحقیق از دانشگاه UCL، گفت: «آدم‌ها ذاتاً سوگیری دارن، واسه همین وقتی ما سامانه‌های هوش مصنوعی رو بر اساس داده‌هایی که انسان‌ها جمع‌آوری کردن آموزش میدیم، الگوریتم‌های هوش مصنوعی سوگیری‌های انسانی موجود تو اون داده‌ها رو یاد می‌گیرن. بعدش هوش مصنوعی تمایل داره از این سوگیری‌ها استفاده کنه و اونارو برای بهبود دقت پیش‌بینیش، تشدید کنه.»

اون ادامه داد: «ما اینجا فهمیدیم که افرادی که با سامانه‌های سوگیرانهٔ هوش مصنوعی کار می‌کنن، ممکنه خودشونم حتی بیشتر سوگیری پیدا کنن. این می‌تونه یه اثر بهمن‌وار درست کنه که توش سوگیری‌های جزئی تو داده‌های اولیه، توسط هوش مصنوعی تقویت می‌شن و باعث افزایش سوگیری‌های فردی میشن که از اون هوش مصنوعی استفاده می‌کنه.»

محقق‌ها یه سری آزمایش با بیش از ۱۲۰۰ نفر شرکت‌کننده انجام دادن که داشتن یه سری کار انجام می‌دادن و با سامانه‌های هوش مصنوعی در ارتباط بودن. به عنوان پیش‌زمینهٔ یکی از آزمایشا، محقق‌ها یه الگوریتم هوش مصنوعی رو براساس داده‌هایی که از پاسخ‌های شرکت‌کننده‌ها جمع شده بود، آموزش دادن. از افراد خواسته شد نظر بدن که آیا یه سری چهره تو عکس خوشحال به نظر میرسن یا ناراحت. اونا تمایل کمتری به ناراحت دونستن چهره‌ها داشتن تا خوشحال دونستنشون. هوش مصنوعی این سوگیری رو یاد گرفت و خیلی بیشترش کرد، جوری که تو قضاوت دربارهٔ ناراحتیِ چهره‌ها، سوگیری نشون میداد.

بعد یه گروه دیگه از شرکت‌کننده‌ها همون کار رو انجام دادن، اما بهشون گفته شد که هوش مصنوعی در مورد هر عکس چه نظری داده. بعد از اینکه یه مدتی با این سامانه هوش مصنوعی کار کردن، این گروه از افراد سوگیری هوش مصنوعی رو درونی کردن و بیشتر احتمال داشت که بگن چهره‌ها ناراحت به نظر میرسن، نسبت به قبل از اینکه با هوش مصنوعی کار کنن.

تاثیر سوگیری‌های هوش مصنوعی بر قضاوت‌های انسانی

این نشون میده که هوش مصنوعی از یه مجموعه داده‌های انسانیِ سوگیرانه یاد گرفته و بعدش سوگیری‌های ذاتی یه گروه دیگه از آدم‌ها رو تشدید کرده. محقق‌ها نتایج مشابهی رو تو آزمایش‌هایی با کارهای خیلی مختلف، از جمله ارزیابی جهت حرکت یه سری نقطه روی صفحه نمایش یا ارزیابی عملکرد یه نفر تو یه وظیفه، به‌دست آوردن. تو این آزمایشا، افراد به‌خصوص تمایل داشتن عملکرد مردها رو بعد از اینکه با یه سامانهٔ هوش مصنوعیِ سوگیرانه کار کردن، که با سوگیری جنسیتی طراحی شده بود تا سوگیری‌های خیلی از هوش‌های مصنوعی موجود رو تقلید کنه، بیش از حد ارزیابی کنن. شرکت‌کننده‌ها عموماً از میزان تاثیر هوش مصنوعی بی‌خبر بودن.

وقتی به افراد به‌اشتباه گفته می‌شد که دارن با یه نفر دیگه تعامل می‌کنن، در حالی که در واقع با یه هوش مصنوعی در حال تعامل بودن، اونا کم‌تر سوگیری‌ها رو قبول می‌کردن. محقق‌ها میگن این ممکنه به این خاطر باشه که مردم انتظار دارن هوش مصنوعی تو بعضی کارا دقیق‌تر از انسان باشه. محقق‌ها همچنین آزمایش‌هایی با یه سامانهٔ هوش مصنوعی تولیدیِ پرکاربرد به اسم Stable Diffusion انجام دادن. تو یکی از آزمایشا، از هوش مصنوعی خواسته شد عکس‌هایی از مدیران مالی تولید کنه که نتیجه‌اش سوگیرانه بود، چون مردای سفیدپوست بیشتر از سهم واقعی‌شون نشون داده شدن.

بعدش، از شرکت‌کننده‌ها خواسته شد یه سری عکس پرتره رو ببینن و انتخاب کنن که کدوم فرد احتمالاً مدیر مالیه، هم قبل از اینکه تصاویر تولید شده توسط هوش مصنوعی رو ببینن و هم بعدش. محقق‌ها فهمیدن که شرکت‌کننده‌ها بعد از دیدن تصاویر تولید شده توسط Stable Diffusion، بیشتر تمایل داشتن این رو نشون بدن که یه مرد سفیدپوست احتمالاً مدیر مالیه، نسبت به قبل از دیدن این تصاویر.

دکتر موشه گلیکمن، نویسندهٔ اصلی این تحقیق از دانشگاه UCL و مرکز ماکس پلانک UCL برای روانپزشکی محاسباتی و تحقیقات پیری، گفت: «نه تنها افراد سوگیرانه به ساخت هوش‌های مصنوعی سوگیرانه کمک می‌کنن، بلکه سامانه‌های هوش مصنوعی سوگیرانه می‌تونن باورهای خود افراد رو عوض کنن، جوری که کسایی که از ابزارهای هوش مصنوعی استفاده می‌کنن ممکنه تو زمینه‌هایی از قضاوت‌های اجتماعی تا درک‌های پایه‌ای، سوگیری بیشتری پیدا کنن.» اون اضافه کرد: «این هم مهمه که ما فهمیدیم تعامل با هوش‌های مصنوعی دقیق می‌تونه قضاوت‌های افراد رو بهتر کنه، واسه همین مهمه که سامانه‌های هوش مصنوعی طوری اصلاح بشن که تا جای ممکن غیرسوگیرانه و دقیق باشن.»

پروفسور شاروط هم اضافه کرد: «کسایی که الگوریتم‌ها رو می‌سازن، مسئولیت بزرگی تو طراحی سامانه‌های هوش مصنوعی دارن؛ چون تاثیر سوگیری‌های هوش مصنوعی می‌تونه پیامدهای عمیقی داشته باشه، به‌خصوص حالا که هوش مصنوعی داره بیشتر و بیشتر تو خیلی از جنبه‌های زندگی ما رایج میشه.»