هوش مصنوعی در پزشکی: خطر “تقلب” الگوریتم‌ها که جان بیماران را تهدید می‌کند!

مشکلات استفاده از هوش مصنوعی در تصویربرداری پزشکی

هوش مصنوعی می‌تونه یه کمک بزرگ باشه برای متخصصای بهداشت و درمان و محققین که بخوان تصاویر تشخیصی رو تفسیر کنن. یه رادیولوژیست می‌تونه شکستگی‌ها و بقیه ناهنجاری‌ها رو توی عکس‌های رادیولوژی تشخیص بده، ولی مدل‌های هوش مصنوعی می‌تونن چیزایی رو ببینن که چشم انسان نمی‌بینه و این خودش یه فرصت طلاییه برای بهتر کردن تصویربرداری پزشکی. اما یه تحقیق توی مجله‌ی Scientific Reports یه مشکل پنهونی رو نشون می‌ده که سر استفاده از هوش مصنوعی توی تحقیقات تصویربرداری پزشکی وجود داره — یه پدیده به اسم “یادگیری میان‌بُر” که نتیجه‌های خیلی دقیقی به دست میاره ولی ممکنه گمراه‌کننده باشه.

محقق‌ها بیشتر از ۲۵,۰۰۰ عکس رادیولوژی از زانو رو از پروژه آرتروز بررسی کردن که پولش رو مؤسسه ملی بهداشت داده بود. نتیجه این شد که مدل‌های هوش مصنوعی تونستن چیزهای بی‌ربط و عجیبی رو “پیش‌بینی” کنن، مثلاً اینکه مریض ها لوبیا سرخ‌کرده خوردن یا آبجو. در حالی که این پیش‌بینی‌ها هیچ ربطی به پزشکی نداشتن، مدل‌ها با استفاده از الگوهای ظریف و ناخواسته‌ای که توی اطلاعات بود، به دقت‌های خیره‌کننده‌ای رسیدن.

دکتر پیتر شیلینگ، که سرپرست این تحقیق بوده و جراح ارتوپدی توی مرکز پزشکی Dartmouth Hitchcock و استاد ارتوپدی توی مدرسه پزشکی Geisel دانشگاه Dartmouth هست، میگه: “درسته که هوش مصنوعی می‌تونه تصویربرداری پزشکی رو متحول کنه، ولی باید خیلی مراقب باشیم.” اون ادامه میده: “این مدل‌ها می‌تونن الگوهایی رو پیدا کنن که انسان‌ها نمی‌تونن ببینن، اما همه‌ی الگوهایی که پیدا می‌کنن درست یا قابل اعتماد نیستن. خیلی مهمه که این ریسک‌ها رو بشناسیم تا جلوی نتیجه‌های گمراه‌کننده رو بگیریم و علم رو سالم نگه داریم.”

محقق‌ها بررسی کردن که چطوری الگوریتم‌های هوش مصنوعی معمولاً به چیزهایی که باعث اشتباه میشن — مثل تفاوت‌های تجهیزات رادیولوژی یا علائم کلینیکی — تکیه می‌کنن، به جای اینکه به ویژگی‌های پزشکی مهم توجه کنن.

مشکلات پیش روی هوش مصنوعی توی تحقیقات پزشکی

تلاش‌ها برای از بین بردن این تعصب‌ها فقط یه کمی جواب داده، چون مدل‌های هوش مصنوعی فقط دارن الگوهای پنهان داده‌های دیگه رو “یاد می‌گیرن”. براندون هیل، که یکی از نویسنده‌های این تحقیقه و یه دانشمند یادگیری ماشین توی دانشگاه دارتموث هیتچک هست، میگه: “این موضوع خیلی بزرگ‌تر از تعصباتیه که از نژاد یا جنسیت میان.” و ادامه میده:”ما فهمیدیم که الگوریتم حتی می‌تونست سالی که عکس رادیولوژی گرفته شده رو پیش‌بینی کنه. این خطرناکه، چون وقتی جلوی یادگیری یه چیز رو می‌گیری، الگوریتم میره سراغ یه چیز دیگه که قبلاً بهش توجه نکرده بود.” این خطر می‌تونه منجر به ادعاهای اشتباه بشه و محقق‌ها باید حواسشون باشه که این اتفاق خیلی راحت می‌افته وقتی که از این تکنولوژی استفاده می‌کنن.

این یافته‌ها نشون میده که توی تحقیقات پزشکی که از هوش مصنوعی استفاده می‌کنن، استانداردهای دقیق ارزیابی چقدر مهم هستن. اگه بدون بررسی دقیق، فقط به الگوریتم‌های استاندارد اعتماد کنیم، ممکنه به نتیجه‌های اشتباه توی تشخیص بیماری و درمان‌های غلط برسیم. هیل میگه: “وقتی می‌خوایم از مدل‌ها برای پیدا کردن الگوهای جدید توی پزشکی استفاده کنیم، دیگه باید خیلی مطمئن باشیم که درست دارن کار می‌کنن.” و اضافه میکنه:”یه قسمتی از مشکل، اینه که خودمون تعصب داریم. خیلی راحته که فکر کنیم مدل همون‌جوری نگاه می‌کنه که ما نگاه می‌کنیم. ولی در واقع، این‌طور نیست.“

هیل ادامه میده: “هوش مصنوعی تقریباً مثل اینه که با یه موجود فضایی طرف باشی.” و می‌گه: “آدم می‌خواد بگه که مدل “تقلب” می‌کنه، ولی این یه جورایی انسان‌انگاری فناوریه. اون یه راهی یاد گرفته که کاری رو که بهش سپردیم انجام بده، ولی لزوماً به روشی که یه آدم انجام میده، نه. اون منطق یا دلیل و برهانی نداره که ما ازش استفاده می‌کنیم.“

مشکلات و پیچیدگی‌های این موضوع، توی تحقیقاتی که شیلینگ، هیل و فرانسیس کوباچ (که یکی از نویسنده‌های این تحقیقه و دانشجوی سال سوم پزشکی توی مدرسه گایزل دارتموثه) انجام دادن، کاملاً مشخصه. این تحقیق با همکاری مرکز پزشکی امور کهنه‌سربازان در وایت ریور جانکشن، ورمونت انجام شده.