کشف حقیقت: آیا زانو‌نگاری‌ها رابطه‌ای با مصرف آبجو دارند؟

چالش‌های استفاده از هوش مصنوعی در تصویربرداری پزشکی

هوش مصنوعی می‌تواند ابزاری مفید برای حرفه‌ای‌های بهداشت و درمان و پژوهشگران در تفسیر تصاویر تشخیصی باشد. جایی که یک رادیولوژیست می‌تواند شکستگی‌ها و سایر ناهنجاری‌ها را از روی اشعه ایکس شناسایی کند، مدل‌های هوش مصنوعی قادرند الگوهایی را تشخیص دهند که انسان‌ها نمی‌توانند و این موضوع فرصتی برای افزایش کارایی تصویربرداری پزشکی فراهم می‌کند. اما یک مطالعه در Scientific Reports چالشی پنهان در استفاده از هوش مصنوعی در تحقیقات تصویربرداری پزشکی را برجسته می‌کند — پدیده‌ای به نام «یادگیری میان‌بر» که نتایج بسیار دقیقی را ارائه می‌دهد اما ممکن است گمراه‌کننده باشد.

پژوهشگران بیش از ۲۵,۰۰۰ اشعه ایکس زانو را از پروژه آرتروز که توسط مؤسسه ملی بهداشت تأمین مالی شده است، تحلیل کردند و دریافتند که مدل‌های هوش مصنوعی می‌توانند ویژگی‌های نامربوط و غیرقابل باوری را «پیش‌بینی» کنند؛ به عنوان مثال، تعیین اینکه آیا بیماران از خوردن لوبیا سرخ‌کرده یا آبجو خودداری کرده‌اند یا خیر. در حالی که این پیش‌بینی‌ها هیچ مبنای پزشکی ندارند، مدل‌ها با بهره‌گیری از الگوهای ظریف و ناخواسته در داده‌ها، به سطوح دقت شگفت‌انگیزی دست یافتند.

دکتر پیتر شیلینگ، نویسنده ارشد این مطالعه و جراح ارتوپدی در مرکز پزشکی Dartmouth Hitchcock و استاد یار ارتوپدی در مدرسه پزشکی Geisel دانشگاه Dartmouth، می‌گوید: «در حالی که هوش مصنوعی پتانسیل تغییر تصویربرداری پزشکی را دارد، باید محتاط باشیم.» او ادامه می‌دهد: «این مدل‌ها می‌توانند الگوهایی را شناسایی کنند که انسان‌ها نمی‌توانند، اما همه الگوهایی که تشخیص می‌دهند، معنادار یا قابل اعتماد نیستند. شناسایی این ریسک‌ها برای جلوگیری از نتایج گمراه‌کننده و حفظ یکپارچگی علمی بسیار مهم است.»

پژوهشگران بررسی کردند که چگونه الگوریتم‌های هوش مصنوعی غالباً به متغیرهای مخدوش‌کننده — مانند تفاوت‌های تجهیزات اشعه ایکس یا نشانه‌های محل بالینی — برای پیش‌بینی تکیه می‌کنند، نه ویژگی‌های پزشکی معنادار.

چالش‌های پیش‌روی هوش مصنوعی در تحقیقات پزشکی

تلاش‌ها برای حذف این تعصبات تنها به‌طور جزئی موفقیت‌آمیز بوده است؛ زیرا مدل‌های هوش مصنوعی به سادگی الگوهای پنهان داده‌های دیگر را “یاد می‌گیرند”. براندون هیل، یکی از نویسندگان این مطالعه و دانشمند یادگیری ماشین در دانشگاه دارتموث هیتچک، می‌گوید: “این موضوع فراتر از تعصب ناشی از نشانه‌های نژاد یا جنسیت است.” او ادامه می‌دهد: “ما متوجه شدیم که الگوریتم حتی می‌تواند سالی که یک عکس رادیولوژی گرفته شده را پیش‌بینی کند. این موضوع خطرناک است؛ زیرا وقتی از یادگیری یکی از این عناصر جلوگیری می‌کنید، الگوریتم به جای آن، به یادگیری عنصر دیگری که قبلاً نادیده گرفته بود می‌پردازد.” این خطر می‌تواند منجر به ادعاهای نادرست شود و محققان باید از این موضوع آگاه باشند که این اتفاق به راحتی در حین استفاده از این تکنیک رخ می‌دهد.

یافته‌ها بر ضرورت وجود استانداردهای ارزیابی دقیق در تحقیقات پزشکی مبتنی بر هوش مصنوعی تأکید می‌کند. اتکا بیش از حد به الگوریتم‌های استاندارد بدون بررسی عمیق‌تر می‌تواند به بینش‌های بالینی نادرست و مسیرهای درمانی غلط منجر شود. هیل می‌گوید: “بار اثبات زمانی که به استفاده از مدل‌ها برای کشف الگوهای جدید در پزشکی می‌رسد، به شدت افزایش می‌یابد.” او اضافه می‌کند: “بخشی از مشکل تعصب خود ماست. بسیار آسان است که به دام این فرض بیفتیم که مدل همان‌طور که ما می‌بینیم، ‘می‌بیند’. در نهایت، این‌طور نیست.”

هیل ادامه می‌دهد: “هوش مصنوعی تقریباً مانند برخورد با یک هوش بیگانه است.” او می‌گوید: “شما می‌خواهید بگویید که مدل ‘تقلب’ می‌کند، اما این به نوعی انسان‌انگاری فناوری است. آن یک راه برای حل وظیفه‌ای که به آن داده شده یاد گرفته است، اما نه لزوماً به شیوه‌ای که یک انسان انجام می‌دهد. آن منطق یا استدلال به معنای معمول ما را ندارد.”

چالش‌ها و پیچیدگی‌های این زمینه، در مطالعاتی که شیلینگ، هیل و فرانسیس کوباچ، یکی از نویسندگان این مطالعه و دانشجوی سال سوم پزشکی در مدرسه گایزل دارتموث، انجام دادند، به وضوح مشهود است؛ این مطالعه با همکاری مرکز پزشکی امور کهنه‌سربازان در وایت ریور جانکشن، ورمونت صورت گرفته است.