تبعیض جنسیتی در پزشکی هوش مصنوعی!

تحقیقات اخیر نشان می‌دهد که مدل‌های هوش مصنوعی در حوزه پزشکی، به ویژه برای زنان و افراد رنگین‌پوست، نتایج ضعیف‌تری تولید می‌کنند. بر اساس یک مطالعه از محققان MIT، مدل‌هایی مانند GPT-4 و Llama 3 بیشتر احتمال دارد که خدمات کمتری به بیماران زن ارائه دهند و به آنها توصیه کنند که "خودمدیریت کنند".

این سوگیری نه تنها در مدل‌های عمومی بلکه در مدل‌های بهداشتی مانند Palmyra-Med نیز مشاهده شده است. مطالعات دیگر مانند بررسی مدل Gemma گوگل نیز نشان داده‌اند که نیازهای زنان کمتر مورد توجه قرار می‌گیرد. همچنین، مدل‌ها در برخورد با افراد رنگین‌پوست در مسائل سلامت روان نیز دچار مشکلاتی هستند.

این موضوع نگرانی‌های جدی را برای استفاده از هوش مصنوعی در بیمارستان‌ها و مراکز درمانی به وجود آورده است. با توجه به اینکه شرکت‌هایی مانند گوگل، متا و OpenAI در تلاش برای ورود به این بازار بزرگ و سودآور هستند، سوگیری‌های نادرست می‌تواند عواقب خطرناکی داشته باشد. در این شرایط، باید به دقت بررسی شود که آیا پزشکان به این سوگیری‌ها آگاه هستند یا خیر. /