یک پژوهش جدید نشان میدهد که پاسخهای هوش مصنوعی به سوالات پزشکی، میتواند گمراهکننده و حتی خطرناک باشد. این یافتهها، هشداری جدی برای استفاده از این فناوری در مسائل مربوط به سلامت است.
با افزایش گرایش مردم به استفاده از هوش مصنوعی برای دریافت پاسخهای سریع به سوالات پزشکی، یک مطالعهٔ جدید نشان میدهد که توصیههای ارائهشده توسط این فناوریها، گاهی ناقص، گمراهکننده یا حتی زیانبار هستند.
محققان با آزمایش چندین چتبات محبوب هوش مصنوعی، به بررسی چگونگی پاسخدهی آنها به سوالات رایج پزشکی، بهویژه در موضوعاتی که مستعد اطلاعات نادرست هستند، پرداختند. نتایج این پژوهش که اخیراً منتشر شده، نگرانیهایی را بهوجود آوردهاست.
در این مطالعه، نزدیک به نیمی از پاسخهای چتباتها «مشکلدار» ارزیابی شدند. حدود ۳۰ درصد از پاسخها «تا حدودی مشکلدار» بودند، به این معنی که اطلاعات کاملی نداشتند، در حالی که ۱۹.۶ درصد «بسیار مشکلدار یا گیجکننده» در نظر گرفتهشدند، زیرا اطلاعات نادرست یا گمراهکنندهای ارائه میدادند.
تیم تحقیق، ابزارهایی از جمله چتجیپیتی را مورد آزمایش قرار دادند و سوالاتی در مورد موضوعاتی مانند سرطان، واکسنها و ارتباط احتمالی فناوری 5G یا ضدتعریقها با سرطان مطرح کردند. در حالیکه بسیاری از پاسخها شامل هشدارهای دقیقی بودند، برخی از آنها ایدههای خطرناکی را مطرح میکردند.
بهعنوان مثال، در مورد جایگزینهای شیمیدرمانی، چتباتها اغلب اعلام میکردند که این گزینهها اثباتشده نیستند، اما در عینحال درمانهایی مانند طب سوزنی، داروهای گیاهی و رژیمهای غذایی خاص را پیشنهاد میدادند و حتی افراد را به کلینیکهایی که این خدمات را ارائه میدهند، راهنمایی میکردند.
محققان این پدیده را «توازن کاذب» یا تعادل نادرست نامیدند، که در آن اطلاعات علمی و غیرعلمی بهطور یکسان وزن داده میشود. پزشکان نسبت به این نوع پیامرسانی هشدار دادهاند، زیرا میتواند پیامدهای مضری بهدنبال داشتهباشد.
دکتر مایکل فوت، استادیار یک مرکز سرطان در نیویورک، تأکید کرد: «برخی از این موارد مستقیماً به مردم آسیب میرسانند. برخی از این داروها توسط سازمان غذا و داروی آمریکا تأیید نشدهاند و میتوانند به کبد و متابولیسم آسیب برسانند. همچنین، برخی از این توصیهها بهدلیل اینکه بیماران به آنها تکیه میکنند و درمانهای مرسوم را کنار میگذارند، خطرناک هستند.»
دکتر فوت افزود که هوش مصنوعی میتواند ترسهای بیهودهای را نیز ایجاد کند. وی گفت: «با بیمارانی مواجه شدهام که گریان به مطب مراجعه کردهاند، زیرا چتبات هوش مصنوعی به آنها گفتهاست که فقط ۶ تا ۱۲ ماه زنده میمانند، که البته کاملاً بیاساس است.»
بر اساس گزارشها، حدود یکسوم از بزرگسالان هماکنون از هوش مصنوعی برای دریافت توصیههای پزشکی استفاده میکنند، اما کارشناسان هشدار میدهند که این فناوری هنوز برای استفادهٔ گسترده آماده نیست.
منبع: تسنیم
