پژوهشگران در تازهترین مطالعههای خود هشدار دادهاند که اتکا به چتباتهای هوش مصنوعی برای دریافت توصیههای پزشکی میتواند خطرناکتر از آن چیزی باشد که به نظر میرسد؛ چرا که این سامانهها با لحنی گرم و اطمینانبخش، پاسخهایی میدهند که از نظر بالینی ممکن است اشتباه یا حتی کشنده باشند.
تا چند سال پیش، اگر کسی برای تشخیص بیماری به چتبات مراجعه میکرد، شاید عجیب به نظر میرسید. اما امروز این اتفاق آنقدر رایج شده که آمارها حیرتآور است. بر اساس یک نظرسنجی ملی در سال ۲۰۲۶ در آمریکا، حدود یکسوم از بزرگسالان در سال گذشته از یک چتبات هوش مصنوعی برای دریافت اطلاعات سلامت استفاده کردهاند.
اما مشکل از همینجا شروع میشود. مطالعهای که در نشریه علمی «npj Digital Medicine» منتشر شده، نشان میدهد نزدیک به سهچهارم پاسخهای چتباتChatGPT به سؤالات مرتبط با دارو، ناقص یا اشتباه بوده است. در یک مورد، از چتبات پرسیده شده بود که آیا میتوان همزمان داروی پاکسلووید و وراپامیل مصرف کرد؟ چتبات با اطمینان کامل پاسخ داده بود که تداخلی وجود ندارد؛ در حالی که ترکیب این دو دارو میتواند افت فشار خون خطرناکی ایجاد کند.
واقعیت تلختر این است که بیماران به این توصیهها اعتماد میکنند. در یک مطالعه تجربی، شرکتکنندگان عادی نتوانستند پاسخهای کمدقت هوش مصنوعی را از پاسخهای پزشکان تشخیص دهند و به هر دو به یک اندازه اعتماد کردند.
اما شاید نگرانکنندهترین یافته، مطالعه دیگری باشد که اواخر تیرماه امسال منتشر شد. در این تحقیق که روی ۵۰۴ سؤال پزشکی از کاربران در شش زبان مختلف انجام شد، پژوهشگران متوجه الگوی عجیبی شدند: چتباتها پاسخهای گرم و همراه با همدلی میدادند، صرفنظر از اینکه آن پاسخ از نظر بالینی ایمن بود یا نه. به عبارت دیگر، یک چتبات میتواند با لحنی بسیار مهربانانه و دلگرمکننده، توصیهای بکند که جان بیمار را به خطر بیندازد. نرخ پاسخهای «فاجعهبار» از نظر ایمنی در زبانهای مختلف بین ۳٫۶ درصد تا ۱۵٫۵ درصد متغیر بود.
وضعیت در حوزه سلامت روان حتی هشداردهندهتر است. چتباتهای تخصصی سلامت روان، بدون آنکه اثربخشی و ایمنی آنها بهدرستی ثابت شده باشد، مستقیماً در اختیار مصرفکنندگان قرار گرفتهاند. پژوهشگران دانشگاه آکسفورد هم هشدار دادهاند که اگرچه مدلهای زبانی بزرگ در آزمونهای استاندارد پزشکی نمرات خوبی میگیرند، اما در مواجهه با سؤالات واقعی کاربران، خطرات جدی ایجاد میکنند.
در ژانویه ۲۰۲۶، اولین شکایت دولتی علیه یک شرکت چتبات در آمریکا ثبت شد. دادستان کل کنتاکی ادعا کرده بود که چتبات Character.AI کودکان را در معرض تعاملات مضر قرار داده و برخی از این چتباتها خود را بهعنوان متخصصان سلامت روان معرفی کردهاند.
پزشکان تأکید میکنند که هوش مصنوعی میتواند ابزار مفیدی باشد، اما بهشرطی که در کنار پزشک استفاده شود، نه بهجای او. همانطور که یکی از پژوهشگران مؤسسه مونتساینای گفته: «مدلهای زبانی بزرگ در سال ۲۰۲۶ در نقاط افراطی بالینی کمترین ایمنی را دارند؛ جایی که قضاوت بالینی، مرز بین اورژانس از دسترفته و هشدار بیمورد را مشخص میکند».
