خطر جدی منشی‌ های هوش مصنوعی در پزشکی؛ ناتوانی هوش مصنوعی در درک صدای بیماران سکته مغزی جنجال آفرید

منشی‌های مبتنی بر هوش مصنوعی قرار است برقراری تماس تلفنی با مراکز درمانی و پزشکان را برای بیماران آسان‌تر کنند. با این حال، شمار فزاینده‌ای از بیماران در حال تجربه شرایطی کاملاً معکوس هستند؛ به‌ویژه زمانی که یک ماشین در پردازش نحوه تکلم افراد، فهم دستورالعمل‌ها یا درک صحیح نیازهای درمانی آنان دچار چالش و اختلال می‌شود.

به گزارش بخش اخبار پزشکی زوم تک به نقل از بی‌بی‌سی (BBC)، ماجرای اخیر در یورکشایر جنوبی این چالش جدی را در کانون توجهات قرار داده است. جودیت باترفیلد (Judith Butterfield)، بانوی ۷۱ ساله‌ای که دوران نقاهت پس از سکته مغزی را سپری می‌کند، اعلام کرد که منشی هوش مصنوعی مورد استفاده در مطب پزشک عمومی‌اش هنگام تلاش او برای رزرو نوبت ویزیت، بارها در درک کلام و صدای او ناتوان مانده است. عوارض سکته مغزی باعث بریده‌بریده شدن گفتار وی شده و دامنه حرکتی سمت راست بدنش را نیز مختل کرده بود. این بیمار پس از چندین تلاش ناموفق، در نهایت ناچار شد به مرکز درمانی دیگری مراجعه کرده و در آنجا پرونده تشکیل دهد.

این مرکز درمانی پس از این رویداد، سامانه مذکور را به طور کامل از مدار خارج و غیرفعال کرده است. با این حال، حادثه پیش‌آمده پرسش بسیار بنیادین و مهم‌تری را مطرح می‌کند: چه مقدار از خدمات سیستم بهداشت و درمان را می‌توان با اطمینان کامل به یک هوش مصنوعی واگذار کرد که انتظار دارد بیماران دقیقاً با لحن و شیوه‌ای سخن بگویند که برای ماشین قابل فهم باشد؟

مدیریت صف تماس توسط ماشین؛ وقتی وضعیت بیمار در قالب الگوریتم نمی‌گنجد

این منشی هوش مصنوعی که با نام EMMA شناخته می‌شود و توسط شرکت QuantumLoopAI توسعه یافته است، با هدف کمک به مطب‌های عمومی برای پاسخ‌گویی به حجم بالای تماس‌ها و کاهش زمان انتظار بیماران پیاده‌سازی شد. با وجود این، سازمان ناظر بر خدمات درمانی «هلث‌واچ روترهام» (Healthwatch Rotherham) از دریافت شکایات متعدد از سوی بیمارانی خبر داده است که در برقراری ارتباط با این سیستم هوشمند دچار مشکل شده‌اند؛ از جمله افرادی با لهجه‌های محلی خاص و بیمارانی که از اختلالات تکلم و مشکلات گفتاری رنج می‌برند.

تجربه باترفیلد به روشنی نشان می‌دهد که چگونه یک نقص فنی کوچک در حوزه فناوری سلامت می‌تواند به چالشی بزرگ و پرخطر تبدیل گردد. بر اساس گزارش‌ها، این سرویس خودکار از بیمار خواسته بود که از حالت اسپیکر گوشی استفاده نکند؛ در حالی که وی به دلیل معلولیت ناشی از سکته مغزی، ناچار بود تلفن را تنها با یک دست نگه دارد. علاوه بر این، هنگامی که سیستم در پردازش و تشخیص نام او ناموفق بود، هیچ هوشمندی و درک انسانی وجود نداشت تا متوجه موقعیت اضطراری شده و به سادگی از بیمار بخواهد نام خود را به شیوه‌ای دیگر تکرار کند.

ابعاد این بحران فراتر از یک سامانه پذیرش تلفنی منفرد است. نهاد دیده‌بان سلامت انگلستان (Healthwatch England) گزارش‌های مشابهی را از بیمارانی گردآوری کرده است که هنگام نوبت‌دهی آنلاین، درخواست تمدید دارو یا تشریح نیازهای پزشکی با سامانه‌های هوش مصنوعی به بن‌بست خورده‌اند. شماری از افراد با ناتوانی‌های یادگیری یا لکنت زبان اعلام کرده‌اند که سیستم‌های صوتی خودکار قادر به فهم کلام آن‌ها نبوده‌اند، و عده‌ای دیگر نیز از پردازش نادرست درخواست‌های پزشکی خود توسط هوش مصنوعی گلایه داشته‌اند.

نظام سلامت نیازمند هوش مصنوعی همه‌ جانبه؛ ابزاری فراتر از مکالمات ساده و روزمره

بدون شک به‌کارگیری فناوری هوش مصنوعی مزایای جذابی برای مطب‌های عمومی با ترافیک کاری سنگین به همراه دارد. سامانه‌ای که بتواند بلافاصله به تماس‌ها پاسخ دهد، قادر است صف‌های انتظار طولانی را حذف کرده و نیروهای پذیرش را برای رسیدگی به امور مهم‌تر آزاد سازد. شرکت QuantumLoopAI مدعی است که منشی هوشمند EMMA از زبان‌ها و لهجه‌های متعدد پشتیبانی می‌کند و این امکان را به تماس‌گیرندگان می‌دهد که در هر مرحله درخواست ارتباط با یک اپراتور انسانی را ثبت نمایند. این شرکت همچنین اظهار داشت مراکز درمانی می‌توانند سامانه را طوری پیکربندی کنند که بیماران خاص و پرخطر مستقیماً به کارشناسان پذیرش انسانی متصل شوند.

با این وجود، این تمهیدات حفاظتی تنها زمانی اثربخش خواهند بود که بیماران از وجود چنین گزینه‌ای مطلع باشند و بتوانند در طول تعامل با سامانه، مراحل لازم را برای رسیدن به اپراتور انسانی طی کنند. سازمان Healthwatch هشدار داده است افرادی که دارای نیازهای ارتباطی ویژه، معلولیت‌های جسمی یا دانش دیجیتالی کمتری هستند، بیش از دیگران در معرض محرومیت ناشی از فناوری‌های درمانی با طراحی ضعیف قرار دارند. مشکل اصلی صرفاً این نیست که هوش مصنوعی گاهی کلمه‌ای را اشتباه تشخیص می‌دهد؛ بلکه مسئله حیاتی این است که فرد پشت خط، در تلاش برای دسترسی به خدمات پایه و نجات‌بخش مراقبت‌های بهداشتی است.

در حالی که کلینیک‌ها و مراکز درمانی به آزمودن سیستم‌های خودکار پذیرش و تریاژ تلفنی ادامه می‌دهند، نادیده گرفتن درس بزرگ حادثه یورکشایر جنوبی غیرممکن است: یک منشی هوش مصنوعی در پزشکی باید مسیر دسترسی سریع‌تر به انسان را هموار کند، نه اینکه خود به مانعی تازه میان بیمار و دریافت خدمات درمانی تبدیل شود.