نیویورک تایمز:

هشدار؛ نیمه تاریک هوش مصنوعی در سیستم های بهداشتی و درمانی در حال قدرت گرفتن است!

این روزها حضور فناوری در حوزه هایی مثل پزشکی بسیار رایج است. اما پژوهشگران نگران هستند که هوش مصنوعی با حضور در حوزه پزشکی مخاطراتی جدی را برای سلامت انسان ها ایجاد کند و این درست برخلاف آن چیزی است که برای رسالت هوش مصنوعی در حوزه پزشکی در نظر گرفته شده است.

کد خبر: ۴۶۶۶۹۲

تاریخ: ۰۴ فروردين ۱۳۹۸ - ۱۱:۴۹

به گزارش سرویس آی تی و فناوری انتخاب، دانشمندان نگران هستند که با کمی تغییرات در داده ها، می توان شبکه های پزشکی هوشمند را به سیستم هایی برای  ارتکاب حملات به سلامتی انسان ها تبدیل کرد. طی سال گذشته، اداره مواد غذایی و دارویی ایالات متحده دستگاهی را تایید کرد که می تواند تصویری از شبکیه چشم شما گرفته و به طور خودکار علائم کوری دیابتی را تشخیص دهد.

این نسل جدید تکنولوژی هوش مصنوعی به سرعت در حال گسترش در زمینه پزشکی است، زیرا دانشمندان سیستم هایی را ایجاد می کنند که می توانند نشانه هایی از بیماری را در انواع مختلفی از تصاویر از اشعه X از ریه ها تا اسکن مغز را تشخیص دهد. این سیستم ها وعده داده اند که به پزشکان کمک می کنند تا بیماران را موثرتر و ارزان تر از قبل بررسی کنند.

اشکال مشابه هوش مصنوعی نیز در بیمارستان ها به عنوان سیستم های کامپیوتری که تنظیم کننده های مراقبت های بهداشتی، صدور صورت حساب و ارائه دهنده بیمه هستند، استفاده می شود، در حالت ایده آل، چنین سیستمی باعث بهبود کارایی سیستم های مراقبت بهداشتی خواهد شد. اما این سیستم ها همزمان می توانند عواقبی ناخواست داشته باشند. این موضوعی است که از سوی پژوهشگران دانشگاه هاروارد و ام آی تی مطرح می شود.

در مقاله ای که روز پنجشنبه در مجله ساینس منتشر شد، پژوهشگران به چشم انداز "خدمات متضاد" هوش مصنوعی پرداختند. بر اساس این پژوهش ها این سیستم ها با استفاده از قطعات کوچک داده های دیجیتال می توانند خطراتی جدی ایجاد کنند. برای مثال، با تغییر چند پیکسل روی یک اسکن ریه، هوش مصنوعی می تواند یک بیماری را تشخیص دهد که درواقع وجود خارجی ندارد.

توسعه دهندگان و تنظیم کننده های نرم افزارهای مرتبط با پزشکی باید چنین سناریوهایی را در نظر بگیرند که هوش مصنوعی ممکن است بیماری را به اشتباه تشخیص دهد. ساموئل فینلایسون، پژوهشگر دانشکده پزشکی هاروارد و ام آی تی و یکی از نویسندگان این مقاله، هشدار داد که به دلیل اینکه سرمایه زیادی در صنعت مراقبت های بهداشتی تغییر می کند، ذینفعان در حال حاضر بدون در نظر گرفتن ریسک ها، در تلاشند هوش مصنوعی را در مراکز مراقبت بهداشتی پیاده کنند.

یکی از موضوعات مهم در مورد کاربرد هوش مصنوعی در مراقبت های بهداشتی این است که با تجزیه و تحلیل هزاران اسکن چشم، شبکه عصبی می تواند یاد بگیرد که علائم کوری دیابتی را تشخیص دهد. این "یادگیری ماشینی" روی چنین مقیاس عظیمی اتفاق می افتد: رفتار انسانی توسط جداول بی شماری از داده ها تعریف می شود که می تواند رفتار غیرمنتظره را  پیش بینی کند.

یک نگرانی دیگر به مسئله شرکت های بیمه مرتبط است. درواقع اگر یک شرکت بیمه با استفاده از هوش مصنوعی برای ارزیابی اسکن های پزشکی اقدام کند، می تواند اسکن ها را برای افزایش پرداخت ها دستکاری کند.

محققان در پژوهش های خود نشان دادند که با تغییر تعداد کمی از پیکسل ها در یک تصویر از یک ضایعه خوش خیم پوست، یک سیستم تشخیصی A.I می تواند به شناسایی ضایعه به عنوان بدخیم فریب. به سادگی چرخش تصویر همچنین می تواند یک اثر مشابه داشته باشد، آنها یافتند.

تغییرات کوچک به توصیف نوشته شده در مورد وضعیت بیمار می تواند بسیار ظریف اما خطرناک باشد برای مثال سنجش اشتباه مقادیر الکل در خون می تواند منجر به تشخیص وابستگی شدید به الکل یا اعتیاد الکلی شود.

با همه این نمی توان ازنقش مثبت هوش مصنوعی در توسعه پزشکی نیز غافل شد و تغییرات مثبت را نادیده گرفت بلکه به نظر می رسد بهتر است استفاده از هوش مصنوعی را بر پایه برنامه های دقیق ارزیابی کرد.