هشدار؛ پاسخ های کوپایلت به سؤالات پزشکی می تواند مرگبار باشد!

یه گزارش خبرگزاری تیتر نیوز و براساس گزارش د یجیاتو در تحقیقی جدید کارشناسان از چت بات کوپایلت مایکروسافت سؤالات رایج پزشکی کردند. با تجزیه وتحلیل نتایج مشخص شد این چت بات فقط ۵۴ درصد اطلاعات علمی دقیق ارائه می دهد. به گفته محققان در ۲۲ درصد مواقع اطلاعات این چت بات می تواند به مرگ منتهی شود.

براساس گزارش SciMex محققان آلمانی و بلژیکی معتقدند نباید برای کسب اطلاعات دقیق و ایمن درباره داروها به چت بات های هوش مصنوعی مانند کوپایلت مراجعه کنیم؛ زیرا برخی از اطلاعاتی که ارائه می دهند ممکن است اشتباه یا حتی مضر باشند. محققان از کوپایلت مایکروسافت ۱۰ سؤال متداول درباره ۵۰ داروی رایج در آمریکا را کردند و حدود ۵۰۰ پاسخ گرفتند.

محققان پاسخ های هوش مصنوعی را از از نظر خوانایی کامل بودن و دقت علمی ارزیابی کردند و دریافتند برای فهم کامل پاسخ این چت بات ممکن است به مدرک پزشکی نیاز داشته باشید. محققان می گویند حتی ساده ترین پاسخ ها مستلزم تحصیلات تخصصی است.

عملکرد چت بات کوپایلت در ارائه اطلاعات پزشکی

نکته قابل توجه و حیاتی در تحقیق حاضر این است که ۴۲ درصد پاسخ های کوپایلت ممکن است منجر به «آسیب جدی» و ۲۲ درصد نیز باعث مرگ فرد شود. پاسخ های این هوش مصنوعی به لحاظ دقت علمی در ۲۴ درصد موارد با دانش پزشکی مطابقت نداشتند و ۳ درصد پاسخ ها کاملاً اشتباه بودند. به گفته کارشناسان فقط ۵۴ درصد پاسخ ها مطابق تحقیقات علمی بودند.

کارشناسان از این پژوهش نتیجه گرفتند به رغم پتانسیل زیاد هوش مصنوعی همچنان مهم است که به متخصصان انسانی مراجعه کنیم. البته به دلیل دسترسی آسان و هزینه کم چت بات هایی مانند کوپایلت کاربران زیادی از این فناوری برای مشاوره پزشکی کمک می گیرند. این امر مسئولیت شرکت های بزرگ فناوری را بیشتر می کند.

پیش ازاین نیز اشتباهات هوش مصنوعی گوگل خبرساز شده بود؛ هوش مصنوعی این شرکت به کاربران توصیه کرده بود سنگ بخورند یا به پیتزا چسب اضافه کنند. همچنین در سال گذشته جمینای گوگل تصاویر تاریخی نادرستی تولید کرد و این شرکت مجبور شد مدتی تولید تصاویر افراد را متوقف می کند.

نتایج تحقیق حاضر در BMJ منتشر شده است.

۲۲۷۲۲۷