הגל הקרוב של מידע מוטעה על מטופלים המונע על ידי בינה מלאכותית (ואיך רופאים יכולים להתכונן אליו)

מערכות בינה מלאכותית גנרטיבית יכולות לכתוב מאמרים דמויי-אנוש, לענות על שאלות ולשוחח על כמעט כל נושא. אמנם מודלים אלה מציעים אפשרויות מרגשות לחינוך מטופלים, אך הם גם מציגים סיכון חדש: ייעוץ רפואי מתקבל על הדעת אך שגוי. רופאים חייבים לצפות כיצד מטופלים עלולים לצרוך מידע שנוצר על ידי בינה מלאכותית והתכוננו להתמודד עם מידע מוטעה לפני שהוא יפגע בתוצאות.

כיצד בינה מלאכותית מייצרת מידע כוזב

מודלים לשוניים גדולים לומדים דפוסים בטקסט על ידי קריאת מיליוני מסמכים. הם אינם מבינים באמת את התוכן שהם מייצרים; במקום זאת, הם חוזים אילו מילים עשויות להופיע בהמשך. כאשר נשאלת להם שאלה רפואית, הם מייצרים תשובה שנשמעת סמכותית, אך עשויה להיות שגויה או לא שלמה מבחינה עובדתית. בנוסף, מכיוון שמודלים אלה לעיתים "הוזים" – ממציאים פרטים מתקבלים על הדעת כאשר הם חסרים נתונים – תשובה עשויה לכלול טיפולים, סטטיסטיקות או מנגנונים פיקטיביים.

צ'אטבוטים ועוזרים קוליים המבוססים על מודלים אלה עשויים לספק ייעוץ ישירות למטופלים ללא פיקוח רפואי. פלטפורמות מסוימות מסכמות תוכן ממקורות שונים (כולל בלוגים לא מאומתים או מחקרים מיושנים), מה שמחמיר את הטעויות. הרשתות החברתיות מגבירות את התפוצה של תוצאות אלה, ומאפשרות לייעוץ לא מדויק או מסוכן להתפשט במהירות.

השלכות עבור המטופלים

מידע מוטעה המונע על ידי בינה מלאכותית עלול להוביל לעיכוב בטיפול, לשימוש לא נכון בתרופות או לאימוץ פרקטיקות מזיקות. לדוגמה, צ'אט בוט שמרגיע באופן שגוי מטופל הסובל מכאבים בחזה עלול לעכב טיפול חירום; בינה מלאכותית המסכמת את היתרונות של תוסף תזונה עלולה להשמיט את התוויות הנגד. לאורך זמן, חשיפה חוזרת ונשנית למידע לא מדויק פוגעת באמון ברפואה מבוססת ראיות.

כיצד רופאים יכולים להתכונן

1. הישאר מעודכן לגבי כלי AI: הבינו כיצד פועלים צ'אטבוטים ואפליקציות בריאות פופולריים, מהן המגבלות הידועות שלהם ומאיפה הם משיגים את הנתונים. בדקו אותם באמצעות שאלות נפוצות של מטופלים כדי לראות אילו תשובות הם נותנים.

2. הסברה למטופלים: במהלך הפגישות, שאלו את המטופלים אם הם משתמשים בכלים מבוססי בינה מלאכותית לקבלת ייעוץ רפואי. עודדו אותם לאמת כל הנחיה מקוונת או הנחיה שקיבלו מצ'אט בוט אצלכם או אצל אנשי מקצוע אחרים.

3. ספק משאבים סמכותיים: לשמור על אתר אינטרנט מעודכן או פרופיל (למשל, באמצעות Guide.MD) עם מידע מדויק על מצבים רפואיים נפוצים, תרופות וטיפולים. המלץ על אתרים או אפליקציות אמינים שנבחרו בקפידה על ידי אנשי מקצוע בתחום הרפואה.

4. תומך ברגולציה ובתקנים: תמיכה במאמצים לקביעת תקני בטיחות למידע בריאותי מבוסס בינה מלאכותית. עידוד מפתחי בינה מלאכותית לכלול גילוי נאות, לציין מקורות וליישם בדיקות בטיחות לזיהוי ייעוץ בעל סיכון גבוה.

5. תקן מידע שגוי באופן מיידי: אם שמועה מזיקה שנוצרה על ידי בינה מלאכותית מתפשטת (למשל, ברשתות החברתיות), התייחסו אליה בפומבי. ספקו הסברים ברורים וראיות כדי להפריך טענות כוזבות.

6. שתפו פעולה עם מפתחי AI: הציעו את המומחיות שלכם לחברות המפתחות בינה מלאכותית בתחום הבריאות. התרומה של רופאים יכולה לשפר את הדיוק ולהפחית את הסיכון לתוצאות מזיקות.

ה-AI תשנה באופן בלתי נמנע את האופן שבו מטופלים מחפשים מידע. במקום להתנגד לשימוש בה, על הרופאים להנחות את שילובה האחראי במערכת הבריאות. באמצעות חינוך יזום של עצמם ושל מטופליהם, רופאים יכולים להפחית את הסיכונים של מידע מוטעה המונע על ידי AI ולהבטיח שהטכנולוגיה תשפר את הפרקטיקה המבוססת על ראיות, במקום לפגוע בה.