והאמת שהמאמר שלנו השבוע גרם לי לחשוב על השאלה הזו שוב, ואולי הפעם קצת אחרת.

מה קורה כשנותנים ל-AI Scribe גם עיניים 👀 ?

דיברנו כבר בעבר על כלי ה-AI Scribes- אותם כלים שמאזינים לשיחה שלנו עם המטופל ומייצרים ממנה באופן אוטומטי סיכום רפואי. אבל לרוב הסקרייבים היום יש מגבלה די בסיסית: הם שומעים, אבל הם לא רואים.

וזו בעיה, כי לא כל המידע במפגש רפואי נאמר בקול.

מטופל יכול להצביע על פריחה, להדגים איך הוא משתמש במשאף, או פשוט להוציא מהתיק שקית עם שמונה קופסאות תרופות (במקרה הטוב עם החפיסות שלהן, במקרה הרע ככדורים צבעוניים בתוך המחלק) ולהגיד: ״את זה אני לוקח בבוקר, ואת זה חצי בערב״. אנחנו מסתכלים על הקופסה ומשלימים אוטומטית את שם התרופה, החוזק והמינונים.

אבל לסקרייב מבוסס-אודיו החלק הזה של המידע פשוט לא קיים.

וזו בדיוק השאלה שמאמר חדש ב-npj Digital Medicine ניסה לבדוק, מה יקרה אם ניתן לסקרייב גם לראות את המפגש?

אז מה עשו?

לקחו 10 רוקחים קליניים, ונתנו להם לעשות משחקי סימולציות של אנמנזה תרופתית למטופל (כלומר איזה תרופות בדיוק מטופל לוקח וכמה ומתי, כמו תשאול בעת קבלה רפואית).

מי ששיחק את ה״רוקח״ הרכיב משקפי Ray-Ban Meta, המשקפיים כוללים מצלמה ומיקרופון שמחוברים ישירות למודל הבינה המלאכותית של חברת מטא (Meta AI), והמשפקיים צילמו את המפגש מנקודת המבט של הרוקח.

הסרטונים מהסימוציה הועברו ל-Gemini 2.5 Pro, שקיבל גם את הוידאו וגם את האודיו, והמודל התבקש לייצר Medication History מובנה.

ולמה לבדוק את זה דווקא בהיסטוריית תרופות 💊 ?

היסטוריה תרופתית היא כמעט הדוגמה המושלמת למשימה מולטי-מודאלית, כלומר משימה שבה צריך לשלב מידע שמגיע מכמה ערוצי קלט (אינפוט) שונים.

במקרה הזה גם ממה ששומעים וגם ממה שרואים, כי חלק מהמידע מגיע מהשיחה: ״אני לוקח את זה פעם ביום ללחץ הדם״, וחלק מגיע מהעיניים: המטופל מוציא קופסה של Lercanidipine 20 mg. בעולם האמיתי אנחנו עושים כל הזמן אינטגרציה בין מה שאנחנו שומעים לבין מה שאנחנו רואים.

בניסוי המודל היה צריך לחלץ שדות מידע ספציפיים מהסימולציה: לגבי המטופל- שם ותאריך לידה, אלרגיה/רגישות לתרופות.

לכל תרופה- שם, מינון וצורת מתן, הוראות הלקיחה, האינדיקציה ללקיחה, והערות קליניות (נגיד אם הוא מרסק את הכדור, או שצריך לקחת בדיוק ב-8 בבוקר, או שזו תרופה ששונה עבורה המינון במפגש).

והתוצאות?

כאשר Gemini קיבל וידאו+אודיו, הוא תיעד נכון 98%, באודיו בלבד הדיוק ירד ל-81%.

אבל הנתון הכי מעניין היה סביב טעויות מסוג השמטה (omitting), 358 השמטות עם אודיו בלבד, 10 השמטות עם וידאו. כלומר הוידאו מנע מהמודל לפספס מידע שהיה שם- אבל לא נאמר בקול.

מי היה מאמין- חוש הראייה הוא כה שימושי!

ביצועים חזקים במיוחד נרשמו בזיהוי החוזק והפורמולה של התרופה: וידאו+אודיו 97%, רק אודיו 28%. והשם המדויק של התרופה 98% מול 80%.

לעומת זאת, כשמדובר באינדיקציה בגינה המטופל לוקח את התרופה- מידע שבדרך כלל נאמר בקול במהלך השיחה, לא היה כמעט שום יתרון לווידאו, 99% מול 99%.

כמובן שעדיין היו טעויות וזה לא היה מושלם וכו׳ (לא שמטפלים אנושיים לא עושים טעויות), אבל ללא ספק הוצג שיפור מרשים לכול הדעות. הוידאו לא הפך את המודל ל״חכם יותר״ באופן כללי, הוא פשוט נתן לו גישה למידע שהיה חסר לו.

אז למה המאמר הזה רלוונטי בעיני לשאלת ההחלפה של הרופאים?

יש איזה משפט שתמיד אומרים בדיונים האלה: ״זה לא ש-AI יחליף רופאים, זה שרופאים שמשתמשים ב-AI יחליפו כאלה שלא״.

אבל מה זה בכלל אומר להיות רופאה שמשתמשת ב-AI? כזאת ששואלת את הצ׳אט? שמכינה פודקאסט בנוטבוק על המאמר לג׳ורנל? שבונה לעצמה אתר לקליניקה בקלוד קוד?

כאילו כן, אבל לא רק.

כי לדעת להשתמש ב-AI זה לא רק להגיד ״הלוצינציות״ בפרצוף רב רושם, או להתהדר ביד המנחמת על כתף המטופל שהמודלים לא יודעים לתת (ואם אתם מרגישים שאני צינית- אז קודם כל אנחנו באמת מכירים :) ודבר שני אתם צודקים).

זה להבין לעומק שהבסיס של איך שאנחנו עובדים כאנשים גם צריך להשתנות-

לנהל מפגש רפואי עם סקרייב במקום סיכום שלנו דורש מאיתנו לנהל אותו אחרת, כי מה שלא ייאמר בקול המודל לא יוכל לקלוט- אז זה אומר שצריך לדבר הרבה יותר, או לחילופין להגדיר בפרופמט מראש שאם אמרתי ״אלו הסיבוכים האפשריים״ ואז פצחתי בתיאור שלל מקרים אפשריים, התוכנה רק תקליד ״הוסברו סיבוכים וסיכוני אפשריים של פעולה X״ ולא תפרט.

אם אנחנו מדמיינים עולם שבו תיק של מטופל מסוכם ב-AI אז צריך לכתוב אותו גם ככה, ולוודא שהמודל מחובר לכול הקונטקסט המלא (כלומר שלמודל יש גישה לכלללל המקורות שאנחנו כרופאים אנושיים היינו מסתכלים בהם כדי לסכם מטופל- הדמיות, מעבדות, רשומות מהקהילה וכו׳).

רופאים שמשתמשים ב-AI לא אומר שאנחנו פשוט ״נפזר קצת AI״ על שגרת העבודה הרגילה שלנו ולא נצטרך לשנות כלום, ופשוט ה-AI יעשה לנו אוטומציה לכול מה שלא בא לנו לעשות (על אף שזה נשמע מהמם I know).

זה בהכרח אומר שגם אנחנו נצטרך להשתנות.

זה אומר שאין ברירה אלא ללמוד, גם אם עבר איזה עשור או שניים מהשלב ב׳ שלנו. ללמוד על דרכי הפעולה, היתרונות, המגבלות והסוגים של כלי ה-AI שיש. לא תואר במדעי המחשב עכשיו, אבל כן להכריח את עצמנו לשבת וללמוד ולהתנסות בידיים בעצמנו, לשבור את מחסום הפחד.

ובעיקר לא לחכות.

ולהבין שכול הטמעה כזו תעצב מחדש (או לחלקנו כבר עיצבה) את איך שאנחנו עובדות- מהדרך שבה אנחנו לוקחות אנמנזה ומנהלות מפגש רפואי, איך שאנחנו מחפשות מידע, ועד הדרך שבה אנחנו מסכמות תיק מטופל, ואיך שאנחנו מסדרות חומר להצגה בישיבה או ללמידה.

לחשוב ולבחון לעומק על החלק שלנו בתהליך העבודה, ולראות איך גם אנחנו, מעדכנות גרסה.

ופייר אני בכוונה לא נכנסת פה לדיון (החשוב) אם זה טוב או רע לרפואה, למטפלים ולמטופלים, ואיפה לכול יישות אנושית או טכנולוגית יש יתרון, ומה הרגולטור האלמותי צריך או לא צריך לעשות.

לא כי זה לא דיון חשוב, אלא כי אני חושבת שהרוב בו כבר נאמר בתכלס, ושהמציאות תהיה חזקה יותר מכול ווישפול ת׳ינקינג שלנו, בדיוק כמו שכול מהפכה טכנולוגית בעבר הייתה…

וכרגיל- בהצלחה לכולנו.

עם ה-AI, עם האוגוסט והילדים והחום, ובעיקר עם המציאות הגיאופוליטית שלנו-

שאותה אפילו מיטב המודלים טרם הצליחו לעזור לי להבין איך לפתור, וכנראה שזה באמת יהיה תלוי רק באנשים שפה…

סתיו

המאמר שלנו השבוע מ-Nature יפה במיוחד, בעיקר בזכות השיטות המקוריות, המחבר הראשי הוא זיאד אוברמאייר (Ziad Obermeyer), שמומלץ מאוד לעקוב אחרי העבודות שלו, איכשהו הוא תמיד מצליח למצוא זווית חדשה ומעניינת לשאלה רפואית.

במה עוסק המאמר?

אק״ג.

רגע, אל תתייאשו כי שוב מדובר באק״ג ובקרדיולוגיה. מבטיחה שזה נהיה מעניין.

מוות לבבי פתאומי נגרם במקרים רבים מהפרעת קצב חדרית קטלנית (כמו VF או VT) בחלק מהמקרים אפשר למנוע אותו באמצעות דפיברילטור מושתל, ICD, שמזהה את הפרעת הקצב ונותן שוק.

הבעיה היא שלא יודעים מספיק טוב למי להשתיל אותו.

הכלי המרכזי שמשמש כיום להערכת הסיכון הוא מקטע הפליטה של חדר שמאל, LVEF. כאשר הוא נמוך מאוד- לרוב 35% ומטה, ובהתאם להקשר הקליני- עשויה להיות אינדיקציה להשתלת ICD.

אבל LVEF הוא לא מדד מושלם- רוב האנשים שחווים מוות לבבי פתאומי לא זוהו קודם כבעלי LVEF נמוך, וחלק גדול ממי שמקבלים ICD על בסיס LVEF נמוך לעולם לא יזדקקו לשוק מציל חיים.

אז יש בהחלט צורך למצוא עוד דרכים לזהות את מי שבסיכון למוות לבבי פתאומי.

אז מה עשו?

החוקרים לקחו את כל האק״גים שנעשו בשנים 2010–2016 באזור Halland בשוודיה, וחיברו אותם לרשומות הרפואיות ולתעודות הפטירה.

הם אימנו מודל מלקבל את האות הגולמי של אק״ג מ־12 לידים, ולנבא את הסיכון למוות לבבי פתאומי בשנה שלאחר הבדיקה.

המודל אומן על כ־262 אלף אק״גים של כ־75 אלף מטופלים- מה שנקרא כמות מכובדת. הראו לו הרבה הרבה אק״גים, ואז מה קרה לאנשים הללו, וככה המודל למד איך נראה אק״ג של אדם ״בסיכון״.

אחת הבעיות המוכרות של אימון מודלים מסוג זה הוא מה שנקרא overfitting, זו המקבילה האלגוריתמית לללמוד רק משחזורים, כלומר המודל יזהה נכון מי בסיכון אבל לא בגלל שהוא באמת למד את הביולוגיה אלא כי למד דפוס כלשהו (נגיד שמי שהאק״ג שלו מגיע ממכשיר ביחידה לטיפול נמרץ לב הוא יותר בסיכון). כדי להימנע מזה החוקרים שמרו מראש 40% מהמטופלים ב־lockbox. אלה היו מטופלים שהמודל לא ראה באימון, והנתונים שלהם אפילו לא נפתחו עד לאחר הקבלה העקרונית של המאמר ל־Nature.

ומה הם מצאו?

החלק המעניין יותר אינו ה־AUC של המודך, אלא קבוצת הסיכון שהמודל זיהה.

החוקרים בחרו סף שסימן את 2.2% מהאק״גים בעלי הסיכון הגבוה ביותר- בקבוצה הזו שיעור המוות הלבבי הפתאומי בתוך שנה היה 7%.

לשם השוואה, בקרב מטופלים עם LVEF של 35% ומטה- השיעור היה 4.6%.

אבל הנתון החשוב באמת הוא שרק 13.9% מהאנשים שסומנו על ידי מודל האק״ג היו ידועים כבעלי LVEF נמוך. כלומר, 86.1% מקבוצת הסיכון של המודל לא זוהו באמצעות המדד המקובל!

מי האנשים שהמודל זיהה- ומה הוא ראה באק״ג שלהם?

במודלים שמנתחים תמונות או אותות אפשר לעיתים ליצור saliency map, זו מפה שמראה אילו אזורים בקלט (input, המידע שנכנס למודל- נגיד האיזור בתמונה, או הנתון המסוים מהתיק הרפואי) תרמו במיוחד לתחזית הסיכון..

אבל יש הבדל חשוב בין איפה המודל הסתכל לבין מה הוא ראה שם. מפת החשיבות יכולה להצביע על אזור מסוים ב־QRS, אבל היא לא אומרת מה במורפולוגיה של אותו אזור גרם למודל להעלות את הסיכון.

כדי להתמודד עם זה, החוקרים השתמשו בשני מודלים נפרדים.

הראשון היה מודל הניבוי שכבר הכרנו, שמקבל פעימת אק״ג ומעריך את הסיכון למוות לבבי פתאומי.

השני היה מודל גנרטיבי, אלה שיודעים לייצר דברים, כמו ה-ChatGPT שיודע לייצר לנו טקסט או תמונות. הוא לא אומן לנבא סיכון, אלא ללמוד כיצד נראית פעימת אק״ג ב־12 לידים.

ועכשיו תחשבו על flip book.

זוכרות את הספרונים שהיינו מדפדפות בהם מהר, ובכל עמוד הציור השתנה רק קצת, כך שבסוף התקבלה אנימציה בשקל תשעים? (לסטודנטיות או הצעירים כאן-בבקשה בלי שיפוטיות. זה היה באלף הקודם, לא היו סמארטפונים, והיו לנו תחביבים מוזרים)

בעמוד הראשון של ה־flip book הייתה פעימת אק״ג אמיתית בסיכון נמוך. בכל עמוד אחריה המודל הגנרטיבי שינה אותה רק מעט, כאשר מודל הניבוי כיוון אותו בכל פעם לשינוי שיעלה את ציון הסיכון. כך נוצר רצף שבו אותה פעימה ״מתפתחת״ בהדרגה מגרסה בסיכון נמוך לגרסה סינתטית בסיכון גבוה.

החוקרים יכלו לראות אילו שינויים קטנים באותה פעימה גורמים למודל להעלות את הערכת הסיכון.

חשוב לדייק: ה־flip book מראה מה המודל למד לזהות. הוא עדיין לא מוכיח שהשינויים האלה עצמם גורמים למוות לבבי פתאומי.

ואז נכנסה הביולוגיה

חלק מהשינויים שהופיעו היו מוכרים: סטיית ציר שמאלה, מאפיינים שמתאימים ל־left anterior fascicular block ו־poor R-wave progression.

אבל ב־lead aVL הופיע שינוי שלטענת המחברים לא תואר קודם כביומרקר כזה- החלק הסופי של גל R נעשה מרוח יותר, ובמקום הירידה השלילית החדה לגל S הופיעה ירידה הדרגתית יותר.

(למען הדיוק המדעי- החוקרים הפכו את השינוי הזה למדדים כמותיים, ובדקו אותם באק״גים אמיתיים. המאפיינים נשארו קשורים למוות לבבי פתאומי ול־VF/VT גם לאחר תיקון למדדים רגילים כמו קצב, משך QRS, ציר ו־QT.)

החוקרים העלו השערה פיזיולוגית- אולי המריחה בחלק האחרון של ה־QRS משקפת גל דה־פולריזציה שהולך ומתפזר או נעשה פחות מאורגן ככל שהוא מתקדם דרך שריר הלב. מכשולים מפוזרים להולכה החשמלית יכולים לגרום לגל להתפצל שוב ושוב. אחד ההסברים האפשריים למכשולים כאלה הוא פיברוזיס מיוקרדיאלי עדין ומפושט.

כדי לחפש רמז לכך הם חזרו לרשומות ומצאו מספר קטן של מטופלים שעברו גם MRI לב, קרדיולוג שעבר באופן עיוור על הבדיקות מצא יותר late gadolinium enhancement מפושט בקרב תשעת המטופלים בקבוצת הסיכון הגבוהה, בהשוואה ל־15 מטופלים בסיכון נמוך יותר. זה כמובן מדגם זעיר והשערה ספקולטיבית מאוד, לא הוכחה לכך שפיברוזיס הוא המנגנון. אבל זו בהחלט השערת מחקר מעניינת ששווה לבדוק.

ולמה כל כך אהבתי את המאמר הזה?

כי החוקרים לא הסתפקו בכך שהמודל מנבא היטב.

הם שאלו האם אפשר לקחת אות חבוי בתוך מודל מורכב, להפוך אותו למשהו שאדם יכול לראות ולכמת, ואז להשתמש בו כדי לייצר השערה ביולוגית חדשה.

המודל הגנרטיבי לא שימש כאן כדי לכתוב טקסט, ליצור תמונה יפה או להגדיל את סט האימון. הוא שימש כמעין מכשיר מדעי לחקירת מודל אחר.

באמת אדירים 👑

עכשיו- אני לא חושבת שכל קלינאית וקלינאי צריכים לדעת לבנות מודל גנרטיבי VAE או לבצע gradient ascent במרחב לטנטי. עיצוב מחקר כזה באמת דורש עומק טכני יוצא דופן.

אבל אנחנו בהחלט יכולות להבין מאמרים כאלה, ולא להירתע רק כי מופיעות בהם אותיות יווניות שלא ראינו מאז הבגרות במתמטיקה (או מאז לימודי הרפואה, אם למדתם בטכניון).

ובעיקר, אנחנו צריכות ללמוד לעבוד עם האנשים שמביאים את ההבנה הטכנית הזאת. כי חלק מהתגליות המעניינות ביותר כנראה נמצאות בדיוק במרחב שבין ההבנה הקלינית להבנה הטכנולוגית.

• ראשית כול- תודה רבה לקורא הנאמן ד״ר יוסי גרון, על מעקב הריון לא שגרתי תחת טילים בליסטיים והמון סבלנות 🫶🏻

• תדעו לכם שחלק מהפוסטים של הבלוג הזה הופכים לסרטונים!

  יש לי חלום להפוך את התוכן הזה לכמה שיותר נגיש וברור, מעולם לא עשיתי reels קודם לכן (וחדי העין 🦄 ישימו לב שפה עלמה עדיין בבטן…)- אז אשמח ממש לשמוע את דעתכם!

מבטיחה שבשלב הבא נעשה קוד קופון ל-nejm…

סתיו

המאמר הראשון של קבוצה גרמנית בהובלת Jacob Kather הוא על מערכת שנקראית MIRA (medical intelligence for reasoning and action) זהו אייג׳נט שמיועד לפעול בתוך תיק רפואי של מטופל בעת קבלתו למלר״ד, ולסייע להנחות את הטיפול והבירור שלו, כולל החלטה על אשפוז.

המאמר השני הוא מהקבוצה של גוגל, עם המערכתAMIE (articulate medical intelligence explore) שכבר דיברנו עליה בעבר- אבל הפעם הם הכינו על בסיסה אייג׳נט שמיועד למעקב מרפאתי של ניהול מטופל לאורך זמן.

אבל רגע, מה זה בכלל אייג׳נט שכולם אומרים את זה כל הזמן?

תחשבו על ChatGPT כעל רופא יועץ שאתן מרימות אליו טלפון באמצע תורנות: אתן מתארות את המקרה, שואלות שאלה ספציפית ומקבלות תשובה (או רעיון). בזה נגמר האירוע.

אייג׳נט (Agent), לעומת זאת, הוא כמו מתמחה צעיר שיושב איתכן במחלקה: אתן נותנות לו משימה כללית (״תקבל את המטופל בחדר 3״), והוא כבר יודע לפעול בצורה אוטונומית- ללכת לשאול את המטופל שאלות, לאסוף נתונים מהרשומה הרפואית, להזמין את הבדיקות מעבדה שצריך, עד שהוא חוזר אליכן עם הקבלה המלאה.

כלומר אייג׳נט משתמש במוח של ה-LLM, אבל יכול לבצע גם פעולות (=להפעיל כלים) על בסיס המידע מהמוח.

אוקיי ומה החידוש בזה על פני שימוש בצ׳אט?

בשני המחקרים האלה לא בחנו איך ה-AI עונה על שאלת נקודתית או מפענח מקרה תיאורטי קפוא. בשניהם זרקו את המערכת למים ונתנו לה לנהל את האירוע של המטופל מההתחלה ועד הסוף, בדיוק כפי שהיה קורה בעולם האמיתי.

במקום שהרופא ישתמש ב-AI כעזר בנקודות מסוימות במסלול (למשל רק כדי לנסח מכתב שחרור או רק כדי לקבל אבחנה מבדלת), ה-AI היה זה שניהל תהליך חשיבה רב-שלבי, אסף תוצאות תוך כדי תנועה וקיבל החלטות על המשך הטיפול.

ומה מצאו?

ב-MIRA החוקרים בנו סביבת EHR מדומה על בסיס כ-500 מקרים אמיתיים מתוך מאגר המידע MIMIC-IV. המטופל היה patient agent, כלומר סוכן שמדמה מטופל, אבל הוא היה מוגבל לענות רק מתוך סיכום המחלה שהופק מהרשומה. MIRA יכל לתקשר איתו, ובנוסף הייתה לו גישה ל-11 כלים שונים שיכלו לבצע מעל 85,000 פעולות במערכת- לבקש פירוט של בדיקות גופניות, להזמין בדיקות מעבדה וצילומים, לרשום תרופות ולהחליט אם לשחרר או לאשפז.

הבדיקה הייתה על 8 אבחנות שונות (אפנדיציטיס, כולציסטיטיס, פנקריאטיטיס, דיברטיקוליטיס, דלקת ריאות, תסחיף ריאתי, UTI וסרטן לבלב). התוצאות הראו ש-MIRA הגיעה לדיוק אבחנתי של 87.8%, לעומת 78.1% של רופאים מומחים אנושיים שעבדו על אותם מקרים. המערכת גם ניהלה משאבים בצורה מעניינת- היא הזמינה יותר בדיקות דם, אבל חסכה משמעותית בהזמנת הדמיות, ורשמה תרופות בדיוק מטורף של 99.8% מבחינת התוויות, התאמות לתפקודי כליות ובטיחות.

נקודה מעניינת הייתה ש-MIRA הייתה חזקה במיוחד באבחנות כמו אפנדיציטיס ופנקריאטיטיס, ופחות חזקה (בדיוק כמו בני האדם) בדברים כמו דלקת ריאות ו-UTI. כרופאות, זה מזכיר לנו שלא תמיד התיק מכיל את ״האמת המוחלטת״, לפעמים זה יותר ״מה שהרופא התורן רשם בסוף״ ויש אבחנות שיותר ״קל״ לתת מהר לעומת אחרות, בטח במטופלים מסוימים.

ב-AMIE החוקרים הושיבו את המערכת מול מטופלים-שחקנים סטייל אוסק״י שניהלו איתה צ’אט. החוקרים בנו 100 תרחישים קליניים ב-5 התמחויות (קרדיולוגיה, ריאות, גסטרו, נשים/אורולוגיה ונוירולוגיה/אורתופדיה), כאשר כל תרחיש כלל 3 ביקורים עוקבים של אותו מטופל, בהפרש של כיומיים. כאן המטרה הייתה לנהל מחלה: מה הבירור שעושים, ומה עושים אם יש תגובה חלקית לטיפול, מתי עוקבים וכו׳. המערכת הושוותה ל-21 רופאי משפחה מומחים.

התוצאה הייתה ש-AMIE לא נפלה מהרופאים האנושיים באף מדד, ואפילו קיבלה ציונים גבוהים יותר על הדיוק (Preciseness) של ההמלצות שלה. בזמן שרופא עשוי לכתוב בתוכנית סתם “לתת אנטיביוטיקה”, AMIE ציינה מרשמים מדויקים של תרופה, מינונים ותדירות, תוך התאמה גבוהה וציטוט של ההנחיות הקליניות (NICE ו-BMJ Best Practice) שמבססות את ההחלטה.

אוקיי הבנו, עוד מאמר שאומר ש-AI היה יותר טוב מרופאים אנושיים, איך זה עוזר לנו?

האמת שזו בדיוק הנקודה שהכי גרמה לי להתעניין במחקרים האלה- אם אני רוצה מחר בבוקר להכניס AI למערכת הרפואית שלי, כדי לשפר ולעזור למטופלים ולצוות, מה תכלס אני לומדת ממחקר כזה?

הרי ברור לנו שערוץ טקסטואלי בלבד (בשני המחקרים התקשורת עם מטופלים הייתה מבוססת טקסט) לא באמת נותן את מלוא התמונה הקלינית, אבל זה לא רק זה.

ושוב אנחנו חוזרות למה בעצם מדדנו פה ואיך אנחנו יודעות שה-AI טוב.

מה בדקו? בדקו היצמדות לגיידליינס בניהול וזיהוי אבחנות. אבל תכלס, תהיו כנות מתי פעם אחרונה עקבתן ב-100% אחרי הגיידליינס? ואם סטיתן למה?

ד״ר אריק טופול המצוין (לעקוב דחוף בלינקדאין) כתב יפה שגיידליינס זה הטיפול הממוצע הכי טוב, אבל לאו דווקא הטיפול הכי טוב למטופל הספציפי שמולי עכשיו.

הרבה פעמים ה״סטייה״ הזו מהגיידליינס היא לא מקרית. היא בעצם הזיקוק הכי טהור של השילוב- בין המומחיות והניסיון שלנו, המטופל הספציפי שמולנו עם ההיסטוריה וההעדפות וההשקפות שלו, ומשאבי המערכת שהכי זמינים לנו ולמטופל.

כמה פעמים הסתכלתן על תשובה של איזה צ׳אט למשהו ששאלתן או משהו שמטופל הראה לכן, ואמרתן: ״פחחח, כאילו אולי כתשובה בשלב א׳, אבל אני לא עושה את כל זה עכשיו, כי אין שום סיבה! וזה לא יקדם אותנו!״.

(ואז כמובן נאלצתן להסביר במשך 37 דקות בתור של 10 דקות, למה אתן לא עושות ״את כל הבירור המלא״ שהצ׳אט המליץ).

וזה גרם לי לחשוב על משהו מעבר

אם מה שאנחנו מלמדים את ה-AI זה הגיידליינס, וזה מה שאנחנו גם שופטים אותו לגביו, אז למה אנחנו כועסים שזה מה שהוא עונה? (ואם זה נשמע לכן דומה מדי לטיעונים ההגיוניים של בן הזוג שלי בויכוחים, זה לגמרי בראש שלכן 🫢🤭).

זה אולי אחד הדברים שהכי מטרידים אותי, ככל המערכות נהיות משוכללות ומדהימות יותר מבחינה היכולת שלהן- איך אנחנו מלמדים אותם איך ״עושים רפואה בחיים האמיתיים״. כולנו יודעות שלדעת את הספר זה לא מספיק.

אבל איפה נמצא הדאטה הזה של הפער בין הספר לחיים האמיתיים (חוץ מאשר בראש שלנו)?

ואיך הופכים את הדאטה הזה למשהו קונקרטי כדי לעצב מערכות מבוססות AI שאשכרה עוזרות לנו עם המטופלים והן לא רק ״גוגל ממש ממש משוכלל״.

ופסקת ג׳וס כמובטח! 🧃

אולי יצא לכן לראות את המאמר הזה שהראה ש-LLM רגילים (כמו GPT-5.2, Gemini 3.1 Pro ו-Claude Opus 4.6), מנצחים את OpenEvidence בשאלות רפואיות, כולל שאלות אמיתיות שרופאים שאלו בסביבת עבודה קלינית. המאמר גרס שצריך לחשוב מחדש איך מעריכים את הביצועים של מוצרים כמו OE לפני שחותמים עליהם כמוצר שהוא clinically grade.

אבל המאמר זה בכלל לא החלק הכי נפלא באירוע – הפוסט תגובה של OpenEvidence (שכמובן גם היה חסום לתגובות) היה מופת של PR מזעזע. חוץ מלהאשים את מחברי המאמר שהם משהו בין נוכלים ל״הפוסל במומו פוסל״, ל״הכול עובר עליכם וקקי בידיכם״ (בחיי שזה לא היה רחוק מזה)- הפאסיב-אגרסיב שם זו פולניה ברמות הגבוהות ביותר.

מוזמנות להיכנס ללינקים, לקרוא ולשפוט בעצמכן- או נטו להנות ממלחמות של חנונים 🤓

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

לרוב את החצי פסקה האישית אני שומרת לסוף, אבל הפעם היא צריכה להיות בהתחלה.

השבוע קיבלתי הודעה ממש חמודה מקולגה שתהתה לאן נעלמו הפוסטים שלי שעולים בניוזלטר הזה ובקהילת הרופאות שלנו בפייסבוק, היא חשבה שאולי האלגוריתם החליט להעלים לה אותם, וביקשה ממני חברות בתקווה שככה הם יחזרו להופיע לה בפיד.

אמרתי לה שזה לא האלגוריתם, ושבכנות כבר שבועיים פלוס הטיוטה של הפוסט הזה ״שוכבת״ אצלי ב-notes, אבל פשוט לא הצלחתי להביא את עצמי לסיים אותה…

המשפחה והחברים שלי בגליל שחזרו למעין ״שגרה-שאינה-שגרה״, ושוב אי אפשר לנסוע הביתה להורים, הפחד לפתוח את החדשות כי אלוהים יודע איזה שברון לב נמצא שם הפעם, ותחושת הכאוס הכללי כולל מלחמות עולם ב״גרסה יומית״-זה רוקן אותי.

ממש.

אבל משהו בהודעה הפשוטה הזו, חימם לי את הלב, ונתן לי בדיוק את הקצת כוח שהייתי צריכה כדי לסיים את הפוסט הזה.

אז תודה ענת, לא ידעתי בכלל שאת זה בדיוק מה שהייתי צריכה 🫶🏻

מה זה deskilling ולמה כולם מדברים על זה?

המאמרים שלנו השבוע עוסקים בהשפעה של AI לא רק על איך שאנחנו עושים רפואה, אלא גם על איך שאנחנו מלמדים אותה.

המושגים החמים בתחום הם- deskilling ו-never skilling.

• שחיקת מיומנויות, Deskilling: תהליך שבו מיומנויות קליניות קיימות שאותן רכשנו בעבר הולכות ודועכות במהלך הקריירה.

• היעדר רכישת מיומנויות, Never-skilling : מצב שבו מיומנויות מסוימות לא נרכשות מלכתחילה על ידי הדורות החדשים בגלל הסתמכות מוקדמת על טכנולוגיה.

צריך רגע להגיד- זה ממש (ממש!) לא קטע חדש.

כשהסטטוסקופ הוצג לראשונה בשנת 1816, רופאים התנגדו לו מתוך פחד לאבד את יכולתם לשמוע את קולות הלב ללא עזרים. דוגמאות נוספות מהעבר הלא רחוק כוללות את היעלמותן של ספירות הדם הידניות שהוחלפו במונים אוטומטיים, או בדיקות גופניות לאיתור מיימת שהוחלפו באולטרסאונד ליד המיטה (על אף שכמובן עדיין חייבים להגיד shifting dullness בכל סבב פנימית שמכבד את עצמו).

אז למה עם AI זה כזה מפחיד?

כי ברור לנו שיש פה קפיצת בסדר גודל אחר.

המאמר הראשון שלנו מ-BMJ Digital Health & AI נותן מסגרת מחשבתית יפה כדי להחליט האם וכיצד מיומנות קלינית מסוימת צריכה להיות מוחלפת או מוגברת בעזרת AI.

המאמר מציע שלושה צירים לבחון דרכם כל מיומנות קלינית:

1. מורכבות המשימה: האם מדובר במשימה טכנית יחסית, או במשימה שדורשת איזה תכלול או תבנית קלינית?

   נגיד הנושא של סיכום מפגש רפואי, דיברנו על הכלים שעושים את זה אוטמטית ה-AI scribes, אבל כולנו יודעות שסיכום של המלל/טקסט שעובר בחדר זה רק חלק מהאירוע-

   בניית תוכנית הטיפול והדרך שבה נתקשר אותה תלויה גם בהיכרות שלנו עם המטופל, בטון שבו הוא דיבר, בהבעת הפנים, או תחושת הבטן שלנו- זה אזור קלאסי שבו AI יכול לעזור לנו, לחסוך לנו חלק מהקלדנות, אבל לא ממש להחליף אותנו על מלא.

2. חוסן המערכת: כמה שכבות גיבוי יש אם ה־AI טועה או לא זמין?

   אם כלי AI בקולונוסקופיה מפספס נגע, ויש רק שתי שכבות- הכלי והעיניים של הגסטרו- אז שחיקה של הערנות האנושית מסוכנת. לעומת זאת, אם יש מערכת עם קצת יותר שכבות, כמו למשל בניפוק תרופות שיש גם רוקחת, וצוות סיעודי, ולפעמים עוד מערכת ווידוא נוספת בתיק הרפואי- יש יתירות כלשהי.

3. המשמעות הקלינית של טעות: מה קורה אם ה־AI טועה?

   פספוס ניסוח בסיכום ביקור אינו דומה להסתמכות יתר על כלי שמנהל הרדמה. ככל שהנזק הפוטנציאלי גבוה יותר, כך צריך לשמור יותר על מיומנות אנושית עצמאית.

מהתיאוריה לפרקטיקה: איך עושים את זה? מה מלמדים?

המאמר השני מ-nature medicine מנסה לענות בדיוק על זה.

החוקרים ממפים שלוש רמות (כן זה הוייב השבוע) של בעיות העלולות להיווצר בחינוך רפואי מבוסס AI:

1. אובדן “המאבק היצרני” (Competency Acquisition Crisis): בדיוק כמו ששריר חייב התנגדות כדי להיבנות, תהליך הלמידה הרפואי דורש מאמץ מנטלי. כשסטודנט מקבל רשימת אבחנות מבדלות מוכנה מ-AI, הוא מדלג על שלב הגיבוש של התשתית הקוגניטיבית שלו.

2. פרדוקס הכיול ו”עיוורון אוטומציה”: כשאנחנו מסתמכים יותר מדי על המערכת בזמן הלמידה, אנחנו עלולים לאבד את הרדאר הפנימי שלנו לזיהוי שגיאות. אנחנו הופכים פגיעים להטיית אוטומציה ומאבדים את יכולת הכיול- אותה תחושת בטן שאומרת לנו מתי לסמוך על תוצאה ומתי משהו כאן לא הגיוני.

3. משבר זהות- מרופאה לטכנאית: אם ה-AI עושה את רוב עבודת החשיבה, אנחנו עלולים למצוא את עצמנו מתפקדים יותר כמתווכים טכניים שפשוט מעבירים הלאה פלט של מכונה, פחד של רבים וטובים בקהילה הרפואית…

הם מציעים 3 רמות פתרון (זו האופנה עכשיו ארתור…)

בשלב הראשון: AI-free zones. כלומר, אזורים מוגדרים שבהם סטודנטים ומתמחים צריכים להדגים יכולת עצמאית: אבחנה מבדלת, חשיבה קלינית, תוכנית בירור וטיפול- בלי AI. לא כי AI רע, אלא כי לפני שמקבלים copilot, צריך ללמוד להיות pilot.

אהבתי את הדימוי שלהם של לדעת לבנות לבד את ה״פיגומים״ המחשבתיים, הבסיס, שעליו אחר כך בונים את הידע. זה כמו שבמקרים מתגלגלים מלמדים אותנו קודם לחלק ל״מגירות״ הגדולות, ואז עבור כל מגירה לרדת לפתולגיות הספציפיות. זה לא נורא אם לא זוכרים בדיוק כל שם של מחלה, אבל כן צריך לדעת למפות את הנתיבים המרכזיים.

בשלב השני: שימוש מודרך ומכויל ב־AI. כאן הלמידה לא אומרת “תשאלו את ChatGPT”, אלא להפך: לתת ללומדים תשובות AI עם טעויות מכוונות, ולבקש מהם לזהות את הטעות, להסביר אותה, ולתקן. זה כמו red-teaming (מושג מעולמות הסייבר קצת) חינוכי. בנוסף, להשוות ביצועים עם ובלי AI כדי לפתח כיול עצמי: מתי הוא עוזר לי, מתי הוא מטעה אותי, ואיפה אני נוטה לסמוך עליו יותר מדי.

בשלב השלישי: אינטגרציה מפוקחת בפרקטיקה קלינית. במיוחד בהתמחות, AI צריך להיכנס לתוך משימות קליניות אמיתיות, אבל כחלק ממסגרת של competency-based education: מה היכולת של המתמחה לבד, מה היכולת שלו עם כלי עזר, והאם הוא יודע להפעיל שיקול דעת גם כשהכלי זמין. המאמר אפילו מציע לחשוב על ארבע רמות הערכה: בלי AI בכלל, עם גישה למקורות מידע בלבד, עם AI כשותף לחשיבה שצריך לבקר, ולבסוף עבודה מלאה בסביבה מועצמת AI.

ומה אני חושבת? (ולמה זה החלק שהכי קריטי לסטודנטים לקרוא)

בעיניי, הדבר הכי חשוב בדיון הזה הוא לזכור שזה תהליך טבעי. רפואה תמיד השתנתה סביב טכנולוגיות חדשות. לא כל מיומנות ישנה קדושה, ולא כל אוטומציה היא אסון.

האתגר האמיתי של כל מי שמלמדת כרגע סטודנטים ומתמחים לא משנה באיזה תחום- הוא שאנחנו מנסים להכין אותן לעולם שאפילו לנו לא ברור איך הוא ייראה בעוד חמש או עשר שנים. וזה קשה במיוחד ברפואה, כי רפואה היא עדיין מקצוע שולייתי. לומדים לא רק מספרים ומבחנים, אלא מצפייה ברופאים אחרים: איך הם חושבים, איך הם מתלבטים, איך הם טועים ואיך הם מתקנים.

ופה יש לדור הסטודנטים הזדמנות נדירה. ברוב מקרים הם מבינים AI לא פחות, וכנראה יותר, מהמורים שלהם. לכן זה לא יכול להיות תהליך שבו המרצים “מעבירים הנחיות” מלמעלה. זו צריכה להיות עבודה משותפת: המורים מביאים ניסיון קליני, שיפוט, אחריות והבנה של מה אסור לאבד; הסטודנטים מביאים אינטואיציה טכנולוגית, סקרנות ופתיחות, ויכולת לבדוק מחדש איך לומדים.

האתגר הוא לא ללמד רפואה ״למרות AI״.
האתגר הוא ללמד רפואה כך שהדור הבא ידע לחשוב גם עם AI, בלי לאבד את היכולת לחשוב גם בלעדיו.

-------

אני סתיו ואני חלק ממחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

בדרך כלל אנחנו שואלים אותו שאלות די מיידיות: יש פרפור? יש חסם? QT ארוך? משהו שצריך לעשות עכשיו?

אבל מאמר חדש ב־JACC שואל את האק״ג שאלה אחרת לגמרי- האם עשר שניות של פעילות חשמלית יכולות לנבא סיכון לשבץ איסכמי בעשר השנים הבאות?

מה עשו במאמר?

החוקרים פיתחו מודל בשם ECG2Stroke. הם לקחו אק״ג 12 לידים רגיל, והכניסו למודל את האות החשמלי עצמו- כלומר לא את הפענוח הסופי, כמו “sinus rhythm” או “atrial fibrillation”, אלא ממש את הגלים עצמם.

הם אימנו את המודל על למעלה מ-100,000 תרשימי א.ק.ג של מטופלים מבית החולים MGH בבוסטון. המודל קיבל כקלט רק את הגל החשמלי הגולמי, יחד עם גיל ומגדר- והתבקש לנבא מי מהמטופלים יחטוף שבץ בעשור הקרוב.

והתוצאה? המודל הצליח לתת ניבוי מדויק כמעט כמו מודלים קליניים מוכרים (FSRP), שדורשים ערימה של נתונים כמו מדדים, אבחנות וכו׳

אוקיי עוד מודל חיזוי, מה מיוחד במודל הזה?

דאטה של אק״ג, כמו כל דאטה ״מוניטורי״ הוא לא דאטה טריוויאלי, זה אות פיזיולוגי רציף, והעבודה איתו זה אתגר אחר לגמרי.

תחשבו שבפועל, כל אק״ג כזה הוא המון המון מספרים: 500 מדידות בשנייה, במשך 10 שניות, בכל אחד מ־12 הלידים. כלומר בערך 60,000 נקודות מידע גולמיות של מתח חשמלי ברגע מסוים, וכל זה באק״ג אחד. המון דאטה!

בתוך הסיגנל הזה יש מידע שאנחנו יודעים לקרוא: P, QRS, ST, QT. אבל יש גם הרבה מאוד וריאציות עדינות שאנחנו לא בהכרח יודעים לכמת בעין, ובטח לא משתמשים בהן ביום־יום. והמודל למד להסתכל על הרצף הזה, לחפש בו תבניות, ולהפיק ממנו הערכה לסיכון עתידי לשבץ.

אבל איך?

איך מסבירים מה זה “רשת נוירונים קונבולוציונית” בלי להפחיד ובלי שתפסיקו לקרוא?

כשאומרים ״רשת נוירונים״, קל לדמיין איזה משהו מסתורי למדי. בפועל, ברמה הכי פשוטה, זו מערכת שמקבלת הרבה מאוד דוגמאות, ומנסה ללמוד אילו תבניות חוזרות אצל אנשים שבהמשך קרה להם outcome מסוים. במקרה הזה: אילו תבניות באק״ג מופיעות יותר אצל אנשים שבהמשך עברו שבץ.

אז איך הרשתות האלו לומדות תבניות? תחשבו רגע על איך אתם קוראים אק״ג. אתם לא מסתכלים על כל הדף כמקשה אחת. העין שלכם סורקת את התרשים משמאל לימין, חלון אחרי חלון. קודם אתם קולטים צורות בסיסיות: עלייה קטנה, ירידה חדה, קומפלקס רחב. אחר כך המוח שלכם מחבר את הצורות האלו למבנים מוכרים יותר: זה גל P, זה קומפלקס QRS, זה מקטע ST. בסוף, אתם עושים אינטגרציה של כל המבנים מכל 12 הלידים כדי להגיע למסקנה קלינית.

רשת קונבולוציונית עושה משהו שדומה לזה, רק במתמטיקה. היא מעבירה ״חלון״ לאורך ציר הזמן של הא.ק.ג., בשכבות הראשונות שלה היא לומדת לזהות שינויי מתח זעירים. ככל שמעמיקים ברשת, היא לומדת לחבר את השינויים האלו לתבניות רחבות יותר. בסוף התהליך (במה שנקרא Fully connected layers), היא אוספת את כל הרמזים שמצאה מכל הלידים, משקללת אותם, ומשתמשת בהם כדי לתת ציון סיכון לשבץ.

בדרך כלל אנחנו פוגשים את הרשתות האלו בעולם של תמונות (דיברנו על זה בפוסט על ROP של יילודים). היא עוברת על התמונה אזור אחרי אזור, ומתחילה לזהות תבניות פשוטות, כמו קווים וקצוות, ואז תבניות מורכבות יותר, כמו צורות או אובייקטים.

ומה מיוחד במה שהרשתות האלו יודעות לעשות?

בעבר היינו צריכים להגיד למחשב מראש מה לחפש- למשל למדוד PR, או לחשב QTC. זה דרש מאיתנו גם המון מידע מתויג שלוקח המון זמן להכין (ופרנס יפה שלל סטודנטיות וסטודנטים לרפואה 😉). בנוסף, זה מגביל אותנו בללמד את המחשב לחפש דברים שאנחנו כבר יודעים להגדיר.

אבל במקרה הזה נותנים למודל הרשת את האות הגולמי, בלי לעבד אותו, ואומרים לו: תנסה ללמוד לבד אילו דפוסים חוזרים אצל אנשים שבהמשך יפתחו שבץ. היופי הוא שאפשר ככה למצוא דפוסים עדינים, שאנחנו לא בהכרח יודעים לתייג מראש.

אבל אין רע בלי טוב- אז הסכנה המרכזית בזה היא שהמודלים האלה יכולים גם ללמוד דפוסים שהם קיצורי דרך מטופשים לגמרי.

וזה מביא אותנו למושג הראשון שחשוב להכיר בקריאת מאמרי AI כאלו- Overfitting.

Overfitting, או התאמת־יתר, זה מצב שבו המודל לא באמת למד את הבעיה. הוא למד את הדאטה שעליו הוא התאמן. מודל יכול ללמוד לא את המחלה- אלא את בית החולים, לא את הפיזיולוגיה- אלא את שיטת הקידוד, ולא את המטופל- אלא את סוג המכשיר.

קצת כמו סטודנט שלא הבין את החומר, אבל זכר בעל פה את כל השאלות מהמבחנים הקודמים. אם תיתנו לו את אותו מבחן- הוא יבריק. אם תשנו קצת את הניסוח- הוא יתפרק.

לדוגמא: במקום ללמוד שינויים עדינים בגל P שמנבאים סיכון לשבץ, המודל עלול ללמוד שמכשירי הא.ק.ג במחלקת פנימית ג’ ב-MGH מפיקים יותר רעש רקע, ושם במקרה אושפזו חולים קשים יותר.

מבחוץ זה עלול להיראות כמו מודל חכם, מבפנים זו לפעמים פשוט מכונה שמצאה קיצור דרך סטטיסטי. ואם ננסה להריץ את המודל הזה בבית חולים אחר, הוא פשוט יפלוט שטויות.

אז איך יודעים שאין overfitting?

לא יודעים במאה אחוז. אבל אפשר להוריד מאוד את החשד.

במאמר הזה החוקרים עשו כמה דברים חשובים. הם הפרידו בין סט אימון, סט ולידציה וסט בדיקה. כלומר הם וידאו שאין חפיפה בין המטופלים והאק״גים שעליהם המודל התאמן לבין אלה שעליהם הוא נבחן.

בנוסף, הם לא הסתפקו בבית החולים שבו המודל פותח- הם בדקו אותו גם בשני בתי חולים אחרים: Brigham and Women’s ו־Beth Israel Deaconess. למרות שכולם באזור בוסטון, מדובר באוכלוסיות שונות, דפוסי הפניה שונים, תמהיל מקרים שונה, ובמקרה של BIDMC גם מערכת בריאות נפרדת.

והתוצאה נשארה די יציבה: AUC של 0.795 בסט הבדיקה הפנימי של MGH, ו־0.774 ו־0.772 בשני הסטים החיצוניים. זה לא רע יחסית לבעיה ול-scores הקיימים בתחום.
זה הרגע שבו אנחנו מתחילים לחשוב שיש פה אולי סיגנל אמיתי של פיזיולוגיה, ולא אלגוריתם ששינן את המזהה של מכשירי האק״ג במסדרון הלא נכון.

איך אנחנו יודעים מה המודל למד? אולי המודל פשוט מזהה פרפור פרוזדורים?

הרי AF הוא גורם סיכון ידוע לשבץ, והוא מופיע באק״ג. אם כל המודל עושה זה לזהות AF, אז זה נחמד, אבל לא בדיוק מהפכה.

אז החוקרים ניסו להבין את מקור הסיגנל שהמודל למד. הם בדקו את הביצועים גם באנשים עם ובלי AF. והם השתמשו ב־saliency maps- דרך לנסות לראות אילו אזורים באות השפיעו במיוחד על התחזית של המודל.

ומה קפץ? בעיקר אזור גל P והאזורים סביבו.

גל P הוא הייצוג החשמלי של פעילות הפרוזדורים, בדרך כלל הוא לא הכוכב של האק״ג. אנחנו נוטים להתרגש יותר מ־ST elevation, מ־QRS רחב וכו׳. אבל כאן דווקא ה־P הקטן הזה נראה כמו חלק משמעותי מהסיפור.

החוקרים מצאו קשר בין תחזיות המודל לבין מדדים מוכרים שקשורים לפעילות פרוזדורית, כמו PR interval ו־P-wave duration. בנוסף, בתת־קבוצה שבה אירועי השבץ סווגו ידנית לפי מנגנון, הציון של המודל היה קשור חזק יותר לשבץ קרדיו־אמבולי, ולא הראה קשר מובהק לשבץ שאינו קרדיו־אמבולי.

ייתכן שהמודל מזהה באק״ג חתימה עדינה של פרוזדור לא לגמרי בריא: atrial cardiopathy, או פרוזדור שעבר remodeling חשמלי או מכני, עוד לפני שיש לנו תווית קלינית ברורה כמו פרפור לשים עליו.

אז מה אני לומדת ממאמר כזה?

קודם כל- שזה מגניב. ממש מגניב.

אתן יודעות כמה אני אוהבת כשלוקחים בדיקה שגרתית, כזו שגם ככה עושים- ובאמצעות שיטות חישוביות חדשות מצליחים להוציא ממנה עוד שכבת מידע.

והנקודה השנייה שקופצת לי פה היא כמה המאמר הזה הולך ״הלוך חזור״ בין הקליניקה והידע הרפואי לבין הפן החישובי והדאטה סיינס. אי אפשר לשפוט או להבין את המאמר הזה לגמרי מבלי להכיר את שני העולמות האלו, וכמה צריך קלינאים וקלינאיות שרוצים להיות בתפר הזה.

וזה עוד לפני שדיברנו על איך הופכים מחקר כזה ל״מוצר״ אמיתי בשטח: למי מציגים את הציון? באיזה שלב? מה עושים עם מטופל בסיכון גבוה? האם שולחים לניטור קצב? לאקו? לאיזון גורמי סיכון? ואיך מוודאים שלא יצרנו עוד התראה יפה שאף אחד לא יודע מה לעשות איתה?

ופה כבר ברור למה חייבים קלינאים בתוך התהליך. כי המודל יכול אולי למצוא סיגנל, אבל רק קלינאים יכולים לעזור להפוך סיגנל לשאלה קלינית, ושאלה קלינית לתהליך עבודה שלא עושה יותר נזק מתועלת.

• אם אתם חברים בפייסבוק של חדר רופאות או קבלה רפואית- פתחו יומן! ב-26.5 ב-20:30 הרצאה שלי על ״מה בעצם עושים שם במחלקת רפואה מבוססת AI?״. אחרי ההרצאה תהיה גם שיחה פתוחה עם עוד מתמחים במחלקה למי שמעוניין.

• התראיינתי השבוע לפודקאסט של מעיין אורן המהממת ״קראו לה דוקטור״ (ומי שמזהה את הרפרנס, מגיע לכם 2 נקודות בונוס או שאתם מתחת לגיל 28 כנראה). לדבר על הנושאים האלו בפודקאסט הייתה חוויה אחרת לגמרי- זה אמור לצאת ממש בקרוב, אז stay tuned!

חג שמח, ובהצלחה לכולנו בנוהל 🚀✌🏻🌾💃🏻

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

אבל ציניות בצד, הלשכה לאתיקה של ההסתדרות פרסמה נייר המלצות לכללי אתיקה בשימוש בבינה מלאכותית ברפואה, וקודם כל צריך להגיד להם סחתיין ✌🏻

כי אם אנחנו מתלוננים כבר שנים שהטכנולוגיה רצה הרבה יותר מהר מהרגולציה- אז לפחות צריך לתת קצת קרדיט לאנשים שמנסים לעשות סדר בתוך הכאוס הזה.

והאמת? המסמך הזה מעניין בדיוק בגלל המקומות שבהם רואים את הפער בין איך שהרפואה ״חושבת״, לבין איך שהטכנולוגיה הזאת באמת עובדת.

חלק גדול מהנייר מדבר על ערכי היסוד שצריכים להנחות את השימוש וההטמעה של בינה מלאכותית בבריאות.

אחד הערכים המרכזיים שהם מדברים עליו הוא Explainability, או היכולת שלנו להסביר מדוע מודל בינה מלאכותית מסוים נותן המלצה/תוצאה/פרדיקציה ספציפית.

על הנייר זה נשמע ברור- אם אני ממליצה למטופל משהו, אני חייבת להיות מסוגלת להסביר ״למה״ אני ממליצה לו את זה.

ובאינטואיציה רפואית זה כמעט מובן מאליו, אנחנו רגילים לחשוב בצורה סיבתית. איזה ממצא הוביל לאבחנה. איזה נתון העלה את החשד. מה היה ה-reasoning.

הבעיה היא שבמודלים הכי מתקדמים היום, במיוחד מודלים גנרטיביים (כמו ChatGPT ושות׳), אנחנו כבר לא באמת נמצאים בעולם הזה.

כלומר, אפשר לקבל הסברים. המודל בשמחה ייתן לך explanation יפהפה עם bullet points וביטחון עצמי של סטאז׳ר בשבוע הראשון לסטאז׳.

אבל זה לא אומר שזה ההסבר האמיתי למה שהוא הגיע לתשובה. וזה לא איזה “באג קטן” שעוד רגע ייפתר. זה כמעט מאפיין יסוד של מערכות GenAI.

ובהדרגה, גם העולם הרגולטורי מתחיל להבין את זה.

בתחילת עידן ה-AI הרפואי, הפנטזיה הייתה: ״אם רק נצליח להסביר את המודל- נפתור את בעיית האמון״.

אבל בארה״ב ובאירופה כבר מתחיל שינוי מחשבתי, ורואים את זה גם בהנחיות שם.

זה פחות: ״תסביר לי בדיוק איך המודל חושב״

ויותר: ״תראה לי שהוא עובד. תראה לי איך אתה מנטר אותו. תראה לי מה קורה כשהוא טועה. תראה לי שיש Governance אמיתי סביבו״.

וזה שינוי ענק.

כי במודלים קלאסיים יחסית- נגיד מודל סיכון לספסיס עם 20 משתנים- עוד אפשר לדבר על Feature importance.

אבל ב-LLMs? במערכות גנרטיביות? במודלי ראייה ממוחשבת? במודלים מולטימודליים? (א-הא! תראו על כמה נושאים כבר דיברנו בפוסטים עד כה, כל לינק הוא קישור לפוסט. כן כן, קידום עצמי נטול בושה לחלוטין 😁 )

אנחנו כבר בעולם שבו גם המפתחים עצמם לא באמת יודעים להסביר למה Token מסוים נבחר.

וזה גורם לנו לזוז באי-נחת בכסא, אין ספק. כי רפואה בנויה על להבין, או לפחות לנסות.

אבל סביר שחלק מהמערכות הכי טובות שנשתמש בהן בשנים הקרובות יהיו בדיוק כאלה שפועלות בצורה שכבר לא ניתנת להבנה אנושית מלאה, וזה סוד ה״קסם״ שלהן.

מערכות שיודעות לעשות דברים שאנחנו, בני אדם, פשוט לא יודעים לעשות. למצוא תבניות שאנחנו לא יכולים לראות, או לעבד נפח מידע שאנחנו לא מסוגלים- זה מגיע לרמה שלא רחוק היום שבו לא להשתמש במערכות כאלה ייחשב לטיפול תת-אופטימלי.

וזה שם אותנו במקום מקצועי מאוד מוזר: אולי נצטרך ללמוד לעבוד עם מערכות שאנחנו לא באמת ״מבינים״ עד הסוף, אלא בעיקר יודעים למדוד, לבדוק ולנטר.

זה קצת כמו ההבדל בין להבין במדויק מנגנון פעולה של תרופה, לבין לדעת להשתמש בה בצורה בטוחה ויעילה על סמך מחקרים. ואת זה, בכנות, אנחנו כבר עושים ברפואה ממזמן… (מי אמר ליתיום?).

אז מצד אחד הסברתיות זה עיקרון חשוב, אבל חלק מהבקשות או המציאות שהמסמך הזה רוצה לייצר פשוט לא קיימת או לא אפשרית בעולם הנוכחי של ה-GenAI. והדרישה הנוקשה הזו עלולה יותר לחסום קדמה מאשר לאפשר אותה.

הנושא השני מהמסמך שנשאר איתי הוא הסכמה מדעת, ופה דווקא אני חושבת שהם נוגעים במשהו סופר חשוב.

כי ככל שהמערכות האלה יהפכו ליותר אוטומטיות, יותר בלתי נראות, ויותר משולבות בתוך ה-workflow הרפואי הרגיל- למטופלים מגיע לדעת. לא רק ש״נעשה שימוש ב-AI״, אלא איפה, עד כמה, ומי באמת הסתכל על התוצאה לפני שהיא הגיעה אליהם.

אבל פה גם הרגשתי שהמסמך קצת… ישראלי.

כי בישראל אנחנו עדיין חיים במערכת שבה יחסית קל לדמיין רופא משפחה שמכיר אותך, שעובר על ההמלצה, חושב עליה ומתווך אותה. זאת פריבילגיה. בהרבה מקומות בעולם אין את זה. בארה״ב, Primary care זה כבר כמעט זן בסכנת הכחדה בחלק מהאזורים.

חלק לא קטן מהרפואה בעולם מתרחשת דרך פורטלים, צ׳אטים וטריאז׳ אוטומטי. אפשר לטעון שזה לא אידיאלי- אבל צריך להבין מה החלופה. והחלופה היא לפעמים פשוט אין רפואה בכלל. נאדה.

במקומות כאלה, AI לא יהיה ״עוד כלי עזר לרופא״. הוא יהיה חלק מהמערכת שמחליטה בפועל מי בכלל מגיע לרופא, אילו הפניות יופקו אוטומטית, ואיזו מסרים הוא יקבל באפליקציה.

וזה שינוי הרבה יותר גדול ממה שחלק מהשיח הרפואי עדיין מצליח לעכל.

וסביר שגם בישראל בשנים הקרובות יהיו יותר ויותר מערכות שיעשו דברים באופן אוטומטי.

אז המחשבה שכל המלצת מערכת תעבור תיווך במפגש רופאה-מטופל (כי באמת, היה לנו ממש משעמם ב-7 הדקות שיש היום לתור, אז בואו נוסיף גם הסבר על איך עובד ה-LLM שהמליץ על שינוי המינון ולמה) היא המלצה פשוט לא ריאלית- עוד לפני שמתווכחים אם היא בכלל נכונה.

זה לדעתי המקום שבו השיח הרפואי עדיין קצת תקוע בדור הקודם של הטכנולוגיה.

אנחנו עדיין מדברים על AI כאילו הוא ״עוד תוכנה במחשב״. אבל העולם הולך למקום שבו ה-AI פשוט יהיה חלק מתשתית הרפואה עצמה. בטריאז׳, בתיעוד, בהודעות, בסיכומים, בהמלצות, באישור תרופות ובניהול עומסים.

החלק הכי משמעותי שהמסמך הזה מדגיש, גם אם בין השורות, הוא הצורך שלנו לקדם ״אוריינות AI״- גם בקרב הצוות הרפואי וגם בקרב המטופלים. כי אי אפשר יהיה להסביר כל פרט קטן מחדש בכל ביקור.

אבל היי! כבר עשינו תהליכים דומים בעבר- היום אני לא מסבירה למטופל מה זה אומר שאני מקלידה במחשב, נכון? ברור לו שהתיק דיגיטלי ושהמידע נשמר ברשת מקושרת. זוכרים שפעם לא היה נהוג להכניס פרטי אשראי באתרים כי אנשים פחדו מהטכנולוגיה?

אז נכון שבאתר של הכללית (או בכל קופה אחרת) יש עמודים מפורטים שמסבירים בדיוק כיצד המידע נשמר, מדיניות הפרטיות, של מי האחריות וכו׳. אבל בחייאת, חוץ מכמה משוגעים לדבר (ופגשתי כמה!) מישהו אי פעם קרא את זה? לא. אנחנו פשוט משתמשים במערכת כי היא תשתית, ואנחנו מבינים מספיק כדי לדעת איך זה עובד.

ואולי זאת בעצם הנקודה. המסמך הזה של הר”י רחוק מלהיות מושלם. יש בו סעיפים שמריחים מניתוק קל מהשטח, ודרישות שכבר עכשיו הטכנולוגיה עוקפת בסיבוב. אבל עם כל הציניות, מצאתי את עצמי חושבת עליו המון השבוע, דווקא בגלל מה שהוא מסמל.

עצם זה שהרפואה הממסדית מבינה שהיא חייבת לפתח שפה מקצועית סביב AI, זה צעד משמעותי. אנחנו עוברים משלב הגימיק לשלב ההתמודדות האמיתית.

כי בעשור הקרוב, אוריינות AI לרופאים לא תהיה סתם עוד ״Skill של חדשנות״ שאפשר להשוויץ בו. היא תהיה סטנדרט הטיפול. היא תהיה חלק בלתי נפרד מהאחריות המקצועית הבסיסית שלנו, בדיוק כמו לדעת לקרוא תוצאות של בדיקות, או מתי להפנות לייעוץ.

כמו שאבא שלי אוהב לשיר ברגעים כאלו: ״אם זה טוב ואם זה רע, אין כבר דרך חזרה!״ 🙃

רענון קליני קצר, למי שלמזלו לא מבלה את ימיו באונקולוגיית לבלב:

CA19-9 הוא ביומרקר סרולוגי, וב-PDAC הוא אחד המדדים החשובים למעקב דינמי אחרי המחלה.

למה דינמי? כי בסרטן הלבלב, ההדמייה לא תמיד משקפית באופן מהימןאת התגובה לטיפול ולכן אנחנו משתמשים בטרנד של CA19-9, טרנד יורד מחזק את ההערכה שהטיפול עובד.

כמובן, צריך לפרש את CA19-9 בהקשר הקליני הכללי המתאים- שכן זה סמן שיכול להיות מושפע מחסימה ביליארית, כולנגיטיס, ועוד דברים שלא קשורים ישירות לעומס גידולי.

הבעיה?

בערך 30% מהחולים עם PDAC לא מייצרים CA19-9 מוגבר. בכלל.

ופה נכנס המחקר הזה.

מה החוקרים עשו?

לקחו חולים שכן מייצרים CA19-9, ואספו בדיקות מעבדה שגרתיות סביב הזמן שבו נמדד CA19-9 (ספירת דם, כימיה, תפקודי כבד, CEA וכו׳) ואז הם אימנו מודל ״Machine learning״ שינסה לנבא מה אמור להיות ערך ה-CA19-9 על בסיס הדפוס המעבדתי הזה.

אבל מה בדיוק אומר שהם ״אימנו מודל״ Machine learning?

הם אמרו למחשב- הנה הנתונים של הרבה מאוד חולים. מצד אחד ערכי המעבדה השגרתיים שלהם, ומצד שני ערך CA19-9 שנמדד באותו זמן. נסה ללמוד מה הקשר ביניהם.

המודל הסופי השתמש ב־38 בדיקות מעבדה שגרתיות כדי לחזות מה הערך של CA19-9.

שווה לעצור פה רגע, כי קל לדלג על הנקודה הזו.

מה שתיארתי זה הבסיס של מודל חיזוי קלאסי מבוסס ML, אבל צריך לזכור שזה לא “רופא קטן בתוך מחשב”- הוא לא יודע פתופיזיולוגיה, והוא לא מבין בסרטן לבלב. הוא עושה משהו פשוט יותר: הוא לומד דפוסים.

כיוון שמראים לו שוב ושוב קומבינציות של ערכי מעבדה ו-CA19-9, עם הזמן המודל לומד אילו דפוסים במעבדות נוטים להופיע יחד עם ערכי CA19-9 גבוהים יותר או נמוכים יותר.

נשמע טוב, אז מה הבעיה?

אחרי שהמודל למד לנבא CA19-9 אצל חולים שכן מייצרים אותו, החוקרים הפעילו אותו על אוכלוסייה של 121 חולים עם PDAC שלא מייצרים CA19-9 מוגבר. והם השתמשו בציון המחושב אצל אותם מטופלים כדי לנבא פרוגנוזה ותגובה לטיפול.

(כבר פה חלקנו נרים גבה, הרי אלו לא בהכרח אותם חולים מבחינה ביולוגית, אבל נתקדם.)

והתוצאות היו מרשימות.

ערך נמוך מ־100 בציון המחושב של המודל לאחר הטיפול, נמצא קשור באופן בלתי תלוי להישרדות טובה יותר.

ירידה של 50% ומעלה בציון המחושב של המודל במהלך הטיפול, הייתה באסוציאציה מובהקת להשלמת הטיפול והגעה לניתוח.

יש פה סיגנל אמיתי.

אבל אז הם הלכו וקראו למרקר הזה e19-9 🤦🏻‍♀️

וזה, לדעתי, ממש ממש מעצבן. ומטעה.

כי מה שהם בעצם עשו הוא לא “למצוא CA19-9 חדש”.

הם בנו ציון חישובי שמזהה דפוס מעבדתי של חולה שמגיב טוב יותר או פחות טוב לטיפול.

וזה בדיוק המקום שבו קלינאים חייבים להבין מה זה מודל חיזוי.

שוב, מודל חיזוי לא “מבין” את המחלה כמו שאנחנו מדמיינים. הוא לומד קשרים סטטיסטיים בין קלט לפלט.

אם בדיקות המעבדה נראות ככה, אז זה היה קשור לערכי CA19-9 כאלה.

זה קצת כמו לבנות מודל שמקבל חום, דופק, לחץ דם, לויקוציטים ו־CRP ומנבא למי יש סיכוי לתרבית דם חיובית.

יכול להיות שזה מודל שימושי. יכול להיות שהוא עוזר לנו לתעדף אנטיביוטיקה, אשפוז או בירור.

אבל לא היינו קוראים לו e-blood culture.

כי הוא לא תרבית דם. הוא לא מזהה חיידק. והוא לא מחליף לנו בקבוקי תרבית.

וגם במחקר הזה, המודל לא יודע לגרום לחולה non-producer להפוך ל־producer, הוא לא משלים בדיקה חסרה במובן הביוכימי. הוא כנראה קולט תערובת של דברים: מצב דלקתי, חסימה ביליארית, מצב תזונתי, רעילות טיפול ועומס מחלה- ואז מתרגם אותם לפרוגנוזה.

וצריך להגיד- לפעמים במודל חיזוי באמת לא אכפת לי למה הוא חזה. וזו נקודה חשובה.

יש מצבים שבהם אני לא צריכה שהמודל יסביר לי מנגנון. אני צריכה שהוא ינבא היטב.

אם אני רוצה לדעת מי צפוי להתדרדר בשעות הקרובות, מי בסיכון לאשפוז חוזר, מי עלול לפתח ספסיס- לפעמים מספיק לי שהמודל יצביע על מי בסיכון גבוה.

מודל חיזוי טוב לא חייב להיות מודל סיבתי. הוא לא חייב להוכיח למה משהו קורה. הוא צריך להגיד, בזהירות ובדיוק: בהינתן מה שאני רואה עכשיו, מה הסיכוי שתוצאה מסוימת תקרה?

וזה לא בהכרח אומר שהמשתנים שהובילו לתחזית הם הסיבה להידרדרות- הם יכולים להיות סימנים מוקדמים, פרוקסי כלשהו, או שיקוף של נהלי עבודה של בתי החולים או החלטות קודמות של הצוות.

הכול טוב, רק שאני צריכה להבין ש- it is what it is.

אין לי שום בעיה עקרונית עם ציון מרוכב שמבוסס על בדיקות מעבדה, להיפך, נראה שהוא עושה את העבודה.

ואם הם היו קוראים לו PDAC Laboratory Response Score (אכן שם קצת פחות סקסי, אין מה להגיד) הייתי שמחה וטובת לב.

האם אני לא סתם קטנונית?

יכול להיות 🙃🙃

אבל ברגע שאנחנו מכניסים AI לקליניקה, השפה שלנו הופכת לחלק מהמוצר.

אם אנחנו קוראים לציון חיזוי בשם של ביומרקר, אנחנו מייצרים אצל המשתמש הקליני מודל מנטלי שגוי.

זה נכון במיוחד ברפואה, שבה שמות של בדיקות הם לא סתם branding.

כשאני אומרת טרופונין, המוח שלי הולך לנזק מיוקרדיאלי, כשאני אומרת קריאטינין, המוח שלי הולך לתפקוד כלייתי.

כשאני אומרת CA19-9 המוח שלי הולך לסמן גידולי מסוים, עם מגבלות מסוימות, בהקשר ביולוגי מסוים. אם אני קוראת למודל e19-9 אני מבקשת מהמוח הקליני שלי לשים אותו באותה מגירה.

אז מה אני מצפה מקלינאים וחוקרים שעושים AI קליני?

תבינו מה הכלים האלה של machine learning או AI עושים, ומה הם לא עושים.

ובדיוק כמו שלא הייתם עושים מחקר מעבדתי בלי להבין את מהות הבדיקה או הצביעה- מחקר או פיתוח חישובי לא שונה מזה.

מודל פרדיקציה הוא כלי.

וכמו כל כלי קליני, הוא צריך שם נכון, הקשר נכון, מגבלות ברורות, והבנה של מה הוא לא יודע לעשות.

המחקר הזה מעניין. באמת!

הרעיון להשתמש בנתוני שגרה מתוך ה־EHR כדי לייצר מדד תגובה דינמי הוא חשוב, פרקטי, ואולי אפילו ישים יותר מהרבה ביומרקרים נוצצים.

אבל דווקא בגלל שהרעיון טוב, השפה צריכה להיות מדויקת.

ואם זה אומר שכדי להתעסק בזה צריך ללמוד עוד קצת על ה״שפה החדשה הזו״, אז מזל שבילינו בערך עשור בלהיות סטודנטים בחיים האלה…

ובנימה אופטימית זו- אם אתם חושבים על קולגות שיכולים להפיק ערך מהבלוג הזה, אשמח מאוד שתשתפו את הפוסט הזה איתם, כי חלק מהמטרה בגללה בכלל התחלתי לכתוב היא בדיוק כדי לקדם את ההבנה והלימוד בתחום ה- Clinical AI. ואם יש לכן נושאים ספציפיים שהייתן רוצות שאדבר עליהם, או שאלות- מוזמנים בשמחה!

הלכתי לאכול פחמימות כדי להירגע 🍫

הראשון מיועד לקלינאים (ופתוח בשלב זה בארה״ב בלבד ורק לקלינאים מאומתים), והוא ממש עוזר רפואי אישי שיודע לחפש מידע רפואי מהימן, לכתוב סיכומי מחלה ואנמנזות, הפניות וכו׳.

השניה, רוזלינד מיועדת לעולם מדעי החיים- גנומיקה, חלבונים, גילוי תרופות, תכנון ניסויים וכו׳

אבל בעיניי, החלק המעניין הוא לא עצם זה שיש עוד מוצר AI לרופאים. אלא מה בעצם הופך מוצר AI ל״רפואי״?

וזו לא שאלה פילוסופית. זו שאלה מאוד פרקטית.

כי כשאני פותחת מוצר כזה, אני רוצה להבין:
האם שינו לו את ה״מוח״?
האם הוא עבר אימון רפואי עמוק או שפשוט נתנו לו גישה ל-PubMed?
או שזה אותו ChatGPT מוכר, רק עם חלוק לבן ותג שם יפה?

ושוב, זה לא כי אנחנו משקיעות של OpenAI (כאילו אם אתן כן- איזה כיף לכן 😅). זה כי התשובה משפיעה על איך, והאם, אנחנו אמורות להשתמש בכלי הזה.

אז בואו נבין מה בעצם קיבלנו- להלן 30 שניות (באמת! תמדדו אותי) על איך בכלל מודל שפה כמו ChatGPT נולד?

תדמיינו מודל שפה כללי בתור מישהו שקרא פחות או יותר את כל האינטרנט. לא רק ספרי רפואה. גם מיילים, קוד, מאמרים, פורומים, מדריכים, בלוגים, טקסטים טובים, טקסטים גרועים, שאלות מוזרות, תשובות עוד יותר מוזרות, וכל מה שביניהם.

בשלב הראשון הוא לומד דפוסים. אילו מילים נוטות לבוא אחרי אילו מילים. אילו רעיונות מופיעים יחד. איך טיעון בנוי. איך תשובה נשמעת. טכנית, הוא מתאמן על חיזוי ההמשך הסביר של טקסט, שוב ושוב, עד שהפרמטרים הפנימיים שלו מתחילים לקודד משהו שנראה לנו מבחוץ כמו ״הבנה״.

אחר כך מגיעים שלבים נוספים, fine-tuning: חיזוק התנהגויות רצויות, תיקון תשובות, העדפת תשובות טובות על פני תשובות גרועות, וגם שכבת הוראות מערכת שאומרת לו איך להתנהג בשיחה.

ובסוף מתקבל יצור מאוד מרשים- מודל שפה כללי יודע לייצר טקסט שנשמע טבעי, קוהרנטי, ולעיתים מטריד בכמה שהוא משכנע.

אבל שיחה רפואית היא לא רק “טקסט שנשמע טוב״. אז איך מתאימים את זה לשיחה רפואית?

יש כמה דרכים, והן שונות מאוד זו מזו.

• הדרך הראשונה היא RAG או במילים פשוטות ה״ספרייה״.

המודל לא חייב לדעת הכול בעל פה. אפשר לחבר אותו בזמן השיחה למקורות מידע חיצוניים: מאמרים, גיידליינס, מאגרי תרופות. ואז, כשהוא עונה, הוא שולף טקסטים רלוונטיים מתוך הספרייה הזו ומשתמש בהם כדי לבנות תשובה.

• הדרך השניה היא ה-workflow או ״הצ׳קליסט״.

נותנים למודל הוראות פעולה מובנות כשהוא מייצר תשובות: קודם בדוק דגלים אדומים. אחר כך שאל אם חסר מידע. אחר כך כתוב אבחנה מבדלת. אל תיתן החלטה סופית בלי לציין אי-ודאות. הוסף מקורות. כתוב את הסיכום בפורמט שמתאים למכתב שחרור ממחלקה.

וזה חשוב, כי הרבה פעמים ״מוצר רפואי״ הוא לא בהכרח מודל רפואי חדש. לפעמים זה מודל כללי טוב והרבה הוראות הפעלה מסביב.

• הדרך השלישית והמסובכת ביותר היא לשנות את המודל עצמו.

כלומר, לאמן אותו או לבצע לו post-training על דאטה וחשיבה שמותאמים לדומיין מסוים. במקרה של מדעי החיים, למשל, זה יכול לכלול לא רק טקסטים רפואיים, אלא גם ״שפות״ מדעיות אחרות: רצפי DNA, חלבונים, מבנים כימיים, פרוטוקולי ניסוי, מאגרי מידע ביואינפורמטיים וכו׳.

במקרה כזה, אנחנו לא רק נותנים למודל מקורות מידע טובים יותר. אנחנו מנסים לגרום לעולם המדעי להיכנס לתוך המנגנון הפנימי (ה-weights) של החישוב שלו, כשהוא בוחר מה המילה הבאה שהוא מייצר בתשובה. זה כמו ללמד את ה״אינטואיציה״ הפנימית שלו, אם אפשר לקרוא לזה ככה בלי שמדעני המחשב יזרקו עליי משהו 😬

המוצרים החדשים של OpenAI מעניינים, בדיוק בגלל שהם מייצגים שני כיוונים שונים לגמרי!

ChatGPT for Clinicians לפחות לפי החומרים שפורסמו, נראה פחות כמו ״מודל רפואי חדש״, ויותר כמו סביבת עבודה קלינית סביב ChatGPT: חיפוש ממקורות רשמיים, skills למשימות חוזרות, prompts מותאמים לקלינאים, ותשתית פרטיות/הרשאות.

כלומר לקחו מישהו (=מודל) מאוד חכם, שמו אותו בחדר עבודה מסודר, עם גישה לספרייה רפואית, שמו לו צ׳קליסטים על הקיר, ואמרו: ״כאן עובדים אחרת. כאן מצטטים מקורות. כאן לא ממציאים בביטחון. וכאן זוכרים שהמשתמשת בצד השני היא רופאה, לא מטופלת בגוגל בשלוש בבוקר״.

וזו אכן בשורה אמיתית, בלי ציניות.
הבשורה היא לא בהכרח שהמודל ״יודע רפואה״ כמו רופאה.
הבשורה היא שהמודלים הכלליים כבר כל כך טובים, אפשר לעטוף אותם בתשתית שמתאימה יותר לעבודה קלינית, ולקבל מוצר שיכול לשדרג ולייעל משמעותית את העבודה שלנו.

לעומת זאת GPT-Rosalind נשמעת כמו סיפור אחר. כאן OpenAI מדברים על מודל ייעודי לחוקרי מדעי החיים.

נגיד בזהירות, כי OpenAI לא חשפה את כל פרטי האימון, אבל לפי האופן שבו רוזלינד מתוארת- כמודל שמיועד לעבוד עם חלבונים, מולקולות, גנים, pathways, ניסויים וכלי ביואינפורמטיקה- סביר שההתאמה שלה כללה לא רק חיבור למקורות חיצוניים, אלא גם את ההתאמה הספציפית לדאטה של מדעי החיים.

האם זה אומר שאימנו אותה ישירות על רצפי DNA? של מי? איך עשו את זה בדיוק? כמה מזה נמצא בתוך המודל עצמו לעומת מחובר אליו מבחוץ? את זה OpenAI לא מפרטת…

אז לא כל ה-AI ה״רפואי״ נולדו שווים.

יש הבדל בין מודל שעבר התאמה עמוקה לדומיין מסוים, לבין מודל כללי שקיבל גישה למקורות רפואיים, לבין מוצר שמוסיף שכבת workflow עם פרטיות והרשאות, לבין צ׳אט רגיל שפשוט קיבל prompt עם המילה ״Clinical״ שלוש פעמים.

השורה התחתונה היא שאנחנו נכנסות לעידן שבו ההבדל בין מוצרי AI רפואיים כבר לא יהיה רק מי עונה יותר יפה.
אם זה מודל עבר אימון רפואי, אני צריכה להבין על איזה דאטה, לאיזו אוכלוסייה, ולאיזה שימוש.
אם הכלי עובד לפי workflow, אני צריכה לבדוק שה-workflow הזה מתאים לעבודה הקלינית שלי.
ואם הכלי רק נשמע בטוח בעצמו, אז סליחה, גם המגיבים בפייסבוק נשמעים בטוחים בעצמם. זה לא בדיוק מדד איכות 🙄

ומה זה אומר לנו?

ההכרזות האלה, מצד אחד, מראות את ההזדמנויות הטכנולוגיות האדירות.

מצד שני, הן מציפות שאלה קשה: מה אנחנו צריכות לדעת כשאנחנו בוחרות להשתמש בכזה מוצר?

לרובנו אין כוונה לעשות עכשיו תואר בדאטה סיינס רק כדי לבחור עכשיו באיזה צ׳אט להשתמש.

אבל בדיוק כמו שלא היינו נותנות תרופה בלי לדעת מה היא עושה, איפה עוברת האחריות שלנו לדעת מה הכלים שאנחנו משתמשות בהם עושים, ואיך הם עושים את זה?

אולי כמו תרופות, ניתן רק מה שמאושר ברמה מסוימת? מצד שני, איזה גוף רגולטורי זז מהר מספיק לאשר בכלל?

מה אני אגיד לכם, לא קל להיות רופאות ורופאים ב-2026.

אבל לפחות עכשיו גם השקות מוצר נחשבות CME, בערך.

בהצלחה לנו ✌🏻

רצף או קוד גנטי כשמו כן הוא- קוד. אמנם קצת שונה מזה שמייצרים במדעי המחשב, אבל לגמרי קוד. ואם ככה, אז אפשר להשתמש בתכונות ומניפולציות קלאסיות של קוד כדי לייצר הצפנה מובנית בתוך התא.

אבל למה בכלל שנרצה ל”נעול” רצף דנ״א?

עם התקדמות הרפואה והגנומיקה, היכולת לשתול ולערוך גנים בתאים השתפרה פלאים, והרבה מהפיתוחים החדשים משתמשים בזה כדי לייצר תרופות למשל.

אבל אם ייצרתם איזו תרופה ביולוגית פורצת דרך, או חס וחלילה נשק ביולוגי עוצמתי, או סתם מולקולה מיוחדת שתרצו לשמור בסוד- קשה לעשות את זה.

כי תמיד מישהו יכול לבוא, ולקחת את התאים ולרצף את הקוד הגנטי, ולייצר את החלבון הייחודי שלכם.

אז איך נועלים דנ״א?

טריק ידוע בעולמות הצופן הוא לעשות בלאגן במסר. כמו כשהיינו קטנים והיו מערבבים את המילים ככה שרק מי שקורא כל מילה שלישית בחיבור מבין את המשמעות, אז כזה.

בדנ”א זה ממש קל: קחו רצף מקודד לחלבון, ותהפכו את הכיוון והסדר של המקטעים שלו. הוא יהיה לא קריא ולא פונקציונלי.

רגע, אבל בדנ”א יש עוד רמה. יש לנו אזורים כמו פרומוטורים שמסמנים לנו מאיפה להתחיל לקרוא, ורצפי סטופ שמסמנים שנגמר. ונחשו מה? גם בקוד שאינו גנטי (כמו פייתון או R) יש כאלו! ממש כאילו שפות התכנות קבילו השראה מאיפשהו 😉

אבל ביולוגיה תמיד הייתה רמה מעל!ֿ

זה לא סתם שיש קוד של ״התחל לקרוא כאן״. אנחנו יודעות שכדי להתחיל לקרוא קוד גנטי, יש רצף פעולות שצריכות לקרות על גדיל הדנ”א כדי שהוא בכלל יהיה זמין לקריאה. אתרי הקשירה של הריבוזומים (פלאשבקים לביוכימיה מולקולרית ועדה יונת חופשי) חייבים להיות חשופים, האוריינטציה של הגדיל צריכה להיות בכיוון הנכון, וכו׳

החוקרים השתמשו בזה כדי לייצר עוד שכבת הצפנה. לא רק שחתיכות הקוד מפוזרות הפוך, אלא שיש צורך בתנאים מאוד ספציפיים כדי שיהיה אפשר לסדר ולקרוא את החתיכות- ובסדר הנכון.

אז איך נראית סיסמא ביולוגית?

במקום להקליד מספרים, ה”מקשים” של הקודן הביולוגי הזה הם מולקולות כימיות (כמו נגזרות של אנטיביוטיקה, למשל aTc, או סוכרים פשוטים) כדי לפתוח את המנעול, צריך לטפטף לתא החיידקי את החומרים האלו בסדר כרונולוגי מדויק, לתת להן לבצע את הפעולה הכימית הנדרשת ורק אז להתקדם.

למשל החוקרים עיצבו קודן כזה שרק טפטוף של שני חומרים ביחד (ממש כמו הפקודה AND בקוד) גורמת לתא לייצר אנזים מיוחד שנקרא “רקומבינאז”- אנזים שיודע לחתוך, להפוך, ולחבר מחדש מקטעי דנ״א. הוא ניגש למקטע הראשון של דנ”א המטרה שהוכנס ההפוך, גוזר אותו, ומדביק אותו בכיוון הנכון (inversion).

ואז עוד מנה כימית ועוד חתיכה שהסתדרה וניתנת לקריאה, ועוד אחת, ועוד...

ומה קורה אם טועים בסיסמא?

מה יעשה האקר ביולוגי קלאסי? פשוט ישפוך את כל החומרים הכימיים האפשריים בו-זמנית לתוך צלחת הפטרי ויקווה שהמנעול ייפתח, במחשוב זה נקרא התקפה מסוג ״Brute force״.

אבל כבר סיכמנו שביולוגיה זה יותר אלגנטי, בדיוק בשביל למנוע מקרים כאלה החוקרים תיכננו את התאים ככה, שאם התא מזהה כי הוכנסו חומרים בסדר הלא נכון, או כולם בבת אחת- התא מייד מפעיל תגובה שחותכם ומשמידה את מקטע הדנ”א לגמרי, ובמקביל מתחיל לייצר רעלנים (Toxins) שפשוט הורגים אותו.

אפופטוזיס כמנגנון אבטחת המידע האולטימטיבי! גדול!

ובסוף בגלל שבכול זאת מדובר במתכנתים סטייל, הם עשו מזה האקתון סייבר אמיתי

״הקבוצה הכחולה״ (הטובים) לקחה חיידקי אי. קולי והחביאה בתוכם קוד לגן פלואורסצנטי (GFP). הרעיון היה שברגע שהקוד ייקרא נכון, התא יבטא את הגן, יידלק בירוק בוהק, ויהיה ברור שהמנעול “נפרץ” בהצלחה.

הקבוצה האדומה (ההאקרים) קיבלה לידיה את החיידקים מבלי לדעת מהי הסיסמה הכימית שתפתח את גן מטרה, והייתה צריכה לנסות לפרוץ את המנגנון בצורה עיוורת דרך ניסוי וטעייה עם החומרים השונים. אחרי חודש של ניסיונות במעבדה, ההסתברות להצליח לפרוץ את המנעול הזה בניחוש אקראי הייתה 0.2%.

זה ממש ממש טוב. גם במונחי סייבר.

ומעבר לזה שהתלהבתי מזה כמו חנונית טובה- המאמר הזה הזכיר לי עוד משהו חשוב.

לא סגורה על מתי בדיוק בבית ספר לרפואה הצליחו לטעת בכל כך הרבה מאיתנו את התחושה שאנחנו לא נבין משהו ״טכנולוגי״, כי הרי מה לנו ולתוכנות מחשב שאינן קמיליון או קליקס, אבל הגיע הזמן לשנות את הנרטיב בנושא.

אין שום סיבה שיהיה מפחיד יותר ללמוד כיצד עובד אלגוריתם חיזוי בסיסי מאשר ללמוד את מעגל קרבס או את מנגנון הפעולה של הנוירון, בעיקר עם הכלים הנגישים לנו היום.

אז פעם באה שאתם רואים שורות שורות של קוד והאינסטינקט הראשוני שלכם הוא להרגיש שזה לא בשבילכם וללכת,

תדמיינו שזה פשוט גדיל דנ״א ממש ממש ארוך,

ותתחילו משם 🧬🧬

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

הוא נכתב על ידי קבוצת חוקרים מאוד מפורסמת ועורר הדים רבים. אבל תכלס?

החלק שהכי אהבתי זה בכלל הסיפור על איך הם הגיעו לחקור את זה 😆

הכל התחיל בגלל שורת קוד אחת.

מוחמד אסאדי, אחד הסטודנטים של פרופ’ יואן אשלי, עבד על מודל מולטי-מודאלי חדש. הוא הריץ את המודל על מבחני פענוח דימות סטנדרטיים, והתוצאות היו מדהימות. הייתה רק בעיה אחת: הוא שכח להוריד את ההערה (uncomment) משורת הקוד שנותנת למודל גישה לתמונות עצמן.

במקום שהמודל יזרוק שגיאה או יגיד “היי, לא צירפת לי את ההדמיה”, הוא פשוט ענה על השאלות הקליניות בביטחון מוחלט - והוציא ציונים גבוהים להחריד.

פרופ׳ אשלי מספר שהם היו די בהלם, ויצאו לבדוק איך זה יכול להיות?!

אבל רגע, בואו נשלים חוב קטן.

מה זה מודל מולטי-מודאלי?

זה מודל שיודע לקבל יותר מסוג אחד של מידע- למשל, טקסט של אנמנזה וגם תמונה של צילום חזה- להמיר את הכול לאותה ״שפה״ טכנית (מרחב וקטורי למי שממש מתעקש), ואז לענות תשובה שמתבססת על שני המקורות.

תחשבו על קבלת מטופל במיון: אם מודל שפה רגיל קורא רק את מכתב ההפניה, מודל מולטי-מודאלי הוא כמו רופא שקורא את ההפניה, מסתכל במקביל על צילום החזה הטרי, ועושה אינטגרציה של שניהם לאבחנה אחת.

(צריך להגיד - יש מודלים שמתמקדים רק בתמונות, כמו למשל רוב מערכות הרדיולוגיה/פתולוגיה שפרוסות כיום במוסדות רפואיים, שמסתמכות לרוב רק על קובץ התמונה שהן מקבלות. דיברנו על איך המודלים האלו עובדים באחד הפוסטים הקודמים).

אז איך בודקים שמודל מולטי-מודאלי באמת מצליח להבין גם וגם?

כמו שבדרך כלל בודקים דברים כאלה במקצוע שלנו... נותנים שאלה שמכילה סיפור קצר בטקסט, מצרפים הדמיה, ובודקים אם המודל ענה נכון.

יש בנצ׳מרקים (מדדים) מאוד מפורסמים שכוללים מבחנים של מאות שאלות כאלו, ודרכם משווים בין המודלים.

ומה החוקרים גילו?

הם עשו כמה ניסויים, עם מיטב המודלים (gpt-5, gemini 3, sonnet 4.5) והראו שהם עונים בביטחון גם בלי לקבל שום גישה לתמונות, למרות שתיאורטית המודלים הללו יודעים ״להסתכל״ על תמונות כמו שרובנו יודעים מהשימוש היום-יומי.

ואז הם לקחו את המודלים האלה, ורדיולוגים אנושיים, ועוד מודל קטן שהם בנו שאומן רק על הטקסט של אותם מבחנים רדיולוגיים- ובחנו את כולם על בנצ׳מרק מוכר של צילומי חזה (שאלה בטקסט + הצילום).

המודל הקטן של הטקסט בלבד עקף את כולם- גם את כל המודלים הגדולים, וגם את הרדיולוגים ב-10% בממוצע- וזכה במקום הראשון! 🏆

בלי לראות אף צילום רנטגן. בכלל.

החוקרים כינו את זה אפקט ה״מיראז׳״ (חזיון תעתועים)

מצב שבו המודל מתאר קלט ויזואלי שלא קיים בפועל, בלי להביע ספק ובלי להודות שחסרה תמונה. כלומר, הוא לא רק “הוזה פרט קטן”, אלא בונה מסגרת שלמה כאילו הוצגה לו תמונה, ועל בסיסה ממשיך את כל הדיון.

זה קצת שונה מהלוצינציות רגילות של מודלי שפה- כאן הבעיה היא לא רק פרט שגוי, אלא עצם ההנחה השגויה שהיה בכלל קלט ויזואלי.

איך זה יכול להיות?

נראה לי פה דווקא רובנו יכולות לדמיין איך. המודלים הם ממש סטודנטים קלאסיים, למה לטרוח ללמוד את החומר (=להסתכל על התמונות), אם אפשר פשוט ללמוד מהשחזורים?

זה כמו לשמוע את מנהלת המחלקה בפנימית מובילה ביקור סטודנטים, לשמוע אותה שואלת אותם בעודה בודקת מטופל מאחורי הוילון:

״מה הסבירות ל-PE במטופל בן 70 עם נפיחות ברגל אחרי טיסה?״, ורק לפי איך שהיא מנסחת את השאלה, כבר לדעת בדיוק מה היא חושבת. גם אם מעולם לא בדקתן את החולה.

המודלים התאמנו על כמויות טקסט אדירות, והם אלופים בלמצוא רמזים מילוליים (Textual Cues) ואת הסטטיסטיקה שחבויה בניסוח המילולי מדויק של השאלה. זה הופך אותם ל”נחשנים על-אנושיים” (Super-human guessers). ואין להם שום צורך לטרוח ולהוציא טוקנים על פענוח התמונה עצמה- רק מהטקסט הם כבר יודעים את התשובה.

רגע, זה אפילו עוד יותר מופרע!

כשאמרו למודל במפורש “אין לך תמונה, נסה לנחש”, הביצועים שלו אשכרה צנחו.

למה זה קורה? פה אנחנו כבר גולשים קצת לפילוסופיה. נראה שמצב ה”מיראז’” מכניס את המודל למסגרת חשיבה שונה (Epistemological framework). ברגע שהוא חושב שהוא “רואה” תמונה, הוא מפעיל שרשראות הסקה קליניות עמוקות ומתחיל “להזות” בביטחון מלא תיאורים ויזואליים שמתיישרים עם הטקסט.

ממש כמו רופא שמשכנע את עצמו שהוא שומע אוושה, רק בגלל שזה מה שכתוב בקבלות הקודמות בגיליון.

זה מראה כמה אנחנו עוד לא עד הסוף מבינים איך בדיוק מודלי השפה שלנו ״חושבים״, ושיש מצב שבנינו מכונות כל כך מתוחכמות, שהן אפילו נופלות בהטיות קוגניטיביות אנושיות.

אז מה החוקרים הציעו?

הם מציעים פורמט הערכה חדש שהם קראו לו B-clean:

1. קודם מריצים כל מודל על המבחן ב־Mirage-mode (בלי תמונות).

2. כל שאלה שהמודל הצליח לענות עליה נכון בלי לראות את התמונה מסומנת כשאלה “מזוהמת” (כי אפשר היה לפתור אותה מניחוש על סמך הטקסט), ומוסרת מהמבחן.

3. נשארים רק עם שאלות נקיות שאף מודל לא הצליח לפתור בלי קלט חזותי אמיתי- ורק עליהן בוחנים מי באמת מצליח לפענח.

אז מה חשבתי אחרי שקראתי את המאמר הזה?

כמו שאמרתי, זה עורר הרבה דיונים, וכטבעם של מאמרים כאלה, כל אחד לקח את זה כדוגמה כדי להוכיח בדיוק את מה שהוא טען עד כה 🙃

אבל אישית, אני חושבת שמדובר במאמר מעולה שעלה על בעיה אמיתית: הבעיה היא לא שמודלי בינה מלאכותית לא יודעים לקרוא תמונות, אלא שאנחנו פשוט לא מספיק טובים בלהעריך מה הם באמת יודעים לעשות, ואיך למדוד את זה.

ושוב, כרופאה- אני לא כזה מופתעת. כולנו יודעות כמה זה מורכב להעריך ״ידע רפואי״ וכמה קשה לבנות מבחן שבאמת ישקף ידע, בטח כשיש שחזורים. (ויעידו כותבות מבחני שלב א׳ שבקהל איזה אתגר קשוח זה).

אז עיקר מה שאני לוקחת מפה זה שני דברים:

• אנחנו חייבים לחשוב מחדש על איך אנחנו בוחנות מודלי בינה מלאכותית ברפואה (ובכלל).

• תשמרו על החשיבה הביקורתית שלכם. כל פעם שמדברים איתכם על ביצועים מדהימים של איזה מודל AI חדש, תמיד תשאלו ״רגע, אבל איך בדקו את זה?״.

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

מה זה Drug Repurposing בכלל?

תדמיינו טבלה ענקית.

בשורות יש את כל התרופות בעולם.

בעמודות יש את כל המחלות שאנחנו מכירים.

ובתוך כל תא בטבלה, יש שאלה אחת פשוטה- האם התרופה הזאת יכולה לעבוד למחלה הזאת?

הבעיה שהטבלה הזו כמעט כולה ריקה.

רק עבור חלק קטן מהשילובים של מחלה+תרופה, אנחנו יודעים אם התרופה באמת עובדת.

הבעיה מורגשת בעיקר במחלות פחות נפוצות- יש כ-7,000 מחלות שנחשבות נדירות, ורק ל-5-7% מהן יש תרופות מאושרות FDA.

ופה בדיוק נכנס ה-AI.

במקום לבדוק כל תא ריק בטבלה הזו בניסוי קליני מאפס- תהליך שלוקחה בממוצע 12-13 שנים ועולה מיליארדי דולרים- המודל לומד את הקשרים המורכבים ברקע. המודל שפותח במעבדה של ד״ר זיטניק TxGNN (שאומן על 17,000 מחלות שונות) למד לחבר את הנקודות.

איך TxGNN עובד?

הוא מבוסס על מודל גרפי (Graph neural network), זו שיטה שלא מסתכלת על הטבלה כטבלה אלא כרשת של קשרים.

בוא נחשוב על זה רגע דרך משהו יותר מוכר- קבוצות וואטסאפ.

אם אני מקבלת מספר חדש של מישהי, ואני רואה ששתינו חברות ב:

• קבוצת האמהות השכונתית

• קבוצת הרופאות של ר״ג (אימפריה בהתהוות!)

• קבוצת מתנדבות של ״למענם- צוות רפואי למען ניצולי שואה״

אני יכולה להבין עליה לא מעט רק מהקשרים בינינו.

היא כנראה רופאה, היא אמא, היא גרה קרוב, ויש סיכוי לא רע שהיא בנאדם טוב ☺️

כלומר אם נסתכל על זה ככה:

כל בן אדם = צומת (node)

קשרים = קבוצות משותפות

אנחנו לומדות מי היא- דרך מי שהיא מחוברת אליו.

וזה בדיוק מה שהמודל עושה- רק שבמקום אנשים, ברשת של TxGNN יש מחלות, חלבונים, תרופות- כולם צמתים, והקשרים ביניהם מבטאים את היחסים ביניהם.

המודל לא שואל מה הערך של צומת מסוים (כי זה לא בהכרח רלוונטי)- אלא שואל ״למי אתה מחובר?״

ולומדים על כל צומת דרך השכנים שלו- אם מחלה מסוימת קשורה לחלבונים מסוימים, ותרופה פועלת על אותם חלבונים- יש סיכוי שהתרופה תעבוד עבור המחלה הזו.

גם אם אף אחד עוד לא בדק את זה ישירות!

אבל למה שזה יעבוד?

לפעמים זה כי המחלות דומות ביולוגית במנגנון שלהן, ולפעמים זה דווקא בגלל ה- off target effect, שמזהה את החלבונים הרלוונטיים שהתרופה משפיעה עליהם ״על הדרך״.

ומה שיפה כאן- זה לא רק שהמודל אומר ״זה אולי יעבוד״, אלא גם יודע להגיד דרך איזה מסלול- ואת זה כבר אפשר להפוך להשערת מחקר ולבדוק.

תחשבו איזה תובנות הייתן יכולות להוציא אם הייתן מארגנות את כל הידע הרפואי שלכן בצורה הזו.

פתאום הייתן רואות שיש מולקולות מסוימות שמחברות בין מחלות שבכלל לא חשבתן עליהן, ואולי הן מדיסציפלינה אחרת בכלל. זה קצת כמו לפתוח דרך חדשה לחשוב על המציאות באמצעות ייצוגים גיאומטריים שלה.

וזה עובד!

בפרק הם מתארים שימוש אמיתי במודל, ספציפית בתחום של פרקינסוניזם נדיר (X-linked Parkinsonism), שבו המודל הציע תרופות פוטנציאליות מתוך תרופות קיימות- וכבר התחילו בניסויים במעבדה in vitro, ואף הראו סיגנלים ראשוניים.

זה לא מחליף את העבודה הביולוגית הקלאסית, אבל זה כן מאיץ ומשפר אותה.

אז מה ה-take home message פה?

היכולת של מודלים להסתכל על דאטה אחרת מאיתנו, יכולה לעזור לנו לעשות שימוש טוב יותר גם בידע שכבר קיים.

וזה נכון גם לאנשים...

מרינקה היא דוגמא מעולה לזה. מישהי שבאה עמוק מעולמות מדעי המחשב ולא מהקליניקה, אבל דווקא משם מצליחה לייצר תובנות ביולוגיות.

ממש אהבתי את השחה שלהם על זה בסוף הפרק- שמי שיוביל את העתיד של התחום הוא לא רק ביולוגים או רופאים ורופאות, אלא אנשים ש״יודעים לדבר כמה שפות״. לפעמים השותפים הכי חשובים שלנו, לא יושבים בכלל בפקולטה לרפואה.

ומה אצלנו בבית?

ד״ר (phd) ספי כהן מהמחלקה שלי עושה פוסטדוקטורט אצל מרינקה- בדיוק בשביל לייצר את הגשרים האלו.

העבודה שלו מתמקדת במציאת קשרים חדשים בתוך דאטה קליני שגרתי- למשל, בדיקות מעבדה. אבל במקום להסתכל על ערכים בודדים, הוא מסתכל על קומבינציות ביניהם, ועל איך השילובים והשינויים שלהם יכולים להעיד על מחלות.

ומעבר לזה שכיף לעבוד עם אנשים מבריקים כמו ספי (הוא גם ממש טוב בלהזמין את המנות הנכונות בוולט 😌), זה באמת מכפיל כוח משמעותי לשלב סוגים שונים של מומחיות.

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

איך AMIE עובדת?

כדי להבין איך אימנו את המערכת הזו (המאמר הראשון של הקבוצה מ-2024), תחשבו על משהו שרובנו מכירות היטב מהלימודים: מבחני OSCE (ומי שנמנע ממנה התענוג, אשרייך 😅).

במבחן כזה סטודנטים נכנסים לחדר עם מטופל (לרוב שחקן), מריצים סימולציה של שיחה קלינית, והבחינה היא לא רק האם הגיעו לאבחנה הנכונה- אלא גם האם שאלת את השאלות הנכונות? האם התייחסת למה שהמטופל אמר? והאם התקשורת הייתה טובה ואמפתית?

אבל כולנו יודעות שלנהל OSCE זה עסק יקר שמצריך הרבה זמן של בוחנים בשר ודם.

אז לטובת הפיתוח של המערכת הזו גוגל יצרו סביבה שבה המערכת לומדת לעשות OSCE לעצמה- ובקנה מידה פסיכי.

הם בנו מערכת שבה כמה מודלים שונים משחקים תפקידים שונים: אחד הוא הסטודנטית, אחד המטופל, ואחד הבוחן. המערכת הריצה מיליונים ומיליונים של סימולציות של ביקורים רפואיים שלמים, כלומר ממש את השיחות עצמן, ולמדה אילו שאלות מקדמות את האבחנה ואילו פחות.

לאחר מכן רופאים אמיתיים דירגו את איכות השיחות, והדירוגים האלו שימשו לכיוונון נוסף של המודל.

כך הגיעו למערכת שמסוגלת לנהל שיחה קלינית מלאה ברמה די מרשימה.

אז מה AMIE בעצם למדה לעשות?

התהליך שהיא מבצעת דומה למדי לתהליך החשיבה שלנו.

בכל רגע נתון היא מחזיקה רשימה של אבחנות אפשריות ונותנת לכל אחת הסתברות. בכל שלב היא מעריכה מחדש את המידע שנאסף עד כה, מעדכנת לעצמה את ה״רשימה המנטלית״ הזו, ובוחרת את השאלה הבאה לפי השאלה שהכי תעזור להבדיל בין האבחנות האפשריות.

בדיוק כמו כשאנחנו שואלים למשל “הכאב התחיל פתאום או בהדרגה?” כי אנחנו יודעים שהתשובה תשנה את המשך התשאול שלנו.

בנוסף, למערכת יש גם גישה לכלים חיצוניים שמאפשרים לה לחפש בגיידליינס וכו׳- כלומר לא להסתמך רק על האנמנזה, אלא להשתמש גם בידע קליני, ממש כמו שאנחנו עושות.

מה היה בניסוי?

יחד עם בית החולים BIDMC בבוסטון ערכו ניסוי פרוספקטיבי מלא. 100 מטופלים שהיו מיועדים באותו שבוע להגיע לביקור מתוכנן אצל רופאי המשפחה שלהם בגלל תלונה חדשה, קיבלו קישור לשיחה מקדימה עם המערכת.

בסוף השיחה AMIE ייצרה סיכום מסודר של האנמנזה שחיכה לרופאים במערכת לפני תחילת הביקור.

התוצאות (בגדול):

התוצאות בגדול היו די מעודדות. מבחינת בטיחות, כל השיחות עברו בקרה שקטה בזמן אמת על ידי רופאים מומחים כדי לוודא שאין דגלים אדומים שמצריכים טיפול דחוף או מידע רפואי שגוי- ולא הייתה אף עצירה משיקולי בטיחות.

המטופלים דיווחו שרמת האמון שלהם ב-AI עלתה אחרי השיחה, והרופאים היו מבסוטים למדי: המערכת לקחה על עצמה את איסוף המידע הראשוני ואפשרה למפגש להתחיל מנקודה מתקדמת יותר, עם יותר זמן לשיח אמיתי.

הסיכומים היו איכותיים למדי- המערכת כללה את האבחנה הסופית הנכונה בתוך 7 האפשרויות המובילות שלה ב-90% מהמקרים. רופאים אנושיים כן היו טובים יותר בלייצר תוכנית טיפול/בירור פרקטית ויעילה יותר שזה הגיוני בהינתן שלמערכת לא הייתה גישה לתיק הרפואי, או לבדיקה הגופנית.

ולמה שמחתי?

שמחתי כי קודם כל לשם שינוי בדקו סטינג יותר ״קהילתי״, אני מרגישה שיש הטייה לא סבירה של כל המדדים (הבנצ׳מרקים) לכיוון סטינג של מחלקות בתי חולים- כנראה כי מרכזים אקדמיים שלישוניים גדולים מובילים הרבה מהמחקר והפיתוח בתחום.

זה גורם לדגש המוגזם לדעתי שניתן לנושא ה”האם דייקו באבחנה”, מפספס את העובדה שבהרבה מקרים (בטח בתחלואה כרונית), הרופאה הממוצעת בקהילה כבר יודעת מה יש למטופל כשהוא נכנס לחדר, והשאלה היא ה-management.

ודבר שני, סוף סוף זה לא עוד מאמר של ״AI נגד רופאים”, אלא ניסיון אמיתי לדמות סביבת עבודה שבה הבינה המלאכותית היא חלק מהצוות. היא לוקחת על עצמה את המשימות שבאמת יכולות להקל עלינו, והתוצאה הסופית היא רפואה טובה יותר - גם למטופלים וגם למטפלים.

בכל מקרה הקבוצה של Google Research באמת מוציאה עבודות מאוד מעניינות ואני ממליצה לעקוב.

ניסיתי למצוא איזה משפט סיכום מנחם ומלא השראה, אבל וואלה אפילו לצ׳אט לא היו הצעות טובות 😕

אז stay safe
ויאללה בלאגן.

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

אני יודעת.

גם לא בדיוק המקום הראשון שאני הייתי חושבת לחפש בו תובנות ביולוגיות חדשניות…

אבל בוא נבין רגע מה יש שם ולמה זה רלוונטי לנו: מאגר ההקלטות כולל כ-2,300 שעות דיבור, 393 דוברים שונים, ובגלל שמדובר בפרוטוקולים רשמיים- יש גם metadata (המידע על הדאטה): לכול קטע דיבור יש תמלול מדויק, ומידע על הדובר- גיל, מגדר, ארץ מוצא וכו׳

אבל החלק הכי חשוב הוא שההקלטות משתרעות על פני 16 שנים (2009-2025), כלומר אפשר לשמוע את אותו אדם מדבר במשך יותר מעשור.

ולמה זה כזה מעניין?

רוב מאגרי הדיבור בעולם הם ״צילום מצב״- בני 30, בני 50, בני 70. אבל כאן אפשר לעקוב איך קול של אדם ספציפי משתנה עם הזמן.

אז מה הם בדקו במאמר?

החוקרים לקחו מודלים של זיהוי דוברים- אלו שמאפשרים למשל למערכות ביומטריות לאשר לזהות לפי קול.

ואז הם שאלו שאלה פשוטה: מה קורה שמנסים לזהות אדם לפי הקלטות שלו מלפני 15 שנה?

התשובה הייתה ששיעור הטעות של המודל כמעט הוכפל. שיעור השגיאה (EER) עלה מ-2.15% ל-4.58%.

למה זה קורה?

״זליגה הקולית״ (Vocal Drift)- הקול שלנו משתנה מספיק עם הזמן כדי לבלבל אפילו מערכות AI מתקדמות.

אנחנו יודעות שעם השנים מתרחשים שינויים פיזיולוגיים בקול: הזדקנות טבעית של מיתרי הקול ומערכת הנשימה גורמת לשינויים מתמשכים בתכונות האקוסטיות (כמו גובה הקול ואיכותו), ובתכונות הפרוזודיות (הקצב והאינטונציה של הדיבור).

וכרגיל בביולוגיה, קצב ההזדקנות הקולית אינה אחידה בין אנשים.

לדוגמא- אצל גברים 👴🏻 עם הגיל האטרופיה של מיתרי הקול גורמת להם להיות דקים ומתוחים יותר, ולעיתים קרובות יש עלייה בתדר הבסיס הקולי (כלומר הקול נהיה גבוה יותר).

אצל נשים 👵🏻 זה דווקא הפוך- הירידה באסטרוגן סביב גיל המעבר גורמת לעיבוי במיתרי הקול ולירידה בתדר הבסיס הקולי (קול נמוך ועמוק יותר).

תוסיפו לזה שככל שאנחנו מזדקנים השליטה העצבית והשרירית במיתרי הקול נחלשת- מה שמוביל לשינויים ב-jitter (חוסר עקביות בתדר), וב-shimmer (חוסר עקביות בעוצמה).

ותבינו איך משהו לכאורה פשוט כמו קול, הופך ל״חומר״ ביולוגי מורכב מאוד.

אז מה אפשר לעשות עם זה?

אם נצליח למדל את תהליך ההזדקנות הזה, כלומר להבין כיצד הקול משתנה בצורה שיטתית עם הגיל אצל בני אדם שונים- אפשר להשתמש בקול כסמן ביולוגי (biomarker). 🧪

ואם הקול של אדם “מזדקן” לא לפי הדפוס הצפוי, זה יכול להיות סימן מעיד. למשל פרקינסון יכול להשפיע על הדיבור לפעמים שנים לפני הופעת הסימנים המוטוריים...

ייתכן שבעתיד שיחת טלפון פשוטה- תוכל להיות סוג של סטטוסקופ נוירולוגי.

והחלק החביב עלי-

אבל תכל’ס החלק שהכי אהבתי במאמר הוא בכלל סיפור הדאטה.

הפיצוח הזה של להבין מאיפה לקחת את הדאטה הנכון- לא רק הרבה אנשים, אלא אותם אנשים לאורך זמן (וכל מי שאי פעם עשתה ניסוי קליני יודעת כמה יקר ומסובך לייצר כזה מעקב). זה כל כך יצירתי!

באמת שבחיים לא הייתי חושבת שדיוני הכנסת יכולים להיות כה יעילים למשהו...

ופיצוחים כאלה תמיד גורמים לי לחשוב- איזה עוד datasets כאלה קיימים סביבנו ופשוט עוד לא הבנו שזה הדאטה שאנחנו צריכות?

ומילה על ivrit.ai, זה מיזם קהילתי פתוח שמטרתו לקדם טכנולוגיות שפה בעברית.

עברית, בניגוד לאנגלית למשל, נחשבת שפה עם מעט יחסית מאגרי נתונים, ולכן הרבה יותר קשה לפתח עבורה מערכות זיהוי דיבור, תמלול או מודלי שפה. המיזם הוא שיתוף פעולה בין חוקרים, חברות טכנולוגיה ומתנדבים שבונים ומשתפים מאגרי דאטה וכלים פתוחים בעברית.

ממליצה בחום להיכנס לאתר שלהם ולהתנסות, הבוט שלהם לתמלול הודעות קוליות בוואטסאפ- אליעזר (כן, יש להם חוש הומור 😆)- פשוט מעולה!

ואפשר גם לעקוב אחרי Yair Lifshitz, ממובילי המיזם בלינקדאין.

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

אבל למה זה כזה קשה בעצם?

מעבר לנושאי תשתיות, אבטחה וכסף, אחת הבעיות הכי קשות בפריסת מוצרים מבוססי מודלי שפה (LLMs) היא שפשוט קשה לנו להגיד שהם עובדים. בטח שלאורך זמן.

זה נשמע קצת מוזר, כי רובנו משתמשות בכלים האלה ביום-יום ודי מבסוטות...

אבל כשארגון בריאות גדול מטמיע כלי כזה, הוא “חותם” מול הקלינאיות והקלינאים שלו שזה עובד. תחשבו שהיו נותנים לכן מכשיר לבדיקת סוכר בדם, מבטיחים רמת דיוק מסוימת, ופתאום מסתבר שהביצועים האלה הם בגדר “המלצה” בלבד - לפעמים הוא מדויק ולפעמים הוא מזייף ב-35 יחידות, ואין לכן שום דרך לדעת מתי זה קורה. הייתן משתמשות בו? ברור שלא. (ואם זה מזכיר לכן מכשור רפואי שאתן מכירות מהמחלקה, אהמ אהמ סינר אק״ג, זה לגמרי מקרי 😜).

למה זה כזה מאתגר ספציפית במודלי שפה?

בואו נחשוב על הבסיס של “מה זה אומר לעשות עבודה טובה”. במודל שמזהה שברים בצילום חזה יש “אמת אחת” (Ground Truth). יש שבר או אין שבר. הדיוק נמדד בכמה המודל היה קרוב לאמת האובייקטיבית הזו.

אבל במוצר שמייצר מכתבי סיכום אשפוז - הרי יש יותר מדרך אחת לכתוב מכתב מעולה (בניגוד למה שטוענים חלק ממנהלי המחלקות בלימודים…) יש כמה גרסאות אופציונליות שכולן יהיו טובות ומדויקות, וזה אומר שאין לנו “אמת אחת” ברורה ופשוטה להשוות מולה. וזה קשוח.

ברוכות הבאות לעולם ה-LLM Evals ככה הדאטה סיינס קוראים לתחום הערכת מודלי שפה (ואם אומרים את זה מספיק מהר ומתגלגל על הלשון, הם חושבים שאת אחת מהם).

אז מה צריך כדי לבנות מערכת הערכה טובה?

בואו נפרק את דוגמת ה”מכתב סיכום אשפוז” לאבני בניין מדידות, מה חייב להיות שם?

• Faithfulness / Groundedness (אמינות): האם המודל המציא דברים שלא קרו? (הלוצינציות). אם המטופל לא קיבל פוסיד, המכתב לא יכול לציין שהוא קיבל. זה המדד הקריטי לבטיחות.

• Completeness (שלמות): האם כל המידע הקריטי מופיע? (למשל, הצנתור מהיום השלישי לאשפוז).

• Conciseness (תמציתיות): האם הוא “חפר”? מכתב של 4 עמודים על אשפוז של יומיים הוא לא מכתב טוב, גם אם הוא נכון עובדתית.

• Tone & Format: האם זה נשמע כמו מכתב רפואי או כמו סטורי באינסטגרם?

אז איך בונים את זה בפועל? (ספוילר: זה דורש המון זמן אדם)

כדי לבנות תשתית הערכה, אנחנו צריכות ליצור “סט זהב” (Golden Dataset). אלו כמה עשרות דוגמאות של מקרים שהמומחיות הכי גדולות בתחום ישבו ועברו עליהם, וכתבו מה התוצאה המושלמת מבחינתן. וזה בסדר שיהיו כמה דוגמאות דומות לאותו ״סוג״ של מכתב, כי שוב ככה זה גם בחיים האמיתיים.

אבל ברור שאנחנו לא יכולות לעבור ידנית על כל מכתב שהמערכת מוציאה בכל פעם שאנחנו מעדכנות גרסה. צריך לייצר לזה אוטומציה כלשהי - כאן נכנס הקונספט של LLM-as-a-Judge.

אנחנו לוקחות מודל שפה טוב ונותנות לו תפקיד של “בוחן”.

אנחנו מגדירות לו רובריקה מאוד מדויקת (ממש כמו דף הערכה של בחינת גמר):

“בדוק את הסיכום הבא. תן ציון ‘עבר‘ אם כל התרופות מהרשימה בתיק הרפואי מופיעות, וציון ‘נכשל‘ אם חסרה אפילו אחת. נמק את החלטתך.”

החוכמה היא לא סתם לתת למודל “לתת ציון”, אלא לוודא שהציון של המודל-השופט תואם למה שהרופאה האנושית הייתה נותנת (Alignment).

וזה אכן דורש מאיתנו לוודא שיש לו את המידע והכלים לשפוט את מה שביקשנו (למשל איזה תרופות באמת נרשמו באשפוז לצורך הבדיקה), ונדרשת הרבה מחשבה ותכנון כשבונים מערכת אוטומטית כזאת שאמורה לשפוט תשובות של מערכת אוטומטית אחרת.

לאן זה הולך?

המשמעות המוצרית היא אדירה.

חברות שלא ישקיעו בתשתית הערכה סיסטמטית יישארו בשלב ה”ווייבים” - הן יחשבו שהמוצר שלהן עובד כי ב-5 דוגמאות שהם בדקו זה נראה סבבה, אבל הן יכשלו ברגע שהן יפגשו את המציאות הקלינית המורכבת.

היכולת למדוד היא היכולת לשפר. והיא גם היכולת להראות למקבלי ההחלטות הרלוונטיים בארגון שאנחנו יכולים להוכיח שהמוצר שלנו עובד, ועובד טוב, לאורך זמן, ושנדע להגיד אם הוא יפסיק לעבוד טוב.

וזה ההבדל בין פיילוט נחמד לחוזה מסחרי….

הפוסט הזה מבוסס באופן חופשי על הבלוג הנפלא של LLM Evals (כי בתחום הזה כמו שאמרנו, בלוגים מקצועיים זזים הרבה יותר מהר ממאמרים אקדמיים).

והפוסט הזה מוקדש לד״ר רותם גרשון האחד והיחיד, שמתמחה איתי במחלקה - שביום מפתח מוצרים מבוססי LLM לקליניקה, ובלילה בונה להם מסגרות הערכה. כי מישהו צריך לעשות גם את זה בחיים האלה…

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

בדקו האם מודלי שפה (LLMs) יכולים לעזור לציבור להבין “מה יש לי?” (אבחנה) ו”מה עושים עכשיו?” (דחיפות/Disposition- מיון/מרפאה/להתמודד לבד).

הם היו רציניים ועשו ממש ניסוי מבוקר רשום מראש- כלומר הצהירו על המתודולוגיה מראש כראוי בניסויים כאלה כדי שלא יטענו שהם שינו בדיעבד משהו כדי לקבל תוצאות יפות.

המחקר לקח כמעט 1,300 אנשים בבריטניה’ משתתפים בבריטניה. הם קיבלו 10 תרחישים רפואיים שכתבו רופאים (מכאב ראש קיצוני ועד טנטון באוזניים).

המשתתפים חולקו ל-4 קבוצות:

• מודל דגל- ChatGPT 4o (כן, זו הגרסה שהייתה זמינה בעת עריכת המחקר, נדבר על זה אח״כ)

• מודל פתוח- Llama 3 שמה שמיוחד בו הוא שזה מודל ב״קוד פתוח״, כלומר תיאורטית אפשר קצת יותר להבין למה הוא עושה דברים מסוימים כי הם מפרסמים את הקוד שלו, ואפשר להריץ אותו על המחשבים/סביבה ארגונית שלכן ולכן הרבה אנשים שבונים מוצרים רפואיים משתמשים בו.

• מודל מחובר- command R שיודע להתחבר ולחפש באינטרנט ולא רק חוי בדאטה שעליו הוא אומן (כמו שרוב המודלים עושים היום כאשר מבקשים מהם).

• קבוצת הביקורת- לא קיבלה מודל בינה מלאכותית, אלא פשוט את גוגל הרגיל ואת מה שזה לא היה שהיינו עושים לפני AI (״מה שעשינו ב-67?״)

התוצאות 🥁 (או ״טוב היות ה-AI לבדו״)

כאשר המודלים קיבלו את התיאור מקרה לבד הם צדקו באבחון בערך ב-95%.

אממה, כאשר נתנו למטופלים את התרחישים וביקשו מהם לדבר עם ה-AI (״יש לי כאב ראש כזה וכזה…״) הביצועים צנחו לבערך 35% אבחון נכון.

קבוצת הביקורת (גוגל) הייתה טובה יותר בזיהוי המצב הרפואי מאשר אלו שהשתמשו ב-AI (סיכוי גבוה פי 1.76!)

גם בזיהוי ה״צעד הבא״ השילוב של מטופל+AI היה הרבה פחות טוב מ-AI לבד (44% לעומת 56%).

כשהחוקרים ניסו לנתח למה כאשר הוסיפו את המטופלים למשוואה הביצועים ירדו ככה,החוקרים מצאו שהבעיה היא לא בידע של ה-AI, אלא באינטראקציה.

המסקנה הייתה שמטופלים לא כל כך טובים בלתת אנמנזה (רופאים בתגובה- no shit, sherlock), אנשים פשוט לא יודעים לתאר תסמינים בצורה קלינית. הם נותנים מידע חלקי, והמודל לא תמיד יודע “לחלוב” מהם את המידע הקריטי.
חוסר עקביות: כמו במקרה של חשד לדימום מוחי (SAH), משתתף אחד תיאר תסמינים והמודל שלח אותו למיון, בעוד משתתף אחר עם תרחיש דומה קיבל המלצה “לשכב בחושך” כי המודל חשב שזה מיגרנה.
איבוד אמון: לפעמים המודל הציע את התשובה הנכונה במהלך הצ’אט, אבל המשתמש בחר להתעלם ממנה בסיכום הסופי.

ומעבר לשמחה הכללית על האופק התעסוקתי אני חושבת שהמאמר הזה מעלה כמה מחשבות שכדאי לדבר עליהן:

מה מודדים

כפי שהחוקרים עצמם מציינים- אם אנחנו באמת רוצים להבין אם המודלים האלה טובים ברפואה בחיים האמיתיים, אמת המידה (הבנצ׳מרק) הוא בביצועים של השילוב מטופל+מודל או קלינאי+מודל, ולא כמה המודל מוציא ב-usmle.

נושא הבנצ׳מרקים הוא אירוע מורכב, ואם זה מעניין אותכן נדבר על זה בפוסט אחר, אבל השאלה של איך מודדים ביצועים של מודלי בינה מלאכותית הוא נושא לא פתור בעליל

האקדמיה לא בקצב

המאמר הזה פורסם שבוע שעבר, אבל המודל הכי מתקדם בו 4o הוא מודל מ-2024, ומאז בערך 5 גרסאות חדשות, כולל כל מודלי ה-reasoning (החל מ-o1 והלאה) שאמורים לדעת לתכנן חשיבה בדיוק בשביל בעיות כאלו, ואין פה אף אחד מהמודלים הפופלריים כיום כמו ג׳מיניי של גוגל או קלוד. זה קצת כמו שאני אבדוק תוצאים של מטופלים על גיידליינס מ-2019 זה לא בלתי מעניין, פשוט לא בהכרח אומר משהו על התוצאים של מטופלים תחת הטיפול הניתן כיום. כמות הזמן שלוקח לפרסם באקדמיה פשוט לא מתאימה לקצב שבו AI זז, ורוב המאמרים לא רלוונטיים ביום הפרסום שלהם…

בכנות אני באופן אישי (ועל אף הרושם אולי מהפוסטים) מתעדכנת בחידושים טכנולוגיים לא דרך ספרות אקדמית קלאסית, אלא דרך סושיאל, פודקאסטים, בלוגים טכניים וכו׳

אם יש לכן שאלות שמעניינות אותכן במיוחד אני ממש ממש אשמח לשמוע,

וכמובן הערות, הארות ושאר ירקות על המאמר השבועי 💜

בעקבות הבקשות- אעדכן שאנחנו מתכננות גם הרצאת מבוא ל-AI ולמה לעזאזל עושים במחלקת רפואה מבוססת AI בכללית במסגרת הג׳ורנל קלאב הקבוצתי (שיהיה פתוח גם לרופאים), תרשמו לעצמכן 10.3 ב-21:00 בזום, כל שאר הפרטים יועלו בהמשך לקבוצה.

בהמשך נפתח גם הרשמה למיטאפ פיזי בכללית חדשנות

קישור למאמר

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

מאותם מקרים שאין באמת תשובה אחת נכונה, אלא כמה דרכים שכולן סבירות. איך אתן מחליטות? ולמה?

ולפעמים יש מקרים שממש מרגישים כמו שיעור אתיקה- למשל מטופלת עם אנורקסיה מאושפזת עם סיבוכים לבביים, מסרבת לאכול, וצריך להחליט על האכלה בזונדה בכפייה. יש כאן התנגשות של ערכים.

עכשיו תדמיינו ששאלתן את ChatGPT והוא ענה “כן” או “לא”. איך הוא החליט? איזה ערך הוא תיעדף - אוטונומיה או מניעת נזק? ואיך אפשר לדעת מדוע?

כלי AI תומכי החלטה הולכים ונהיים נפוצים יותר, לפעמים הם מתעדפים מי יקבל משאב מסוים- תור לרופאה, מיטה בטיפול נמרץ, תרופה עם מלאי מוגבל- ולפעמים הם נותנים המלצה טיפולית ספציפית. והרבה פעמים אין תשובה אחת ברורה ונכונה, אחרת לא היינו צריכות סיוע.

ויש איזו תחושה ש-AI הוא “מכונה מדעית אובייקטיבית”, אבל בעוד שרופאים אנושיים אפשר לשאול “למה החלטת את זה?” מול המודל אנחנו בערפל.

אבל בסוף בדיוק כמו שאנחנו מושפעות מהחינוך שקיבלנו, מהמחלקה שבה התמחינו או מהשקפת העולם שלנו, גם המודל “חונך”, אצלו זה פשוט קרה דרך סט הנתונים עליו הוא אומן.

כרגע, לאף רופאה אין מושג מה ה”אג’נדה” של המודל שהיא מתייעצת איתו. הערכים האלו - כמו חיסכון בכסף מול יעילות קלינית, או אגרסיביות טיפולית מול שמרנות - קבורים עמוק בקוד.

רגע, אבל המודל הזה התאמן על המון המון דאטה וסוגים של מקרים זה לא אמור להפחית את ההטיות האלו? ולתת לו את התמונה היותר מלאה של כלל האפשרויות?

בקצרה- לא.

קאת׳י אוניל ניסחה את זה מושלם: “אלגוריתמים הם דעות מוטמעות בקוד”.

מודל שלומד מנתוני עבר פשוט משכפל את ההטיות של דאטה האימון שלו.

למשל מודל שלומד מדאטה של בית חולים שמתוגמל לפי פעולות עלול להמליץ על בדיקות עודפות כי זה מה שהוא ראה בנתונים.

או דוגמאות של מודלים שאומנו על נתוני אשפוז בארה”ב והמליצו פחות על משככי כאבים לקבוצות מיעוט, פשוט כי היסטורית הן אכן קיבלו פחות טיפול כזה.

אז מה אפשר לעשות?

המאמר הזה, שנולד מתוך סימפוזיון Raise מציע גישה אחרת, הם מבינים שאי אפשר פשוט “לפתוח את המוח” של המודל, כי החשיבה שם לא בהכרח כזו שניתן לתרגם לחשיבה אנושית (כמו שדיברנו בעבר), אז בואו נבחן אותו מבחוץ בצורה שיטתית ונייצר שקיפות.

ואיך עושים את זה?

1. בניית ספריית ״מקרים אפורים״- מעין מאגר גדול של תרחישים קליניים שהולכים בדיוק על המקומות בהם יש התנגשות של ערכים (כמו בדוגמא של הזונדה).

2. מיפוי אנושי- מציגים את המקרים האלו למאות רופאים, חולים, אתיקאים וחברות ביטוח- וממפים את התפלגות התשובות שלהם.

3. סימון של המודל- מריצים את המודל על אותה ספריית מקרים ובודקים- למי הוא הכי דומה?

ואז במקום לנחש כל מערכת AI תגיע עם תווית שקיפות כמו מעין ״תווית ערכים תזונתיים״ של המודל. כזו שאומרת מראש: ״המודל זה נוטה ב-80% מהמקרים לחיסכון במשאבים על פני העדפות המטופל״, או ״המודל הזה אגרסיבי טיפולית, בדומה לגישת כירורגים מומחים״.

המטרה היא לא לייצר את המודל המושלם, כי אין דבר כזה one size fits all בעולם הערכי, אלא לאפשר לנו - הרופאות וארגוני הבריאות- לבחור את הכלי שהערכים שלו מתאימים לשלנו.

אתיקה של AI היא כבר מזמן לא תיאוריה. ככל שה-AI משתלב יותר בעבודה הקלינית - השאלות האלה הופכות למעשיות מאוד. אצלנו במחלקה זה נושא שמעסיק אותנו יום-יום במוצרים שאנחנו מפתחים לכללית.

אם תסתכלו ברשימת הכותבים של המאמר, תמצאו שם את פרופ’ נעה דגן (מנהלת המחלקה שלי) ופרופ’ רן בליצר מנהל החטיבה.

ו-Maya Dagan ו-Maya Makov מהצוות שלי מובילות מחקרים ופיתוחים בדיוק על הנושא הזה.

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

קישור למאמר

מחקר חדש בדק רעיון מעניין, האם אפשר לזהות סיכון ל-BPD ול-pulmonary hypertension בפגים עוד לפני אבחנה, רק מתוך תמונות רשתית שנלקחות ממילא במסגרת סקר ROP? החוקרים לקחו תמונות רשתית מוקדמות (≤34 שבועות), והשוו בין שלושה סוגי מודלים: כאלה שמבוססים רק על נתונים קליניים-דמוגרפיים (משקל לידה, שבוע הריון וכו׳), רק על תמונות, או על שניהם.

הרעיון המרכזי: הרשתית כ״חלון״ למצב הווסקולרי-מערכתי של הפג - ולא רק לעיניים.

אז מה מצאו?

כדי להבין את התוצאות צריך רגע להסביר AUROC: זה מדד שמתאר עד כמה המודל מצליח לדרג נכון מי בסיכון גבוה ומי בסיכון נמוך, בלי לקבוע סף אבחנתי ספציפי. AUROC של 0.5 אומר שהמודל לא טוב יותר מניחוש אקראי - אין לו יכולת אמיתית להפריד בין מי שבסיכון למי שלא, ו-1.0 הוא הפרדה מושלמת.

במחקר עבור BPD המודל המשולב (תמונה + נתונים קליניים) הגיע ל-AUROC ~0.82 - כלומר, יש לו יכולת טובה להבדיל בין פגים שיפתחו BPD לבין כאלה שלא, טובה יותר מכל מקור מידע לבד.

עבור pulmonary hypertension התוצאות היו אפילו יותר חזקות: AUROC ~0.91, גם כשהמודל הסתמך רק על תמונות רשתית. כלומר ייתכן שכבר היום, מתוך בדיקה שאנחנו עושים ממילא, מסתתר מידע שמזהה פגים בסיכון למחלה קשה - עוד לפני שהיא “נראית” לנו בסטטוסקופ או באקו.

אבל איך זה יכול להיות? איך המודלים הצליחו ל״ראות״ את יתר לחץ הדם הריאתי דרך תמונה של העין??

בשביל זה צריך להבין איך מחשבים ״רואים״ (Computer Vision) , וזה שונה מאוד מאיך שאנחנו רואות.

אנחנו רואים “תמונה”, המחשב רואה “גליון אקסל” ענק. כשאנחנו מסתכלים על צילום, המוח שלנו מחפש תבניות מוכרות: “הנה כלי דם”, “הנה אזור בצקתי”.

עבור המודל? אין “תמונה”. יש טבלה ענקית של מספרים (מטריצה בשפה מתמטית). כל תא בטבלה הוא פיקסל, ובכול תא יש מספרים שמייצגים את ״מהות״ הפיקסל הזה, למשל עוצמת הצבע (כמה “אדום” יש בנקודה הזו בין 0 ל-255). המודל רואה טבלה ענקית של מיליוני פיקסלים שכול אחד מהם מיוצג על ידי סדרת מספרים.

איך הופכים טבלה של מיליון מספרים לתובנה רפואית?

כאן נכנסת לתמונה פעולה מתמטית שנקראת “קונבולוציה”. דמיינו זכוכית מגדלת קטנה (נניח, בגודל 3x3 פיקסלים) שמחליקה על פני כל התמונה הענקית, צעד אחר צעד. זכוכית המגדלת הזו היא “פילטר”. בשלבים הראשונים, הפילטרים האלה מחפשים דברים פרימיטיביים: פילטר אחד “נדלק” רק כשהוא מזהה קו אנכי בפיקסלים. פילטר אחר מחפש שינוי חד בצבע (כמו קצה של מבנה מסוים). המודל מייצר “מפות” חדשות שמראות איפה בתמונה יש קווים, ואיפה יש פינות.

מהקווים אל הלא-נודע (Latent Features): אחר כך המודל ״מסתכל על המפות” שנוצרו, ומתחיל לחבר את המידע: “אם ראיתי הרבה קווים אנכיים קטנים באזור X, והרבה שינויי צבע עדינים באזור Y שנמצא רחוק ממנו - זה אומר משהו”.

המודל לומד לזהות “פיצ’רים” (מאפיינים) שאין להם שם בשפה האנושית, כי המוח שלנו לא מחווט לתפוס אותם.

יש מצב שההבדל בין פג עם PH לפג בלי PH מתבטא בנוסחה מתמטית מורכבת שמשקללת את זווית ההתפתלות הממוצעת של 500 כלי דם קטנים, בשילוב עם ירידה של 0.3% ברוויית הצבע האדום בשולי הרשתית.

זה דורש יכולת חישוב סטטיסטי על פני אלפי נקודות מידע בו-זמנית. זה Sub-perceptual (מתחת לסף התפיסה) עבור עין ומוח אנושיים. אבל עבור המודל זו חתימה מתמטית ברורה, וחד-משמעית.

לדוגמא בפתולוגיה מודלים מסוגלים ל״ראות״ מה סוג המוטציה הסרטנית לפי מורפולגיית התאים לרמת הבדיקה הגנומית, כמו המוצרים של החברה הישראלית Imagene AI. וברדיולוגיה לאבחן הצטברות משקעי סידן בדפנות עורקים כליליים על סמך צילומי חזה פשוטים.

תחום הראייה הממוחשבת הוא אולי אחד התחומים הכי מתקדמים היום בבינה מלאכותית, ומטורף לחשוב כמה מידע חבוי יש כבר עכשיו בהדמיות שאנחנו עושים כחלק משגרה קלינית - פשוט עוד לא למדנו “לראות” אותו.

פוסט זה מוקדש באהבה לבן זוגי היקר, רופא הילדים, שרק לשמוע אותי כותבת פה על ROP עושה לו פלאשבקים לתורנויות פגייה בשניידר 😂

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

קישור למאמר

מדובר בתוכנות ש’מקשיבות’ למפגש הרפואי, מתמללות אותו, ומייצרות אוטומטית את הסיכום הרפואי (מכתב שחרור/ביקור/מעקב). דמיינו מתמחה חרוצה ובלתי נראה שיושבת איתכן בחדר, מקשיבה לשיחה ומכינה את הטיוטה לתיק הרפואי בזמן אמת. על פניו? חלום.

מאיפה זה נחת עלינו פתאום ולמה?

ההתקדמות בתחום באה גם היא בעיקר בזכות מודלי שפה גדולים (Large Language Models כמו צ׳אטגיפיטי ודומיו). להבדיל מטכנולוגיות ישנות של speech-to-text מודלי השפה הצליחו לראשונה להגיע ליכולת תמלול מרשימה מאוד (ותעיד כל מי ש״מדברת/מקליטה״ לצ׳אטים השונים, הם קולטים בצורה מדהימה את הנאמר גם כשזה מהדיבורית באוטו ועונים תוך שניות חזרה).

הסיבה המרכזית היא הקשר (context).

המודלים הישנים ניסו לפענח הברות (פונטיקה), המודלים החדשים מבינים משמעות, ולכן יודעים להשלים מילים גם אם המבטא כבד או שיש רעש, כי הם “מנחשים” מה הגיוני שתהיה המילה בהינתן שאר המילים באותו משפט.

בדיוק כמו שהסיכוי של מתמחה בתחום שלכן להגיע לתמלול מושלם גבוה יותר משל קלדנית בית משפט, כי היא מכירה את עולם התוכן וההקשר בו נאמרים דברים.

היכולת הזו לקחת תמלול גולמי ולהפוך אותו לסיכום מובנה יצרה שוק מסחרי חם, כולל שחקניות כמו מייקרוסופט. בארה”ב זה כבר ממש סטנדרט להשתמש ב-AI scribes במערכות הבריאות הגדולות. וגם בישראל בחודשים האחרונים כבר יש כלים מסחריים שנמכרים לקליניקות פרטיות, ורוב גופי הבריאות הגדולים נמצאים בשלבי פיילוט כאלה ואחרים.

נו, זה באמת עובד? רופאות אמריקאיות לא כותבות יותר בביקורים?

וכאן הגענו למאמרי השבוע.

אמ:לק- כן, אבל... זה לא חוסך כל כך זמן (או כסף), אבל הרופאים מבסוטים.

במאמר של .Lukac et al מ-NEJM AI שעשה ממש ניסוי קליני מבוקר והשווה בין שני כלי סקרייב שונים לבין קבוצה ללא סקרייב- התוצאות הכי טובות היו חסכון של בערך 9.5% בזמן תיעוד.

במאמר .Afshar et al מ-NEJM AI שהיה ניסוי קליני מבוקר, מצאו שיפור בשחיקה, וחסכון של בערך 20 דק׳ ביום.

והמאמר של .Holmgren et al מ-JAMA, הוא ניסוי תצפיתי שבעיקר בדק כמה כסף כל העסק הזה חוסך ולמי (הכי אמריקאי 😆 ונמצא כי עם הסקרייב הרווח פר רופא למערכת היה של עוד 3044$ לשנה, שזה אפילו לא מכסה את העלות השנתית של רוב הכלים האלו פר משתמש…)

אבל איך זה יכול להיות? אני מבלה כל כך הרבה זמן מהיום שלי בלכתוב מכתבים, איך יכול להיות שכלי אוטומטי לא הוריד את הזמן משמעותית, לי זה היה מוריד שליש מהיום!

וזה החלק המעניין בעיני, כי זה דורש מאיתנו לחשוב באמת מה התפקיד של התיעוד הרפואי בחיים שלנו, ומה המשמעות של האוטומציה שלו.

כי תיעוד רפואי הוא לא רק paperwork, הוא לא רק תוצר של העברת מידע מהפה למקלדת, הוא סוג של תהליך קוגניטיבי. עבור רובנו הרגע לקראת סוף הביקור שבו אנחנו עוצרות רגע לכתוב את הסיכום, הוא גם ההזדמנות שלנו- לחשוב.

הוא הרגע שלנו לעשות סינתזה, להפוך את בליל התלונות, ממצאים ומידע שנאמרו למשהו קוהרנטי, לרפואה.

ואת המעבר הזה מאיסוף מידע לגיבוש החלטה ה-AI (עדיין) לא באמת מחליף. אנחנו עדיין צריכות לעצור, לקרוא, לתקן ולחתום על המסקנות.

ואני לא נכנסת פה לעניין של איך עושים בקרה על כלים כאלו לוודא שהם מדויקים (זה לפוסט אחר, אבל זה אירוע לא פשוט בכלל ולוקח למתמחים מהמחלקה שלי חלק נכבד מיום העבודה).

וכל הנושא המשפטי של מי אחראי ולמה אם יש טעות ברשומות (ספוילר: הרופא תמיד אשם, חברות הטכנולוגיות לא במשחק).

ואולי כדי שהכלים האלו יוכלו באמת לשנות את המשחק, כל הדרך שבה אנחנו מסכמות צריכה להשתנות, לא עוד איסוף פסיבי של מידע עד נקודה מסוימת בביקור, ואז עצירה מנטלית לסיכום, ואז תקשורת של הסיכום למטופלת.

אולי צריך לחשוב מחדש על מה זה אומר לייצר רשומות רפואיות במאה ה-21, ואיך בכלל מלמדים את זה את עצמנו, ואת הסטודנטיות שלנו...

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

אם נסתכל רגע על מה שבעצם אנחנו עושות פה מבחינת הדאטה סיינס- זו משימת חיזוי קלאסית.

כלומר אני נותנת למודל נתונים ומבקשת ממנו לחשב את הנתון החסר. ממש כמו המשוואות האלה שהיינו פותרים בתיכון עם נעלמים, שמציבים את ה-x וה-y ומוצאים את הערכים. רק עם חישובים קצת יותר fancy. ואם עושים את זה שוב ושוב, כל פעם נותנים נתונים ומבקשים לחשב את החסר, ואז מראים למודל אם הוא צדק או טעה, הוא יכול לתקן ולשפר את המשוואות שלו בהתאם- וזה פחות או יותר (בגדול) מה שזה אומר ל״אמן מודלֿ״.

אז מה הם עשו במאמר?

החוקרים לקחו את האלגוריתמים המפורסמים ביותר בתחום החיזוי, שהיתרון המרכזי שלהם על פני המשוואות הקלאסיות מהתיכון, זה בעיקר היכולת למצוא גם קשרים שאינם ליניאריים בין הנתונים. וידוע שקשרים ביולוגיים הם לרוב לא ליניאריים.

אז הם לקחו נתונים מכמעט 10,000 הריונות מישראל ומקנדה, ונתנו לאלגוריתמים ולהדלוק להתחרות ראש בראש, מי חוזה יותר טוב את המשקל.

כדי לנסות ולנצח את הדלוק האלגוריתמים אפילו קיבלו יתרון- לא רק את 4 המדדים הקלאסיים, אלא עוד נתונים שאמורים היו תיאורטית לשפר את החיזוי: גיל הריון מדויק, מין העובר, גיל האם, ואיזו לידה והריון זה שלה.

נו אז מה יצא???

וזה בדיוק החלק שהכי גרם לי לחשוב.

אחרי שהאלגוריתמים סיימו להתאמן, נתנו להם ולהדלוק להיבחן על סט נתונים נקי וחדש, ובדקו מי הכי צדק.

על התוצאות אפשר להסתכל משני כיוונים- כמו דאטה סיינס וכמו רופאה.

כדאטה סיינס: ניצחון! 2 מהמודלים (xgboost, lightGBM) העריכו את המשקל המודיק בגרמים טוב יותר מהדלוק.

כרופאה: לא אכפת לי.

למה? כי בסוף לא אכפת לי אם מודל מסוים חזה טוב יותר שתינוק שוקל 3550 ג׳ ולא 3487 ג׳, זה לא ישנה שום דבר בהתנהלות הקלינית שלי.

מה שכן יהיה לי אכפת זה מקרי הקיצון שמשנים ניהול קליני, כמו עוברים גדולים מאוד (מעל אחוזון 90/97) שישלחו אותנו אולי לקיסרי, או עוברים קטנים מאוד (מתחת לאחוזון 10/3) שדורשים מעקב/טיפול/יילוד מוקדם. ובקטגוריות האלו, איפה שזה באמת משנה, המודלים המתוחכמים לא הצליחו לעקוף את הדלוק בת ה-40 פלוס בצורה משמעותית. למעשה בחלק מהמקרים (כמו זיוהי עוברים ענקיים), הנוסחה הישנה אפילו הייתה רגישה יותר.

אבל איך זה יכול להיות?

זו שאלה טובה, והחוקרים דנים בה באריכות בדיון. בדאטה סיינס קוראים לזה לפעמים ״תקרת זכוכית״. הדלוק, עם כל הפשטות שלה, הצליחה כנראה ל״סחוט את הלימון״ עד הסוף. היא הבינה את המקסימום שניתן להבין מהנתונים הסונוגרפיים הדו-מימדיים על דפוסי גדילה של עוברים אנושיים. וההבנה הזו לא משתנה הרבה עם משוואות מתוחכמות יותר.

מה שבאמת חסר לנו כדי לפרוץ את תקרת הזכוכית, זה דאטה שיוסיף לנו עוד מימדי ידע על דפוס הגדילה, כמו למשל האם לאם יש סוכרת לא מאוזנת? או זיהוי טוב יותר של סוג הרקמה הרכה בבטן העובר?

ואיך זה קשור אלינו?

זו דוגמא נפלאה בעיני לעבודה שמבחינת הדאטה סיינס הצליחה, וואלה מצאו מודל שחוזה מדויק יותר. אבל מבחינה קלינית (וכאן הקרדיט לחוקרים על הכנות), אין לה משמעות אמיתית, כי היא לא תשנה את איך שאנחנו עובדות, וחוץ ממאמר יפה אין לה שם אימפקט.

כל ההבדל בין מחקר למוצר על רגל אחת...

ואם אנחנו רוצות בינה מלאכותית שבאמת משנה את פני הרפואה, ועונה על השאלות שבאמת רלוונטיות- אין לנו, הקלינאים והקלינאיות, ברירה אלא למצוא את דרכנו אל אותם החדרים בהם נשאלות השאלות...

-------

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

קישור למאמר

אבל האמת שהחלק של חיזוי מחלות היה החלק הכי פחות מעניין במחקר….

(בעיקר כי הם השוו ליכולות חיזוי של מודלים שמתבססים על מידע דמוגרפי/בסיסי ולא למודלים רציניים שמתבססים על תיק רפואי פרטני)

מה שבעיקר תפס את העין שלי היא השיטה שבה הם הצליחו לעשות את הניתוח של השינה

מה הם עשו?

החוקרים השתמשו בגישה של Self-Supervised Learning.

תחשבו על זה כמו משחק: המודל קיבל נתונים של שינה (מוח, לב, נשימה וכו’), אבל בכל פעם “הסתירו” לו ערוץ אחד והוא היה צריך לנחש מה חסר. אחרי מיליוני חזרות, המודל למד את “השפה הפיזיולוגית” התקינה. הוא למד בדיוק איך הלב אמור להגיב כשהמוח בשינה עמוקה, ואיך הנשימה מסתנכרנת עם טונוס השרירים.

כשהמודל נתקל במטופלים חדשים, הוא ידע לזהות מיד כשמשהו לא מסתדר. למשל קצב הלב לא מסתדר עם גלי המוח באותו רגע, או טונוס שרירים שלא תואם את שלב השינה. בשלב הזה המודל עוד לא ידע שמות של מחלות, הוא רק ידע למפות את האנשים האלו לקבוצות שיש להן “חתימה פיזיולוגית חריגה” (שאנחנו לא רואים בעין בגרפים הרגילים).

בשלב האחרון החוקרים “גילו” למודל את התיקים הרפואיים. הם הראו לו שקבוצה מסוימת של אנשים עם חוסר סנכרון ספציפי בין הלב למוח - הם למעשה חולי אי-ספיקת לב. וקבוצה אחרת עם דפוס חריג בטונוס השרירים - פיתחה פרקינסון. כך הוא למד לקשור בין ה”דיסוננס” הפיזיולוגי לבין האבחנה הרפואית הספציפית.

למה רק עכשיו הצליחו?

הפריצה הטכנולוגית כאן נקראת מודל בסיס (foundation model) עד היום, היה קשה מאוד למחשב לחבר בין גלי מוח, לתנועות נשימה ולקצב לב - אלו סיגנלים פיזיקליים שונים לגמרי, שנמדדים ביחידות שונות ובתדרים שונים. זה כמו לנסות לחבר בין טקסט, תמונה וסאונד.

החידוש הוא שהמודל יודע לקחת את כל הסיגנלים השונים האלו ולהמיר אותם למרחב מתמטי משותף. הוא מתרגם את הפעימה בלב ואת הגל במוח לוקטורים (כן כן, הדבר הזה מאלגברה ליניארית שנה א’ שכולנו הדחקנו...). ברגע שהכל הופך לווקטורים באותו מרחב, המודל יכול פתאום “להשוות” ביניהם ולמצוא קשרים מתמטיים מורכבים ששום עין אנושית (או מודל סטטיסטי ישן) לא יכולה לראות. זו בדיוק המהפכה של ה-AI שאנחנו רואות היום בעולמות הטקסט והתמונה - רק שעכשיו היא הגיעה לפיזיולוגיה שלנו.

אני סתיו ואני מתמחה במחלקת רפואה מבוססת AI בחטיבת החדשנות של כללית, אנחנו רופאות ורופאים בעלי הכשרה טכנולוגית שבונים מוצרים מבוססי דאטה ו-AI לקליניקה (״בונים AI בידיים מה שנקרא 💪🏼״)

לינק למאמר:

https://www.nature.com/articles/s41591-025-04133-4