בתחילת השנה, קבעתי יעדים ותוצאות מפתח (OKRs) כדי להניע את הצמיחה האישית והמקצועית שלי. עבדתי לקראת ה-OKR שלי על ידי תרומה לפרויקט מחקר, הדרכתי והכשרת מתמחה במדעי הנתונים, הרחבת הידע שלי על ידי קריאת 28 ספרים ושיפור ציון בחינות ה-EFSET שלי ב-15 נקודות כדי להכשיר את מיומנותי באנגלית. בנוסף, העמקתי את המומחיות שלי בלמידת מכונה להפקה (MLOps) על ידי השלמת התמחות עם ציונים גבוהים במספר קורסים.
כהוקרה על ההישגים הללו, גלקסיה כיבדה אותי בהזדמנות להשתתף בכנס ECAI, אירוע יוקרתי שסיפק תובנות חשובות לאין ערוך לגבי ההתקדמות האחרונה בתחום הבינה המלאכותית. הכנס נערך בעיר עוצרת הנשימה סנטיאגו דה קומפוסטלה, מקום שהרגיש כמו ללכת אחורה בזמן. כשהלכתי ברחובות המרוצפים והארכיטקטורה של ימי הביניים שלה, הרגשתי כאילו שלחתי פתאום טלפורטציה למאה ה-14, עוברת בין דפי ספר היסטוריה. יופיה והמורשת העשירה של העיר הפכו את החוויה הזו לבלתי נשכחת עוד יותר. בבלוג זה אשתף את המסע שלי ואת הנקודות העיקריות שלי מהכנס.
הוועידה האירופית ה-27 לבינה מלאכותית (ECAI)
ECAI נערך בין ה-19 ל-24 באוקטובר 2024, והפגיש למעלה מ-1,600 נציגים מקהילת המחקר העולמית של AI.
הכנס כלל תוכנית מקיפה, שכללה מצגות של מאמרים טכניים, סדנאות, הדרכות, הרצאות מוזמנות ומושבים מיוחדים. בבלוג זה אספק סיכום של המצגות וההדרכות בהן השתתפתי במהלך האירוע. כל המאמרים פורסמו ב- [1].
נושאים מרכזיים
א.אתיקה והגינות
אחריות במערכות בינה מלאכותית: התייחסות לסיכונים הכרוכים בבינה מלאכותית למטרות כלליות ויצירת מנגנונים להבטחת פריסה בטוחה ואתית.
שימוש לרעה בבינה מלאכותית: התמודדות עם דילמות אתיות כמו שימושים זדוניים בבינה מלאכותית, במיוחד בתחומים רגישים כמו מדיה חברתית.
הוגנות והכלה: קידום ייצוג שוויוני ויחסי במערכות קבלת החלטות המונעות על ידי בינה מלאכותית.
הסבר בבינה מלאכותית: הבטחת שקופות וניתנות לפירוש במערכות בינה מלאכותית כדי לטפח אמון והבנה, ולאפשר לבעלי עניין להבין כיצד מתקבלות החלטות.
ב. קיימות
ההשפעה הסביבתית של בינה מלאכותית: הכרה בטביעת הרגל הפחמנית הגדלה של תהליכי למידת מכונה וקידום שיטות עבודה בנות קיימא.
ניצול משאבים יעיל: התמקדות במזעור בזבוז משאבים ושיפור יעילותן של מערכות בינה מלאכותית כדי להפחית את הנזק הסביבתי.
ג. שיפור למידה אקטיבית ואופטימיזציה
למידה אקטיבית: פיתוח אלגוריתמים חכמים יותר שיכולים לחדד את עצמם באמצעות שאילתות ממוקדות ודוגמאות נגדיות, מה שמוביל ליעילות טובה יותר של המודל.
אופטימיזציה: ביצוע מחקרים לשיפור ביצועי מערכות תכנון קלאסיות מבוססות בינה מלאכותית, מה שהופך אותן ליעילות ואמינות יותר.
ד יישומי בינה מלאכותית בתהליכים ומערכות
תהליכים הצהרתיים: שימוש בבינה מלאכותית לאופטימיזציה של כריית תהליכים, ייצוג וסינתזה לאוטומציה טובה יותר של זרימת עבודה.
שיתוף פעולה רב-סוכנים: בחינת האתגרים וההזדמנויות של מערכות מרובות סוכנים, במיוחד בהתמודדות עם תרחישים מורכבים ורב-מטרתיים.
זיהוי אנומליות: מינוף בינה מלאכותית לזיהוי דפוסים חריגים או סטיות בנתונים שעשויים להצביע על שגיאות, הונאה או כשלים במערכת. זה כולל ניטור בזמן אמת וניתוח חיזוי לשיפור קבלת החלטות ולשמירה על שלמות המערכת.
ה. AI למטרות כלליות
הגדרה, הערכה ושיפור של בינה מלאכותית (AGI): התמקדות גוברת בזיהוי מגבלות והצעת פתרונות סטנדרטיים עבור בינה מלאכותית שיכולים לפעול על פני משימות מגוונות.
שיטות מפתח
א. דגמי שפה גדולים
ב. למידת חיזוק
ג. מערכות ריבוי סוכנים
ד. ראיית מחשב
דגשים מהכנס
1. אתיקה והגינות
סדנת יישום אתיקה של בינה מלאכותית דרך עדשה התנהגותית [2] בחנה כיצד להתאים מערכות בינה מלאכותית לערכים אנושיים, תוך הדגשת הוגנות, הפחתת הטיות ושקיפות. היא הדגישה את הצורך להתקדם מעבר למדדי דיוק מסורתיים ולאמץ שיטות הערכה המשקפות אתגרים מהעולם האמיתי, כגון מדדים ממוקדי מטופל בתחום הבריאות. הסדנה דנה גם בחשיבות של מניעת דליפת נתונים ויישום תהליכי הערכה רב-מרכזיים חזקים כדי להבטיח אמינות.
תרומה בולטת נוספת הייתה " ממשל אתי של בינה מלאכותית: שיטות להערכת בינה מלאכותית אמינה" [3] , שסיווג שיטות הערכה של בינה מלאכותית לגישות מושגיות, ידניות, חצי אוטומטיות ואוטומטיות. המאמר טען כי בעוד שכלים אוטומטיים יכולים לזהות ביעילות בעיות של הטיה והסבר, פיקוח אנושי נותר חיוני לקבלת החלטות אתיות מדוקדקות. אתגרים כמו היעדר סטנדרטיזציה וחוסר עקביות בהערכות מהימנות טופלו גם הם, תוך הדגשת הצורך במסגרות הערכה מאוחדות.
בנוסף, המאמר של PEACE (מתן הסברים וניתוח למאבק בביטויי שנאה) [1] הציג כלי אינטרנט שנועד לזהות דברי שטנה עדינים וסמויים שלעתים קרובות מתעלמים מהם. על ידי שילוב כלי ויזואליזציה וטכניקות בינה מלאכותית מוסברות, PEACE מסייע למנהלי תוכן להבין ולטפל טוב יותר בדברי שטנה מפורשים ומרומזים בפלטפורמות מקוונות.
2. קיימות
"יותר (מספיק) זה טוב יותר: לקראת פילוח פסולת בלתי חוקית בצילומי אוויר עם מינימום נתונים מתויגים. " [1] התייחס לאתגר של גילוי אתרי פסולת בלתי חוקיים בתמונות אוויריות עם מינימום נתונים מתויגים. הגישה המוצעת מינפה טכניקות למידה בצילומי אוויר ויצירת נתונים סינתטיים כדי לשפר את דיוק הגילוי תוך מזעור הצורך בהערות ידניות נרחבות. מחקר זה הדגיש כיצד ניתן להשתמש בבינה מלאכותית כדי להתמודד ביעילות עם בעיות סביבתיות בעולם האמיתי.
מאמר משמעותי נוסף, " למידת מכונה ללא פסולת " [1] , הציג גישה מונעת קיימות לאופטימיזציה של מודלים של בינה מלאכותית. המחברים הציעו מסגרת בהשראת עקרונות הכלכלה המעגלית, תוך התמקדות בשימוש חוזר בחישובים ובידע כדי לשפר את יעילות המודל. טכניקות מפתח כללו חישוב מותנה, למידה מתמשכת ומיחזור משאבים, תוך הבטחה שמערכות בינה מלאכותית יישארו יעילות במשאבים מבלי להתפשר על ביצועים.
האתגר הרחב יותר של ניהול קבלת החלטות מרובת סוכנים ורב-מטרות בהקשרים של קיימות נחקר בספר " העולם הוא מערכת מרובת-מטרות מרובת-סוכנים: מה עכשיו?" [1] . מחקר זה בחן כיצד בינה מלאכותית יכולה להתמודד עם סדרי עדיפויות סותרים, כגון איזון בין קיימות סביבתית לבין מטרות כלכליות. על ידי שילוב הסבר ושקיפות במערכות בינה מלאכותית, המחקר נועד לשפר את האמון והאימוץ ביישומי קבלת החלטות בקנה מידה גדול.
3. שיפור למידה אקטיבית ואופטימיזציה
המדריך מעבר לניסוי וטעייה: מדריך על למידה אוטומטית של חיזוק [4] סיפק תובנות לגבי אוטומציה של תהליכי למידה חיזוקית (RL). שיטות AutoRL שואפות לייעל משימות ידניות מסורתיות, כגון כוונון היפר-פרמטרים ובחירת אלגוריתמים, מה שהופך את RL לנגיש יותר וניתן להתאמה ליישומים בעולם האמיתי. המדריך גם עסק בהשפעת היפר-פרמטרים על רגישות וביצועי המודל, וחיזק את החשיבות של טכניקות אופטימיזציה אוטומטיות.
מחקר קשור, ניתוח חשיבות היפרפרמטרים עבור Multi-Objective AutoML [1] , בחן את תפקיד כוונון היפרפרמטרים באיזון בין מטרות מתחרות, כגון דיוק המודל לעומת עלות חישובית. המחברים הציגו טכניקות ניתוח חדשות כדי לזהות אילו היפרפרמטרים בעלי ההשפעה המשמעותית ביותר, ומספקים תובנות חשובות לאופטימיזציה של מודלים של בינה מלאכותית מרובת מטרות.
בנוסף, המחקר "הישרדותם של החזקים ביותר: הסתגלות אבולוציונית של מדיניות לשינויים סביבתיים" [1] הציג גישה מבוססת אבולוציונית ללמידת חיזוק. המחקר הציע אופטימיזציה אבולוציונית של מדיניות חזקה (ERPO), טכניקה המאפשרת למודלים של בינה מלאכותית להסתגל לסביבות משתנות מבלי לדרוש הכשרה מחדש נרחבת. למחקר זה השלכות על יישומים שבהם מערכות בינה מלאכותית חייבות לתפקד בסביבות דינמיות ובלתי צפויות, כגון רובוטיקה ומידול פיננסי.
4. יישומי AI בתהליכים ומערכות
המאמר " מכלולי מודלים אדפטיביים ומרחביים מיוחדים לגילוי אנומליות תעשייתיות " [1] הציג מסגרת המשלבת באופן דינמי מודלים ייעודיים מרובים לגילוי אנומליות במערכות תעשייתיות. על ידי שילוב של אדפטציית זיכרון עם התמחות מרחבית, המסגרת משפרת את יכולתה של הבינה המלאכותית להתמודד עם התפלגויות נתונים מגוונות ומתפתחות. גישה זו הוכחה כיעילה ביותר ביישומים תעשייתיים שבהם מודלים סטטיים מסורתיים מתמודדים עם סחיפה של מושגים ותנאי תפעול משתנים.
מחקר רלוונטי נוסף, זיכרון קסקד לגילוי אנומליות בלתי מפוקח [1] , התמודד עם אתגר ההכללה היתר במודלים בלתי מפוקחים. שיטות רבות לגילוי אנומליות קיימות מתקשות להבחין בין נתונים נורמליים לא נורמליים, מה שמוביל לשיעורים גבוהים של חיובי שגוי. ארכיטקטורת זיכרון הקסקד המוצעת משפרת את המיקוד בדפוסים נורמליים תוך מתן אפשרות למערכת לבודד אנומליות בצורה יעילה יותר. השיטה הדגימה ביצועים חדישים על פני מערכי נתונים שונים, במיוחד בתרחישים מורכבים בעולם האמיתי.
תיקוף מודלים לגילוי אנומליות ללא נתונים מתויגים נדון במחקר " לקראת תיקוף מודלים לא מפוקחים " [1] . מחקר זה הציע שימוש באנסמבל "מגוון במדויק" של מודלים כדי להעריך מערכות לגילוי אנומליות, תוך מינוף טכניקות דירוג מבוססות קורלציה כדי להעריך את אמינות המודל. על ידי מתן גישה מובנית לאימות לא מפוקח, המחקר תרם להפיכת גילוי אנומליות המונע על ידי בינה מלאכותית לחזק וניתן להרחבה.
5. AI למטרות כלליות
הסדנה "הבנת שפה בעידן האדם-מכונה " [5] בחנה את התפקיד המתפתח של מודלים לשוניים גדולים (LLMs) ביישומים כגון בינה מלאכותית שיחתית ותרגום מכונה. בעוד שמודלים לשוניים גדולים הפגינו יכולות מרשימות, הסדנה הדגישה את מגבלותיהם בהבנה אמיתית של שפה אנושית, במיוחד בהקשרים הדורשים חשיבה מעמיקה ומודעות הקשרית.
לבסוף, המאמר "אזהרות ופתרונות לאפיון בינה מלאכותית למטרות כלליות " [1] התמודד עם האתגר הרחב יותר של מדידת הכלליות והיכולת של בינה מלאכותית למטרות כלליות. המחברים הציעו אסטרטגיות חדשות לביצועי ביצועים, כולל מבחני הסתגלות המעריכים את ביצועי בינה מלאכותית במשימות מגוונות ומשתנות. הם גם דגלו בתובנות בין-תחומיות מפילוסופיה ומדע קוגניטיבי כדי לחדד את התפיסה של GPAI, תוך חיזוק החשיבות של שקיפות וניתנות הסבר בהערכת בינה מלאכותית.
<br> סיכום
ה-ECAI חקר נושאים מרכזיים שמעצבים את עתיד הבינה המלאכותית, כולל אתיקה, קיימות, אופטימיזציה ויישומים מהעולם האמיתי. דיונים על אתיקה והגינות הדגישו את החשיבות של מערכות בינה מלאכותית שקופות וחסרות פניות שמתאימות לערכים האנושיים.
מאמצי הקיימות התמקדו בצמצום ההשפעה הסביבתית של AI באמצעות שיטות חסכוניות באנרגיה ושימוש אחראי במשאבים. ההתקדמות בלמידה אקטיבית ואופטימיזציה הדגישה טכניקות לאוטומציה והתאמת מערכות AI לסביבות דינמיות. ב-AI יישומי, חידושי אופטימיזציה של תהליכים וקבלת החלטות הציגו פתרונות מעשיים לאתגרים תעשייתיים וחברתיים. הכנס בחן גם את המורכבות של AI למטרות כלליות, והדגיש את הצורך בהתאמה, שקיפות ושיתוף פעולה בין-תחומי. בסך הכל, ECAI הדגיש את הפיתוח של מערכות AI אתיות, יעילות וניתנות להתאמה להתמודדות עם אתגרים גלובליים דחופים.
הפניות
[1] דיוני ECAI 2024 - הכנס האירופי ה-27 לבינה מלאכותית (ECAI), 19-24 באוקטובר 2024, סנטיאגו דה קומפוסטלה, ספרד. הוצאת IOS. זמין בכתובת: https://ebooks.iospress.nl/volume/ecai-2024-27theuropean-conference-on-artificial-intelligence-1924-october-2024santiago-de-compostela-spain-including-pais-2024
[2] סדנת AIEB-ECAI 2024 – יישום אתיקה של בינה מלאכותית דרך עדשה התנהגותית. ECAI 2024. זמין בכתובת: https://aieb-ecai2024.framer.ai/
[3] מקורמק, ל., ובנדצ'אש, מ. (2024) . ניהול אתי של בינה מלאכותית: שיטות להערכת בינה מלאכותית אמינה. arXiv. זמין בכתובת: https://arxiv.org/abs/2409.07473
[4] מדריך ECAI 2024 AutoRL – מעבר לניסוי וטעייה: מדריך על למידה אוטומטית של חיזוק. זמין בכתובת: קישור
[5] סדנת LUHME, ECAI 2024 – הבנת שפה בעידן האדם-מכונה. זמין בכתובת: https://luhme.web.uah.es/
