[153] למידה אדוורסריאלית

About this episode

פרק 153 עוסק בלמידה אדוורסריאלית והשפעתה על מודלי LLM.

מה הקשר בין הרעלת training data להורדת הסבירות ל- end of text token? בפרק 153 של אקספליינבל, אורי ומייק מארחים את ד״ר רז לפיד ואילון מזרחי לשיחה על למידה אדוורסריאלית. לא זו מארכיטקטורת GAN, אלא כזו שגורמת למודלי LLM לצטט את החוקה האמריקאית ולבזבז יותר מדי טוקנים. בפרק למדנו על תקיפות שמתחילות בwhitebox עם מודל opensource ונודדות למודלים סגורים, תקיפות פיזיות על מערכות סגורות שאומנו לזיהוי בני אדם, ואיך אפשר להתמודד עם מתקפה שמורידה את הסבירות שמודל שפה יוצא end of text token. אז האם אייג׳נטים שמשתמשים במודל סגור יותר בטוחים מכאלו שמשתמשים במשקולות מhugging face? איך תוקפים מרעילים תוצאות כשכל מה שיש להם הוא גישה ל training data? האם אורי ורז יפתחו עסק צדדי של הדפסת חולצות שיגרמו לנו להיות בלתי נראים? ה scholar של קרליני: https://scholar.google.com/citations?user=q4qDvAoAAAAJ&hl=en הגנה "לא מפוקחת" שהתקבלה ל ICCV: https://openaccess.thecvf.com/content/ICCV2025W/SafeMM-AI/html/Mizrahi_Pulling_Back_the_Curtain_Unsupervised_Adversarial_Detection_via_Contrastive_Auxiliary_ICCVW_2025_paper.html התקפת black box על object detectors שהתקבלה ל - ECML: https://arxiv.org/abs/2303.04238

People in this episode

Hosts: אורי, מייק

Guests: ד״ר רז לפיד, אילון מזרחי

Topics covered

• למידה אדוורסריאלית
• מודלי LLM
• תקיפות פיזיות
• הגנה לא מפוקחת
• object detectors

Keywords

• למידה אדוורסריאלית
• מודלי LLM
• training data
• end of text token
• תקיפות פיזיות

Mentioned in this episode

Organizations: hugging face, ICCV, ECML

Books & works: ה scholar של קרליני, הגנה "לא מפוקחת" שהתקבלה ל ICCV, התקפת black box על object detectors שהתקבלה ל - ECML

More episodes of ExplAInable

• [156] בני-נוער ולמידת מכונה: איך יראה הדור הבא של הדאטה סיינטיסטים · June 8, 2026 · 31 min
• [155] Diffusion Language Models · May 25, 2026 · 25 min
• [154] על Physical AI: מתי הומנואידים של טסלה ושוטף-שואב יחלקו foundational model · May 12, 2026 · 23 min
• [152] ביו-האקינג כמו דאטה סיינטיסט · April 15, 2026 · 17 min
• [151] עקבות של רעשי תיוג עם ד״ר שמואל חיון · March 30, 2026 · 37 min
• [150] לסקור מאמרים כמו מייק · March 8, 2026 · 33 min