[146] ההאקרים שעוזרים לסם אלטמן

About this episode

The episode discusses AI security vulnerabilities and the motivations behind companies rewarding hackers for finding flaws in language models.

כדאטה סיינטיסטים, אנחנו מאוד רגישים ל Jailbreaking וחולשות במודלי שפה, עד כדי כך שאנחנו עלולים לשכוח שהמוצרים שאנחנו בונים פגיעים גם לחולשות אבטחה סטנדרטיות. השבוע בexplAInable הזמנו את רועי פז, Principal AI Security Researcher שמקבל צ׳קים כדי למצוא פגיעויות באפליקציות LLM. הבחנו בין חולשות במודל לחולשות אפליקטיביות, הגדרנו מונחי בסיס כמו Sandbox, Lateral Movement, וניסינו להבין מה המוטיבציה של חברות כמו OpenAI לתגמל האקרים ולשלם להם כסף על פגיעויות שהם מוצאים במודל. שמענו גם על אייג׳נטים שעוזרים להאקרים לכתוב מתקפות מתוחכמות יותר, ועם אלו חולשות אין לנו סיכוי לקבל צ׳ק בתוכניות Bug Bounties של מודלי שפה גדולים. כל זאת ועוד - בפרק! לינקדאין של רועי פז: https://www.linkedin.com/in/roy-paz/ תוכנית הבאג באונטי של OpenAI שכבר שילמה ל330 האקרים: https://bugcrowd.com/engagements/openai

People in this episode

Hosts: Tamir Nave, Mike Erlihson, Uri Goren, Hila Paz Herszfang

Guest: רועי פז

Topics covered

• AI Security
• Jailbreaking
• Language Models
• Vulnerabilities
• Bug Bounty Programs

Keywords

• AI Security
• Jailbreaking
• Vulnerabilities
• OpenAI
• Bug Bounty

Mentioned in this episode

Organizations: OpenAI, Bugcrowd

Products: LLM

More episodes of ExplAInable

• [156] בני-נוער ולמידת מכונה: איך יראה הדור הבא של הדאטה סיינטיסטים · June 8, 2026 · 31 min
• [155] Diffusion Language Models · May 25, 2026 · 25 min
• [154] על Physical AI: מתי הומנואידים של טסלה ושוטף-שואב יחלקו foundational model · May 12, 2026 · 23 min
• [153] למידה אדוורסריאלית · April 26, 2026 · 36 min
• [152] ביו-האקינג כמו דאטה סיינטיסט · April 15, 2026 · 17 min
• [151] עקבות של רעשי תיוג עם ד״ר שמואל חיון · March 30, 2026 · 37 min