מה דעתך על מלחמה תרמו-גרעינית עולמית? [עושים טכנולוגיה]

About this episode

The episode discusses the implications of integrating large language models into military decision-making processes, particularly concerning nuclear weapons.

בחודשים האחרונים התפתח מאבק בין הפנטגון לחברת אנת'רופיק סביב השאלה האם נכון וראוי שחברה פרטית תטיל איסורים ומגבלות מעבר לקונגרס האמריקאי. אבל בתוך המהומה הזו - שמערבת סוגיות טכנולוגיות, משפטיות, מוסריות וכלכליות - שאלה אחת הלכה לאיבוד: האם זה בכלל רעיון טוב לשלב מודלי שפה גדולים בתוך מערכות צבאיות, בתוך מערכות שמקבלות החלטות גורליות, החלטות של חיים ומוות? במחקר שפורסם ב-2024 ובמחקר המשך, שפורסם בראשית 2026, נעשו סימולציות, משחקי מלחמה, שבהם מודלי השפה הגדולים התבקשו לשחק מנהיגים של מדינות יריבות ואז לקבל החלטות תחת לחץ ובתנאים של משברים בינלאומיים. אלו מודלי השפה שכולנו משתמשים בהם. התוצאות של המחקרים לא פחות ממחרידות: מסתבר שלמודלי השפה הגדולים אין שום בעיה להורות על שימוש בנשק גרעיני, ולא, לא מדובר רק במהלך אחרון; בחלק מהמקרים הם שולפים את הנשק הגרעיני כמהלך ראשון. קישורים: ספר: אימפריות הסיליקון: המלחמה על עתיד הבינה המלאכותית https://www.amazon.com/Silicon-Empires-Fight-Future-AI/dp/1509550488 מחקרו של קנת' פיין (2026): https://arxiv.org/abs/2602.14740 מחקרם של החוקרים האמריקאים (2024): https://arxiv.org/abs/2401.03408

People in this episode

Host: ד״ר יובל דרור

Topics covered

• military technology
• AI ethics
• nuclear weapons
• decision making
• international relations

Keywords

• language models
• military
• nuclear
• Pentagon
• AI ethics
• decision making
• international crises

Mentioned in this episode

Organizations: פנטגון, אנת'רופיק

Books & works: אימפריות הסיליקון: המלחמה על עתיד הבינה המלאכותית

More episodes of עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה

• הלהיט הצרפתי שטלטל את תעשיית הגיימינג [עושים טכנולוגיה] · March 16, 2026 · 42 min
• סערה מושלמת: התמוטטות קוגניטיבית [עושים טכנולוגיה] · March 9, 2026 · 51 min
• התבניות האפלות שמפילות את כולנו [עושים טכנולוגיה] · March 2, 2026 · 42 min
• התחיל עם זריקה, ייגמר במקדונלד'ס [עושים טכנולוגיה] · February 16, 2026 · 46 min
• וכעת ג'מיני יברך את החתן והכלה [עושים טכנולוגיה] · February 2, 2026 · 41 min
• זה לא סלע, זה המחשב הראשון בעולם (ש.ח.) [עושים טכנולוגיה] · January 19, 2026 · 41 min