#072 ML Татьяна Шаврина. Бенчмарки для LLM или как оценивать большие языковые модели?

About this episode

В этом выпуске обсуждаются бенчмарки для больших языковых моделей и их оценка с Татьяной Шавриной.

В гостях сегодня Татьяна Шаврина, старший научный сотрудник Института Языкознания РАН. Обсуждаем бенчмарки - стандартизированные наборы тестов, метрик и протоколов оценки, предназначенные для объективного измерения производительности больших языковых моделей. Что произошло в индустрии за последние 4 года с момента записи предыдущего выпуска? Все ли проявления естественного интеллекта можно наблюдать у искусственного? Как автоматизировать науку? Как и для чего автоматически проверять новые архитектуры сетей на разных доменах? Скоро ли агентные системы начнут выигрывать у людей kaggle-соревнования? Как ИИ-учёные ддосят учёных-людей? Зачем большим языковым моделям сдавать выпускные экзамены на бакалавра? Как не допустить того, чтобы разработчики бенчмарков и больших моделей договорились? Какие проблемы существуют у современных решений? Почему к OpenAI всегда так много претензий? Кто и как придумывает бенчмарки? Придумали ли бенчмарк для определения, что AGI уже здесь? Если заработал сто миллиардов долларов, то уже AGI? Где взять бенчмарки, если ты не OpenAI? Почему высокие метрики на бенчмарках могут не являться решающим фактором при выборе модели под свою задачу? Обо всём этом и…

People in this episode

Guest: Татьяна Шаврина

Topics covered

• бенчмарки
• большие языковые модели
• оценка производительности
• естественный интеллект
• автоматизация науки
• агентные системы
• AGI

Keywords

• метрики
• протоколы оценки
• индустрия
• Kaggle
• OpenAI

More episodes of Подкаст о машинном обучении (Machine Learning Podcast)

• #080 Антон Полднев. ML в рекламе в режиме хайлоада · May 26, 2026 · 1h 26m
• #079 Николай Полярный. Про компьютерное зрение, оптимизацию вычислений и преподавание лучшим школьникам · April 30, 2026 · 1h 42m
• #078 Станислав Петров. Про ML в маркетинге. · March 24, 2026 · 1h 5m
• #077 Лекс Кравецкий. Про образование. ИИ - это причина назревающих изменений или катализатор? · December 31, 2025 · 1h 42m
• #076 Алексей Толстиков. Про Школу Анализа Данных. Зачем? Кому? Как? · November 21, 2025 · 1h 31m
• #075 Евгений Разинков. Профессиональный кризис AI-специалиста в эпоху AI · October 9, 2025 · 1h 8m