Черный ящик ИИ: зачем алгорит… | Лучшие подкасты на русском языке

Черный ящик ИИ: зачем алгоритмам объяснять свои решения. Радио РБК

01.01.2020 875

Почему к решениям ИИ предъявляют выше требования, чем к людям, где пределы текущих языковых моделей и почему прорыв ждут не от новых данных, а от умения моделей «думать» и объяснять свои выводы, — в программе «Технологии и тренды»

• [00:04] Врач-робот и доверие к решениям ИИ

• [01:19] Понимает ли нейросеть то, что говорит

• [02:53] Почему к ИИ требования выше, чем к людям

• [06:08] Объяснимый ИИ: что искать внутри модели

• [08:24] Физический мир и перспективы VLA-моделей

• [09:45] От масштабирования данных к времени размышления

• [12:37] Как и с чем работает T-Банк AI Research

Современный искусственный интеллект функционирует по принципу «черного ящика», когда даже разработчики не всегда способны логически обосновать конкретный ответ модели. Ведущие Радио РБК Аркадий Глушенков и Иван Звягин отмечают, что системы принимают критически важные решения в медицине и финансах, основываясь на статистическом подборе наиболее вероятных слов.

В эфире Радио РБК руководитель лаборатории «Т-Банк AI Research» Даниил Гаврилов подчеркивает необходимость создания «объяснимого ИИ», работа над которым ведется путем анализа перетекания концепций между вычислительными слоями нейросети.

Важным вектором развития становятся VLA-модели, способные интегрировать физический опыт, такой как понимание гравитации и сопротивления материалов, что необходимо для управления роботами. Даниил Гаврилов указывает на смену парадигмы масштабирования: вместо простого увеличения объема данных акцент смещается на время размышления нейросети (inference time scaling). Это развивает дедуктивные способности алгоритмов и открывает путь к абдукции — умению формулировать гипотезы. Подобный подход позволяет использовать ИИ для автоматического научного прогресса, включая поиск ответов на еще не заданные вопросы. При этом для прорывных открытий, сопоставимых по значимости с архитектурой Transformer, не всегда требуются ресурсы гигантов вроде OpenAI, достаточно эффективного фокуса на конкретных научных задачах.

Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски.

Москва 92.8 FM

Санкт-Петербург 102.0 FM

Нижний Новгород 107.4 FM

Тюмень 100.6 FM

Воронеж 101.1 FM

Ничего не играет
00:00 / 00:00