Как думают LLM? | Лучшие подкасты на русском языке

Как думают LLM?

14.06.2024 3750

Профессор Владимир Крылов, доктор технических наук и научный консультант по применению ИИ в разработке ПО, рассказывает о том, как думают LLM.

В лекции:

  • сравним понятие интерпретации модели в квантовой физике и в задаче вывода LLM;
  • увидим, как LLM выполняет сложные рассуждения на основе внутреннего устройства больших языковых моделей и их функционирования с точки зрения программиста;
  • рассмотрим иллюстрации на простейшей модели nano-gpt и выводы на основе этого представления;
  • познакомимся с последними результатами интерпретации LLM с использованием карт активности нейронов.

«В конечном итоге мы могли бы даже запретить такие комбинации нейронов, как ложь, обман, стремление к власти или агрессивные реакции, чтобы модель никогда не генерировала такого рода данные независимо от того, насколько настаивает пользователь. И, может быть, перенести эти возможности на мозг живых существ», — рассказал Владимир Крылов.

Смотрите полную версию лекции на YouTube.

Ничего не играет
00:00 / 00:00