К содержимому
ProductSense АКАДЕМИЯ
ВойтиПопробовать бесплатно
Разобраться в теме Понять, что происходит Найти решение 
Библиотека
ПодборкиМикрокурсыКонференции
Тарифы

Академия ProductSense

бета-версия · Поддержка: @ps24supportbot

АкадемияКурсыТарифыПубличная офертаПолитика конфиденциальностиОбработка персональных данныхКарта сайта
Разобраться в теме12 разделов · 186 темПонять, что происходит12 опор · 288 ситуацийНайти решение14 работ · 508 приёмов458 материалов бесплатно из 3 060
  1. Найти решение
  2. ·Управлять разработкой и доставкой
  3. ·Приём

Проверяй ML-модели оффлайн-метриками до запуска на реальных пользователях

11 материалов · приём действия · Управлять разработкой и доставкой

Когда так бывает
выкатываю модели сразу на людей и получаю скандалы

Где это показывают

  • Урок3 мин

    A/A- и A/A/B-тесты

    Проверяем доступ

    «Приходя в новый продукт или начиная работу с новой платформой для тестирования, первым делом нужно запускать проверочный эксперимент без изменений для валидации инфраструктуры.»

    здесь это прозвучало

  • Выступление

    AI-помощник для scrum-команд: меньше споров — больше закрытых задач (Александр Шакмаев)

    Проверяем доступ

    «При оценке эффективности ML-модели на исторических данных используйте метод отложенной выборки: часть данных пустите на обучение, а часть оставьте в «черном ящике» для проверки.»

    здесь это прозвучало

  • Выступление

    Как запустить AI-продукт и не облажаться. Пошаговое руководство (Даниэль Левинишников)

    Проверяем доступ

    «Перед запуском A/B-тестов на реальных пользователях ML-модели необходимо проверять через оффлайн-метрики (evals).»

    здесь это прозвучало

  • Выступление

    Как не заблудиться в рекомендациях: от исследований к улучшению персонального клиентского опыта (Дмитрий Кудасов)

    Проверяем доступ

    «Использование экспертных интервью с увлеченными сотрудниками внутри компании помогает выявить грубые ошибки алгоритма в узких предметных областях до запуска в производство.»

    здесь это прозвучало

  • Видео38 мин

    Рисерч компаний, которые используют AI, и их драйверы роста (Дмитрий Нерезько, Teamlex AI)

    Проверяем доступ

    «Перед настройкой ИИ под бизнес-задачу необходимо собрать качественный датасет из прошлых успешных решений.»

    здесь это прозвучало

  • Выступление

    Баллы, бонусы, промокоды и скидки. Как потерять 2 млрд рублей. Кейсы ошибок программ лояльности, на которые никто не обращает внимание. А уже поздно (Александр Чупрун)

    Проверяем доступ

    «Использование триггерных метрик на аномалии (всплески регистраций, отправок SMS и обращений к API) позволяет отлавливать системный фрод до того, как он нанесет непоправимый урон.»

    здесь это звучит 2 раза

  • Видео48 мин

    Как собрать growth-модель и увеличивать ROI (Александр Подольский, Scentbird)

    Проверяем доступ

    «Прежде чем использовать математическую модель для тестирования гипотез, нужно убедиться, что базовый прогноз метрик сходится с фактическими историческими данными.»

    здесь это прозвучало

  • Выступление

    "Как тебя понимать?" Разбираемся в целевой аудитории и подстраиваем под неё продукт

    Проверяем доступ

    «Перед запуском сложной фичи в продакшн всегда проводите офлайн-эксперимент на исторических данных.»

    здесь это прозвучало

  • Видео36 мин

    1 часть EdTech подкаст с Натальей Климчук

    Проверяем доступ

    «Когда продукт дорогой и сложный, экспертная консультация перед покупкой эффективнее скриптовых продаж и позволяет маленькой команде закрывать крупные сделки.»

    здесь это прозвучало

  • Видео2 мин

    Вопросы

    Проверяем доступ

    «На этапе внутренней разработки orientируйтесь на Data Science метрики, а при раскатке в продакшен оценивайте успех через бизнес-метрики в А/В-тестах.»

    здесь это прозвучало

  • Видео28 мин

    Как сформулировать цель для искусственного интеллекта (Александр Крайнов, Яндекс)

    Проверяем доступ

    «Перед стартом ИИ-проекта нужно проверить, можно ли точно сформулировать цель в математическом виде, измерять прогресс обучения и собрать достаточно данных.»

    здесь это прозвучало