разбор · on-device
2.0
из 10
смотреть не обязательно — забрать выжимку и пункты
оценка машинная и частично зависит от длины ролика — спорите, открывайте оригинал
On-device AI: гибридная схема и ограничения Gemini Nano
Gemini Nano on device — Florina Muntenescu & Oli Gaymond, Google DeepMind
Доклад о Gemini Nano и ML Kit GenAI APIs для on-device AI на Android. Главное: использовать AI Core для доступа к модели, гибридную схему через Firebase AI Logic для охвата устройств без Nano, и Prompt API для гибких задач. Для оператора входа в AI — примеры архитектуры и ограничений on-device моделей.
На Android: локальные модели через ML Kit и AI Core, гибрид через Firebase, но нужны флагманы и учёт батареи.
что из этого моё
Можно применить для выбора архитектуры: on-device vs cloud для агентов и автоматизации, учитывая задержки и приватность. Гибридная схема из доклада — готовая модель для оркестрации, когда дешевле и быстрее обрабатывать на устройстве, а сложные задачи уходить в облако.
Тезисы ролика
применимого к своей работе линза здесь не нашла
▸Используйте ML Kit GenAI APIs для доступа к Gemini Nano через AI Core — это экономит ресурсы и упрощает разработку.
▸Для расширения охвата применяйте гибридную схему: on-device, если доступно, иначе облако через Firebase AI Logic.
▸Prompt API поддерживает текст и изображения на входе, текст на выходе — подходит для анализа контента, извлечения сущностей.
▸Учитывайте, что on-device модели требуют флагманских устройств и имеют ограничения по батарее — оптимизируйте сценарии использования.
о чём говорят, по времени
главы доводят до 10:00 · дальше по ролику меток нет
01
Введение и обзор00:00 ↗
Спикеры представляют тему on-device AI на Android и варианты реализации.
02
On-device модели и AI Core02:30 ↗
Объясняется, что такое Gemini Nano и как он работает через AI Core.
03
ML Kit GenAI APIs и Prompt API05:00 ↗
Описание API для доступа к Gemini Nano и его возможностей.
04
Гибридный подход и Firebase AI Logic07:30 ↗
Как использовать облако, когда on-device недоступен.
05
Вопросы и ответы10:00 ↗
Обсуждение производительности, батареи, масштабирования и будущих API.