Начните работу со встроенным искусственным интеллектом

Александра Клеппер

Опубликовано: 12 декабря 2024 г.

Благодаря встроенному ИИ ваше веб-приложение может выполнять задачи на базе ИИ без необходимости развертывания или управления собственными моделями ИИ. Команда Chrome AI разрабатывает API веб-платформы для конкретных задач и функции браузера, которые интегрируют модели ИИ в ваш браузер. Мы стремимся к тому, чтобы эти API работали при внедрении в браузер на устройстве пользователя.

Требования

В настоящее время эти API можно использовать только в Chrome, но мы стремимся стандартизировать их во всех браузерах .

Модели

Prompt API, Summarizer API, Writer API и Rewriter API загружают Gemini Nano , который предназначен для локального запуска на настольных компьютерах и ноутбуках. Эти API не работают на мобильных устройствах.

На данный момент эти API поддерживают только модальность «текст-текст».

Аппаратное обеспечение

API-интерфейсы определения языка и переводчика работают только на настольных компьютерах в Chrome.

Prompt API, Summarizer API, Writer API и Rewriter API работают в Chrome при соблюдении следующих условий:

  • Операционная система : Windows 10 или 11; macOS 13+ (Ventura и выше); или Linux. Chrome для Android, iOS и ChromeOS пока не поддерживаются нашими API, поддерживаемыми Gemini Nano.
  • Хранилище : не менее 22 ГБ на томе, содержащем ваш профиль Chrome.
  • Графический процессор : строго более 4 ГБ видеопамяти.
  • Сеть : Неограниченные данные или безлимитное соединение.
  • Графический процессор : строго более 4 ГБ видеопамяти.
  • Сеть : Неограниченные данные или безлимитное соединение.

Эти требования существуют для вас в процессе разработки и для ваших пользователей, которые работают с создаваемыми вами функциями.

Начать строительство

На разных стадиях разработки доступно несколько встроенных API ИИ . Некоторые из них доступны всем разработчикам в пробных версиях Origin, а другие — только участникам программы Early Preview .

Каждый API имеет собственный набор инструкций по началу работы и загрузке модели как для локального прототипирования, так и в производственных средах с исходными пробными версиями.

Хотя API Prompt доступен только локально и в расширениях Chrome, другие API работают для веб-сайтов и расширений Chrome.

Используйте API на локальном хосте

Все API доступны на localhost в Chrome. Выполните следующие шаги, чтобы

  1. Перейдите по адресу chrome://flags/#prompt-api-for-gemini-nano .
  2. Выберите Включено .
  3. Нажмите «Перезапустить» или перезапустите Chrome.

Чтобы убедиться, что Gemini Nano загружен и работает как задумано, откройте DevTools и введите await LanguageModel.availability(); в консоли. Это должно вернуть available .

Устранение неполадок локального хоста

Если Gemini Nano не работает должным образом, выполните следующие действия:

  1. Перезапустите Chrome.
  2. Перейдите по адресу chrome://components .
  3. Подтвердите, что Optimization Guide On Device Model присутствует. Это означает, что Gemini Nano либо доступен, либо загружается.
    • Если номер версии не указан, нажмите «Проверить наличие обновлений» , чтобы принудительно выполнить загрузку.
  4. Откройте DevTools и введите LanguageModel.availability(); в консоль. Это должно вернуть available .

При необходимости подождите некоторое время и повторите эти действия.

Стандарты процесса

Мы работаем над стандартизацией этих API , чтобы они работали во всех браузерах. Это означает, что мы предложили API сообществу веб-платформ и переместили их в группу сообщества W3C Web Incubator для дальнейшего обсуждения.

Мы запрашиваем отзывы от W3C, Mozilla и WebKit по каждому API.

Более подробную информацию об этом процессе для каждого API можно найти в соответствующей документации.

Привлекайте и делитесь отзывами

Если вы попробуете встроенный ИИ и у вас есть отзывы, мы будем рады их услышать.

,

Александра Клеппер

Опубликовано: 12 декабря 2024 г.

Благодаря встроенному ИИ ваше веб-приложение может выполнять задачи на базе ИИ без необходимости развертывания или управления собственными моделями ИИ. Команда Chrome AI разрабатывает API веб-платформы для конкретных задач и функции браузера, которые интегрируют модели ИИ в ваш браузер. Мы стремимся к тому, чтобы эти API работали при внедрении в браузер на устройстве пользователя.

Требования

В настоящее время эти API можно использовать только в Chrome, но мы стремимся стандартизировать их во всех браузерах .

Модели

Prompt API, Summarizer API, Writer API и Rewriter API загружают Gemini Nano , который предназначен для локального запуска на настольных компьютерах и ноутбуках. Эти API не работают на мобильных устройствах.

На данный момент эти API поддерживают только модальность «текст-текст».

Аппаратное обеспечение

API-интерфейсы определения языка и переводчика работают только на настольных компьютерах в Chrome.

Prompt API, Summarizer API, Writer API и Rewriter API работают в Chrome при соблюдении следующих условий:

  • Операционная система : Windows 10 или 11; macOS 13+ (Ventura и выше); или Linux. Chrome для Android, iOS и ChromeOS пока не поддерживаются нашими API, поддерживаемыми Gemini Nano.
  • Хранилище : не менее 22 ГБ на томе, содержащем ваш профиль Chrome.
  • Графический процессор : строго более 4 ГБ видеопамяти.
  • Сеть : Неограниченные данные или безлимитное соединение.
  • Графический процессор : строго более 4 ГБ видеопамяти.
  • Сеть : Неограниченные данные или безлимитное соединение.

Эти требования существуют для вас в процессе разработки и для ваших пользователей, которые работают с создаваемыми вами функциями.

Начать строительство

На разных стадиях разработки доступно несколько встроенных API ИИ . Некоторые из них доступны всем разработчикам в пробных версиях Origin, а другие — только участникам программы Early Preview .

Каждый API имеет собственный набор инструкций по началу работы и загрузке модели как для локального прототипирования, так и в производственных средах с исходными пробными версиями.

Хотя API Prompt доступен только локально и в расширениях Chrome, другие API работают для веб-сайтов и расширений Chrome.

Используйте API на локальном хосте

Все API доступны на localhost в Chrome. Выполните следующие шаги, чтобы

  1. Перейдите по адресу chrome://flags/#prompt-api-for-gemini-nano .
  2. Выберите Включено .
  3. Нажмите «Перезапустить» или перезапустите Chrome.

Чтобы убедиться, что Gemini Nano загружен и работает как задумано, откройте DevTools и введите await LanguageModel.availability(); в консоли. Это должно вернуть available .

Устранение неполадок локального хоста

Если Gemini Nano не работает должным образом, выполните следующие действия:

  1. Перезапустите Chrome.
  2. Перейдите по адресу chrome://components .
  3. Подтвердите, что Optimization Guide On Device Model присутствует. Это означает, что Gemini Nano либо доступен, либо загружается.
    • Если номер версии не указан, нажмите «Проверить наличие обновлений» , чтобы принудительно выполнить загрузку.
  4. Откройте DevTools и введите LanguageModel.availability(); в консоль. Это должно вернуть available .

При необходимости подождите некоторое время и повторите эти действия.

Стандарты процесса

Мы работаем над стандартизацией этих API , чтобы они работали во всех браузерах. Это означает, что мы предложили API сообществу веб-платформ и переместили их в группу сообщества W3C Web Incubator для дальнейшего обсуждения.

Мы запрашиваем отзывы от W3C, Mozilla и WebKit по каждому API.

Более подробную информацию об этом процессе для каждого API можно найти в соответствующей документации.

Привлекайте и делитесь отзывами

Если вы попробуете встроенный ИИ и у вас есть отзывы, мы будем рады их услышать.