Ga aan de slag met ingebouwde AI

Alexandra Klepper

Gepubliceerd: 12 december 2024

Met ingebouwde AI kan uw webapplicatie AI-gestuurde taken uitvoeren zonder dat u eigen AI-modellen hoeft te implementeren of beheren. Het Chrome AI-team ontwikkelt taakspecifieke webplatform-API's en browserfuncties die AI-modellen in uw browser integreren. We streven ernaar dat deze API's werken wanneer ze in de browser op het apparaat van een gebruiker worden geïmplementeerd.

Vereisten

Op dit moment kunt u deze API's alleen in Chrome gebruiken, maar we streven ernaar om ze in alle browsers te standaardiseren .

Modellen

De Prompt API, Summarizer API, Writer API en Rewriter API downloaden Gemini Nano , dat is ontworpen om lokaal te draaien op desktop- en laptopcomputers. Deze API's werken niet op mobiele apparaten.

Momenteel ondersteunen deze API's alleen tekst-naar-tekst.

Hardware

De API's voor taaldetector en vertaler werken alleen op desktopcomputers in Chrome.

De Prompt API, Summarizer API, Writer API en Rewriter API werken in Chrome wanneer aan de volgende voorwaarden is voldaan:

  • Besturingssysteem : Windows 10 of 11; macOS 13+ (Ventura en hoger); of Linux. Chrome voor Android, iOS en ChromeOS worden nog niet ondersteund door onze API's, ondersteund door Gemini Nano.
  • Opslag : minimaal 22 GB op het volume dat uw Chrome-profiel bevat.
  • GPU : absoluut meer dan 4 GB VRAM.
  • Netwerk : Onbeperkt dataverbruik of een onbeperkte verbinding.
  • GPU : absoluut meer dan 4 GB VRAM.
  • Netwerk : Onbeperkt dataverbruik of een onbeperkte verbinding.

Deze vereisten gelden voor u in uw ontwikkelingsproces en voor uw gebruikers die met de functies werken die u bouwt.

Begin met bouwen

Er zijn verschillende ingebouwde AI API's beschikbaar in verschillende ontwikkelingsfasen. Sommige zijn beschikbaar voor alle ontwikkelaars in de Origin-testfase, terwijl andere alleen beschikbaar zijn voor deelnemers aan het Early Preview Program .

Elke API heeft een eigen set instructies om aan de slag te gaan en het model te downloaden, zowel voor lokale prototyping als in productieomgevingen met de oorspronkelijke tests.

Hoewel de Prompt API alleen lokaal en in Chrome-extensies beschikbaar is, werken de andere API's voor websites en Chrome-extensies.

Gebruik API's op localhost

Alle API's zijn beschikbaar op localhost in Chrome. Volg deze stappen om

  1. Ga naar chrome://flags/#prompt-api-for-gemini-nano .
  2. Selecteer Ingeschakeld .
  3. Klik op Opnieuw starten of start Chrome opnieuw.

Om te bevestigen dat Gemini Nano is gedownload en werkt zoals bedoeld, opent u DevTools en typt await LanguageModel.availability(); in de console. Dit zou available moeten retourneren.

Problemen met localhost oplossen

Als Gemini Nano niet werkt zoals verwacht, volg dan deze stappen:

  1. Start Chrome opnieuw.
  2. Ga naar chrome://components .
  3. Controleer of de optimalisatiehandleiding op het apparaatmodel aanwezig is. Dit betekent dat Gemini Nano beschikbaar is of wordt gedownload.
    • Als er geen versienummer wordt vermeld, klikt u op Controleren op updates om het downloaden te forceren.
  4. Open DevTools en typ LanguageModel.availability(); in de console. Dit zou available moeten retourneren.

Wacht indien nodig even en herhaal deze stappen.

Normeringsproces

We werken eraan deze API's te standaardiseren , zodat ze in alle browsers werken. Dit betekent dat we de API's hebben voorgesteld aan de webplatformgemeenschap en ze hebben verplaatst naar de W3C Web Incubator Community Group voor verdere bespreking.

We vragen voor elke API om feedback van het W3C, Mozilla en WebKit.

Meer informatie over dit proces voor elke API vindt u in de bijbehorende documentatie.

Betrek en deel feedback

Als u de ingebouwde AI uitprobeert en feedback hebt, horen we dat graag.

,

Alexandra Klepper

Gepubliceerd: 12 december 2024

Met ingebouwde AI kan uw webapplicatie AI-gestuurde taken uitvoeren zonder dat u eigen AI-modellen hoeft te implementeren of beheren. Het Chrome AI-team ontwikkelt taakspecifieke webplatform-API's en browserfuncties die AI-modellen in uw browser integreren. We streven ernaar dat deze API's werken wanneer ze in de browser op het apparaat van een gebruiker worden geïmplementeerd.

Vereisten

Op dit moment kunt u deze API's alleen in Chrome gebruiken, maar we streven ernaar om ze in alle browsers te standaardiseren .

Modellen

De Prompt API, Summarizer API, Writer API en Rewriter API downloaden Gemini Nano , dat is ontworpen om lokaal te draaien op desktop- en laptopcomputers. Deze API's werken niet op mobiele apparaten.

Momenteel ondersteunen deze API's alleen tekst-naar-tekst.

Hardware

De API's voor taaldetector en vertaler werken alleen op desktopcomputers in Chrome.

De Prompt API, Summarizer API, Writer API en Rewriter API werken in Chrome wanneer aan de volgende voorwaarden is voldaan:

  • Besturingssysteem : Windows 10 of 11; macOS 13+ (Ventura en hoger); of Linux. Chrome voor Android, iOS en ChromeOS worden nog niet ondersteund door onze API's, ondersteund door Gemini Nano.
  • Opslag : minimaal 22 GB op het volume dat uw Chrome-profiel bevat.
  • GPU : absoluut meer dan 4 GB VRAM.
  • Netwerk : Onbeperkt dataverbruik of een onbeperkte verbinding.
  • GPU : absoluut meer dan 4 GB VRAM.
  • Netwerk : Onbeperkt dataverbruik of een onbeperkte verbinding.

Deze vereisten gelden voor u in uw ontwikkelingsproces en voor uw gebruikers die met de functies werken die u bouwt.

Begin met bouwen

Er zijn verschillende ingebouwde AI API's beschikbaar in verschillende ontwikkelingsfasen. Sommige zijn beschikbaar voor alle ontwikkelaars in de Origin-testfase, terwijl andere alleen beschikbaar zijn voor deelnemers aan het Early Preview Program .

Elke API heeft een eigen set instructies om aan de slag te gaan en het model te downloaden, zowel voor lokale prototyping als in productieomgevingen met de oorspronkelijke tests.

Hoewel de Prompt API alleen lokaal en in Chrome-extensies beschikbaar is, werken de andere API's voor websites en Chrome-extensies.

Gebruik API's op localhost

Alle API's zijn beschikbaar op localhost in Chrome. Volg deze stappen om

  1. Ga naar chrome://flags/#prompt-api-for-gemini-nano .
  2. Selecteer Ingeschakeld .
  3. Klik op Opnieuw starten of start Chrome opnieuw.

Om te bevestigen dat Gemini Nano is gedownload en werkt zoals bedoeld, opent u DevTools en typt await LanguageModel.availability(); in de console. Dit zou available moeten retourneren.

Problemen met localhost oplossen

Als Gemini Nano niet werkt zoals verwacht, volg dan deze stappen:

  1. Start Chrome opnieuw.
  2. Ga naar chrome://components .
  3. Controleer of de optimalisatiehandleiding op het apparaatmodel aanwezig is. Dit betekent dat Gemini Nano beschikbaar is of wordt gedownload.
    • Als er geen versienummer wordt vermeld, klikt u op Controleren op updates om het downloaden te forceren.
  4. Open DevTools en typ LanguageModel.availability(); in de console. Dit zou available moeten retourneren.

Wacht indien nodig even en herhaal deze stappen.

Normeringsproces

We werken eraan deze API's te standaardiseren , zodat ze in alle browsers werken. Dit betekent dat we de API's hebben voorgesteld aan de webplatformgemeenschap en ze hebben verplaatst naar de W3C Web Incubator Community Group voor verdere bespreking.

We vragen voor elke API om feedback van het W3C, Mozilla en WebKit.

Meer informatie over dit proces voor elke API vindt u in de bijbehorende documentatie.

Betrek en deel feedback

Als u de ingebouwde AI uitprobeert en feedback hebt, horen we dat graag.