API de Writer

Usa la API de Writer

Primero, ejecuta la detección de funciones para ver si el navegador admite estas APIs.

if ('Writer' in self) {
  // The Writer API is supported.
}

La API de Writer y todas las demás APIs de IA integradas están integradas en el navegador. Gemini Nano se descarga por separado la primera vez que un sitio web usa una API de IA integrada. En la práctica, si un usuario ya interactuó con una API integrada, descargó el modelo en su navegador.

Para determinar si el modelo está listo para usarse, llama a la función asíncrona Writer.availability(). Devuelve una cadena que puede tomar cuatro valores posibles:

• unavailable: El navegador admite la API de Writer, pero no se puede usar en este momento. Esto podría deberse a varios motivos, como espacio en disco disponible insuficiente para descargar el modelo.
• available: El navegador admite la API de Writer y se puede usar de inmediato.
• downloadable: El navegador admite la API de Writer, pero primero debe descargar el modelo.
• downloading: El navegador admite la API de Writer y, actualmente, está descargando el modelo.

Para activar la descarga del modelo y comenzar a escribir, llama a la función Writer.create(). Si la respuesta a availability() fue downloadable, escucha el progreso de la descarga y avísale al usuario, ya que la descarga puede tardar.

const writer = await Writer.create({
  monitor(m) {
    m.addEventListener("downloadprogress", e => {
      console.log(`Downloaded ${e.loaded * 100}%`);
    });
  }
});

Funciones de la API

La función create() te permite configurar un nuevo objeto de escritura. Toma un objeto options opcional con los siguientes parámetros:

• tone: El tono de escritura puede referirse al estilo, el carácter o la actitud del contenido. El valor se puede establecer en formal, neutral (predeterminado) o casual.
• format: Es el formato de salida, con los valores permitidos markdown (predeterminado) y plain-text.
• length: Es la longitud del resultado, con los valores permitidos short, medium (predeterminado) y long.
• sharedContext: Cuando escribes varias salidas, un contexto compartido puede ayudar al modelo a crear contenido que se alinee mejor con tus expectativas.

En el siguiente ejemplo, se muestra cómo iniciar un objeto writer:

const options = {
  sharedContext: 'This is an email to acquaintances about an upcoming event.',
  tone: 'casual',
  format: 'plain-text',
  length: 'medium',
};

const available = await Writer.availability();
let writer;
if (available === 'unavailable') {
  // The Writer API isn't usable.
  return;
}
if (available === 'available') {
  // The Writer API can be used immediately .
  writer = await Writer.create(options);
} else {
  // The Writer can be used after the model is downloaded.
  const writer = await Writer.create({
    ...options,
    monitor(m) {
      m.addEventListener("downloadprogress", e => {
        console.log(`Downloaded ${e.loaded * 100}%`);
      });
    }
  });
}

Comenzar a escribir

Existen dos formas de generar texto a partir del modelo: no continua y continua.

Salida sin transmisión

Con la escritura sin transmisión, el modelo procesa la entrada en su totalidad y, luego, genera la salida.

Para obtener un resultado que no sea de transmisión, llama a la función asíncrona write(). Debes incluir una instrucción para el contenido que deseas que se escriba. Puedes agregar un context opcional para proporcionar información general al modelo, lo que puede ayudarlo a satisfacer mejor tus expectativas sobre el resultado.

// Non-streaming
const writer = await Writer.create();
const result = await writer.write(
  "An inquiry to my bank about how to enable wire transfers on my account.", {
    context: "I'm a longstanding customer",
  },
);

Transmite la escritura de la salida

La transmisión ofrece resultados en tiempo real. El resultado se actualiza continuamente a medida que se agrega y ajusta la entrada.

Para obtener un escritor de transmisión, llama a la función writeStreaming() y, luego, itera sobre los segmentos de texto disponibles en la transmisión. Puedes agregar un context opcional para proporcionar información general al modelo, lo que puede ayudarlo a satisfacer mejor tus expectativas sobre el resultado.

// Streaming
const writer = await Writer.create();
const stream = writer.writeStreaming(
  "An inquiry to my bank about how to enable wire transfers on my account.", {
    context: "I'm a longstanding customer",
  },
);
for await (const chunk of stream) {
  composeTextbox.append(chunk);
}

Compartir contexto para varias tareas

Es posible que desees usar un writer para generar varias piezas de contenido. En este caso, es útil agregar sharedContext. Por ejemplo, tal vez quieras ayudar a los revisores a brindar mejores comentarios.

// Shared context and per writing task context
const writer = await Writer.create({
sharedContext: "This is for publishing on [popular website name], a business and employment-focused social media platform."
});

const stream = writer.writeStreaming(
  "Write a blog post about how I love all this work on gen AI at Google!" +
  "Mention that there's so much to learn and so many new things I can do!",
  { context: " The request comes from someone working at a startup providing an e-commerce CMS solution."}
);

for await (const chunk of stream) {
  composeTextbox.append(chunk);
}

Cómo reutilizar un escritor

Puedes usar el mismo escritor para crear varias piezas de contenido.

// Reuse a writer
const writer = await Writer.create({ tone: "formal" });

const reviews = await Promise.all(
  Array.from(
    document.querySelectorAll("#reviews > .review"),
    (reviewEl) => writer.write(reviewEl.textContent)
  ),
);

Detener el escritor

Para finalizar el proceso de escritura, anula el controlador y destruye el escritor.

// Aborting a writer
const controller = new AbortController();
stopButton.onclick = () => controller.abort();

const writer = await Writer.create({ signal: controller.signal });
await writer.write(reviewEl.textContent, { signal: controller.signal });

// Destroying a writer
writer.destroy();

Demostración

Interactúa y comparte comentarios

Las APIs de Writer y Rewriter se encuentran en debate activo y están sujetas a cambios en el futuro. Si pruebas esta API y tienes comentarios, nos encantaría conocerlos.

• Lee la explicación, haz preguntas y participa en el debate.
• Revisa la implementación de Chrome en Chrome Status.
• Únete al programa de versión preliminar anticipada para ver las nuevas APIs y acceder a nuestra lista de distribución.
• Si tienes comentarios sobre la implementación de Chrome, informa un error de Chromium.

Descubre todas las APIs de IA integradas que usan modelos, incluidos Gemini Nano y otros modelos expertos, en el navegador.