API PaLM-2 (chat-bison) доступно для всех

В быстро меняющемся мире искусственного интеллекта Google продолжает раздвигать границы инноваций, выпустив PaLM-2 (модель языка пути) в своей Generative AI Studio. Этот выпуск знаменует собой важную веху в разработке приложений для чата, позволяя разработчикам использовать расширенные возможности генеративного ИИ. В этой статье мы рассмотрим возможности и последствия использования Google PaLM-2 для чат-приложений.

PaLM-2, последняя версия большой языковой модели, представляет собой прорыв в технологии искусственного интеллекта на основе чата. Она предназначен для понимания и создания человеческих ответов в разговорах на естественном языке. Благодаря алгоритмам глубокого обучения и обучению на огромных объемах текстовых данных PaLM-2 демонстрирует поразительную беглость и понимание контекста, что делает ее бесценным инструментом для разработчиков чат-приложений.

API Google PaLM для чата (chat-bison) предоставляют разработчикам мощный интерфейс для интеграции PaLM-2 в их приложения для чата. Эти API предлагают ряд функций, включая анализ настроений, языковой перевод и генерацию ответов. Используя возможности PaLM-2, разработчики могут создавать чат-приложения, обеспечивающие более естественные, контекстно-зависимые ответы, тем самым улучшая взаимодействие с пользователем.

Интеграция и использование:

Вы можете начать использовать PaLM-2 в Vertex AI, Generative AI Studio следующим образом:

Разработчики могут взаимодействовать с моделью аналогично ChatGPT, инициируя беседы и получая ответы:

Также имеется доступ через API, что позволяет разработчикам интегрировать PaLM-2 в свои приложения. Например, в Node.JS доступ к API можно легко реализовать, указав имя файла JSON-файла учетной записи службы Google, полученного из Cloud Console:

import { JWT } from "google-auth-library";  const API_ENDPOINT = "us-central1-aiplatform.googleapis.com"; const URL = `https://${API_ENDPOINT}/v1/projects/${process.env.GOOGLE_KEY}/locations/us-central1/publishers/google/models/chat-bison@001:predict`;  const getIdToken = async () => {     const client = new JWT({         keyFile: "./google.json",         scopes: ["https://www.googleapis.com/auth/cloud-platform"],     });     const idToken = await client.authorize();     return idToken.access_token; };  export const getTextPalm = async (prompt, temperature) => {     const headers = {         Authorization: `Bearer ` + (await getIdToken()),         "Content-Type": "application/json",     };      const data = {         instances: [             {                 context: "",                 examples: [],                 messages: [                     {                         author: "user",                         content: prompt,                     },                 ],             },         ],         parameters: {             temperature: temperature || 0.5,             maxOutputTokens: 1024,             topP: 0.8,             topK: 40,         },     };      const response = await fetch(URL, {         method: "POST",         headers,         body: JSON.stringify(data),     });      if (!response.ok) {         console.error(response.statusText);         throw new Error("Request failed " + response.statusText);     }      const result = await response.json();     return result.predictions[0].candidates[0].content; }; 

В настоящее время PaLM-2 отвечает только на английском языке, но в ближайшем будущем ожидается добавление поддержки других языков. Стоимость использования API PaLM-2 относительно доступна и составляет 0,0005 доллара США за 1 тыс. символов. Однако стоит отметить, что Google в настоящее время предлагает полную скидку на плату за использование.

Тестирование и впечатляющие результаты:

Во время тестирования PaLM-2 продемонстрировал впечатляющие возможности, особенно в сторителлинге. Сгенерированные истории, созданные PaLM-2, сравнимы с результатами, достигнутыми такими моделями, как GPT-4. Это демонстрирует потенциал PaLM-2 в создании высококачественного повествовательного контента: