Vertex AI
Nombre del elemento: Vertex AI
Categoría: Cognitive
Descripción: Vertex AI ofrece acceso a Gemini, un modelo multimodal de Google DeepMind, capaz de comprender prácticamente cualquier entrada, combinar diferentes tipos de información y generar casi cualquier resultado.
Funcionalidad: Modulo de extensión que permite generar respuestas basadas en la IA generativa de Google y paralelamente evalúa cognitivamente sobre el motor cognitivo definido por defecto en el tenant.
Pre-requisito:
- Tener una cuenta en Vertex AI.
- Crear una cuenta de servicio de Google para la integración del modelo con Lynn.
- Disponer de un contexto cognitivo previamente establecido en la aplicación de Lynn.
Campos de configuración de acción Análisis de Sentimientos (Requerido)
[Nombre]: Descriptor único de caja de configuración con fines de identificar la misma en el flujo.
[Random dialog type action to continue the conversation]: Lista desplegable que contiene los diálogos creados en el aplicativo Lynn.
[Expression defining the training prompt]: Entrada de texto para generar una respuesta del modelo. Las instrucciones pueden incluir predicado, preguntas, sugerencias, instrucciones o ejemplos.
[LOCATION_ID]: Parámetro en donde se debe ingresar el nombre del Location ID
[PUBLISHER]: Parámetro en donde se debe ingresar el nombre del publicador
[MODEL]: Parámetro en donde se debe ingresar el nombre del modelo
[TEMPERATURE]: Campo en donde se debe ingresar la temperatura se usa para las muestras durante la generación de respuesta cuando se aplican topP y topK, lo cual permite controlar el grado de aleatoriedad en la selección de los tokens. Las temperaturas más bajas son buenas para los mensajes que requieren una respuesta menos abierta o de creativa, mientras que las temperaturas más altas pueden generar resultados más diversos o creativos.
[MAX OUTPUT TOKENS]: Este campo determina la cantidad máxima de tokens en la salida de texto. Un valor más bajo generará respuestas más cortas, mientras que un valor más alto producirá respuestas más extensas.
[TOP P]: P superior cambia la manera en la que el modelo selecciona tokens para la salida. Los tokens se seleccionan desde la mayoría de los K (ver parámetro topK) hasta que sea menor hasta que la suma de sus probabilidades sea igual al valor de p superior.
Por ejemplo, si los tokens A, B y C tienen una probabilidad de 0.3, 0.2 y 0.1, y el valor P superior es 0.5, entonces el modelo seleccionará A o B como el siguiente token (con temperatura) y no lo hará T considera C. El valor predeterminado de P superior es 0.95.
[TOP K]: K superior cambia la manera en que el modelo selecciona tokens para la salida. Por ejemplo, un k superior de 1 significa que el token seleccionado es el más probable entre todos los tokens en el vocabulario del modelo (también llamado decodificación codiciosa), mientras que un k superior de 3 significa que el siguiente token se selecciona de los 3 tokens más probables (usando la temperatura).
Nota: Para acceder a más información de estos campos puede ingresar al siguiente enlace https://cloud.google.com/vertex-ai/docs/generative-ai/start/quickstarts/api-quickstart?hl=es-419
[Certeza (1-100) con la que se identifica la intención]: Campo que permite ingresar un porcentaje de aceptacion
[Si se alcanza el máximo de intentos fallidos, el flujo de acción se interrumpirá y la descripción del error se pasará a la intención seleccionada con el nombre: 'vertexAi_Error']: Caja de selección donde se visualizarán listado de intenciones en donde debe seleccionar la que se activara en caso de presentarse un error.
Google Service Account VetexAI (Required)
[PROJECT ID]: Parametro correspondiente a la configuración de la cuenta de Servicio de Google
[PRIVATE KEY ID]: Parámetro correspondiente a la configuración de la cuenta de Servicio de Google
[PRIVATE KEY]: Parámetro correspondiente a la configuración de la cuenta de Servicio de Google
[CLIENT EMAIL]: Parámetro correspondiente a la configuración de la cuenta de Servicio de Google
[CLIENT_ID]: Parámetro correspondiente a la configuración de la cuenta de Servicio de Google
Ejemplo de implementacion:
En el siguiente ejemplo se describe la configuración requerida que permite generar respuestas basadas en la IA de Google
--Entrada:
[Nombre]: PruebaVertex
[Random dialog type action to continue the conversation]: d_vertex
[Expression defining the training prompt]: 'responde las siguientes preguntas en base a la pagina https://resources.lynn.cx/'
[LOCATION_ID]: us-central1
[PUBLISHER]: google
[MODEL]: text-bison@001
[TEMPERATURE]: 0.2
[MAX OUTPUT TOKENS]: 256
[TOP P]: 0.95
[TOP K]: 40
[Certeza (1-100) con la que se identifica la intención]: 70
[Si se alcanza el máximo de intentos fallidos, el flujo de acción se interrumpirá y la descripción del error se pasará a la intención seleccionada con el nombre: 'vertexAi_Error']: Error_Handler
Google Service Account VetexAI (Required)
[PROJECT ID]: prueba-vertex
[PRIVATE KEY ID]: xxxxxxxxxxxxxxxxxxxxx
[PRIVATE KEY]: xxxxxxxxxxxxxxxxxxxxx
[CLIENT EMAIL]: prueba@ prueba-vertexxxxxxxxxxx
[CLIENT_ID]: 10751xxxxxxxxxxxxxxxx
-- Resultado:
La intención de inicio ejecuta inmediatamente la configuración realizada en el módulo de extensión VertexAI.
La evaluación cognitiva cumple con las condiciones para ejecutar la intención objetivo.
Si la certeza configurada no supera el umbral Vertex seguirá generando respuestas a las consultas del usuario.
