IA en el Sistema: Estrategia Multi-Proveedor

Este artículo explica cómo utilizamos IA en todo el sitio web para generación de contenido, traducción y respuestas del chatbot.

El Problema: Escalar la Creación de Contenido

Crear contenido manualmente no escala:

  • Productos (5k+) necesitan descripciones

  • Páginas de consulta (65k+) necesitan contenido único

  • Múltiples idiomas (10) necesitan traducciones

  • Preguntas de clientes necesitan respuestas instantáneas

Escribir esto manualmente tomaría años. Necesitamos automatización con IA.

La Solución: Estrategia de IA Multi-Proveedor

Utilizamos tres proveedores de IA, cada uno optimizado para tareas específicas:

  • DeepSeek: Descripciones de productos, páginas de consulta, búsqueda potenciada por IA (rentable, alta calidad)

  • Amazon Bedrock: Respuestas del chatbot, herramientas internas, resumen (integrado con AWS, múltiples modelos)

  • Gemini: Respaldo para generación de contenido (rápido)

Proveedores de IA

DeepSeek

DeepSeek es nuestro proveedor principal para generación de contenido debido a su rentabilidad y calidad:

  • Casos de uso: Descripciones de productos, contenido de páginas de consulta, búsqueda semántica potenciada por IA

  • Respaldo: Together.ai proporciona conmutación por error automática utilizando la misma familia de modelos

  • Caché: Los prompts del sistema permiten el caché de prompts - las solicitudes repetidas con el mismo prompt del sistema se benefician de costos de token reducidos

Amazon Bedrock

Amazon Bedrock proporciona acceso a múltiples modelos fundacionales a través de AWS:

  • Chatbot: Alimenta tanto el chatbot público del sitio web como el chat interno para empleados

  • Resumen: Resumen de mensajes de actualización

  • Análisis: Análisis de commits de Git, clasificación de archivos

  • Tareas SEO: Análisis avanzado utilizando modelos Claude

Gemini

Google Gemini sirve como proveedor alternativo:

  • Casos de uso: Generación de contenido cuando DeepSeek no está disponible

  • Integración: API directa a través del SDK de IA generativa de Google

Casos de Uso de IA

Descripciones de Productos

Usamos DeepSeek para generar descripciones de productos:

  1. Construir nombre del producto y lista de características desde la base de datos de productos
  2. Construir un prompt del sistema describiendo el formato de salida esperado
  3. Enviar a la API de DeepSeek (el prompt del sistema permite el caché para solicitudes repetidas)
  4. Analizar la respuesta en eslogan y contenido principal
  5. Almacenar en la base de datos para soporte multilingüe

Contenido de Páginas de Consulta

Usamos DeepSeek para generar contenido de páginas de consulta:

  1. Extraer texto de consulta desde los datos del clúster
  2. Construir contexto del producto desde productos coincidentes
  3. Enviar a DeepSeek con un prompt del sistema estructurado
  4. Analizar la respuesta en componentes de página (eslogan y cuerpo)
  5. Almacenar para servir en múltiples idiomas

Traducción

Usamos DeepSeek para traducciones potenciadas por IA:

  1. Poner en cola las traducciones faltantes a medida que se encuentran
  2. Procesar cadenas en cola en lotes (con respaldo de Together.ai)
  3. Almacenar traducciones en tablas de frases para búsqueda
  4. Las solicitudes posteriores utilizan traducciones en caché

Sugerencias de Búsqueda

Usamos Sentence Transformers para similitud semántica:

  • Generar incrustaciones de consultas para comparación de similitud

  • Almacenar incrustaciones en Valkey para búsqueda vectorial

  • Encontrar consultas relacionadas basadas en distancia de incrustación

Chatbot

Amazon Bedrock alimenta el chatbot:

  • Chatbot público: Responde preguntas sobre productos, proporciona recomendaciones

  • Chatbot interno: Asiste a empleados con consultas del sistema, incluye llamadas a herramientas para búsqueda de datos

Ingeniería de Prompts

Prompts del Sistema

Los prompts del sistema permiten eficiencia de caché con DeepSeek:

  • Aciertos de caché: Cuando se reutiliza el mismo prompt del sistema, DeepSeek almacena en caché los tokens del prompt, reduciendo costo y latencia

  • Estructura: El prompt del sistema define el formato de salida y restricciones; el prompt del usuario contiene la solicitud específica

  • Registro: El sistema registra estadísticas de aciertos/fallos de caché para monitoreo

Configuraciones de Temperatura

Diferentes tareas usan diferentes configuraciones de temperatura:

  • Descripciones de productos: Temperatura más alta para salida creativa y variada

  • Interpretación de búsqueda: Temperatura más baja para extracción de filtros consistente y predecible

  • Chatbot: Temperatura moderada para respuestas conversacionales equilibradas

  • Resumen: Temperatura más baja para resúmenes precisos y enfocados

Optimización de Tokens

Optimizamos el uso de tokens mediante:

  • Caché de prompts: El caché de DeepSeek reduce los costos de prompts del sistema repetidos

  • Salidas estructuradas: Solicitar formatos JSON específicos para minimizar la sobrecarga de análisis

  • Manejo de respaldo: La conmutación por error automática a Together.ai mantiene la disponibilidad sin intervención manual

Referencias

Documentación de Proveedores de IA

Artículos Relacionados

Resumen

Nuestro sistema de IA proporciona:

  • Múltiples proveedores: DeepSeek para generación de contenido, Bedrock para chatbots y herramientas internas, Gemini como respaldo

  • Prompts optimizados: Los prompts del sistema permiten el caché para reducción de costos

  • Ajuste específico por tarea: Temperatura y selección de modelos adaptados a los requisitos del caso de uso

  • Fiabilidad: Mecanismos de respaldo automático mantienen la disponibilidad