Saltar al contenido principal
La pestaña System le brinda control completo sobre los modelos de IA que impulsan las automatizaciones y flujos de trabajo de EKB. Este es el centro de control para configurar Modelos de Lenguaje de Gran Escala (LLMs), personalizar qué modelos están disponibles para los usuarios y administrar su comportamiento en el sistema. Esta pestaña es especialmente útil para organizaciones que usan una combinación de modelos de diferentes proveedores (OpenAI, Anthropic, Google, etc.) y desean ajustar el rendimiento, costos y control de acceso.
#System
  • Agregar Nuevos Modelos LLM: Agregue rápidamente modelos de proveedores como OpenAI (por ejemplo, GPT-3.5, GPT-4), Anthropic (por ejemplo, Claude 3 Opus, Claude 3 Haiku, Claude 3.5 Sonnet) y Google (por ejemplo, modelos Gemini, PaLM si están habilitados).
    • Para cada modelo, defina:
      • API Name: Cómo se refiere el sistema al modelo en el código.
      • Display Name: Cómo lo ven los usuarios en la interfaz.
      • API Type: Proveedor (OpenAI, Anthropic, etc.).
      • API Version: Para control de versiones.
      • Cost: Valor personalizado para rastreo interno o lógica de facturación.
  • Administrar Modelos Existentes: Todos los modelos se muestran en una tabla con detalles:
    • API Name: Nombre de backend utilizado en flujos de trabajo y registros.
    • Display Name: Nombre amigable visible para los usuarios.
    • API Type: Proveedor (por ejemplo, openai, anthropic).
    • API Version: Identificador de versión.
    • Cost: Costo relativo para contabilidad o rastreo de uso de tokens.
    • Hidden: Si está marcado, el modelo está oculto para los usuarios finales pero disponible para administradores/agentes internos.
    • Default: Marcar como predeterminado para tareas y flujos generales.
    • Default Extraction: Marcar como predeterminado para flujos de trabajo de extracción de información.
    Acciones:
    • Edit: Modificar configuración del modelo (nombre, visibilidad, etc.)
    • Delete: Eliminar el modelo de la plataforma

​
Casos de Uso

  • Controlar Costos: Oculte modelos costosos a los usuarios generales, mientras los mantiene disponibles para flujos de trabajo de alta prioridad.
  • Simplificar Acceso: Establezca un modelo como predeterminado para una incorporación rápida, por ejemplo, GPT-3.5 para Q&A general, Claude para resumen, etc.
  • Ejecutar Experimentos: Agregue múltiples versiones del mismo modelo para pruebas A/B de rendimiento o comparar calidad de salida.

​
Consejos para Administradores

  • Revise periódicamente qué modelos están habilitados y quién tiene acceso a ellos.
  • Use la configuración Hidden para restringir el acceso a modelos de alto costo o experimentales.
  • Establezca valores predeterminados apropiados para simplificar la experiencia del usuario y asegurar que se usen los modelos correctos para las tareas correctas.
  • Monitoree el uso de modelos y costos para optimizar su infraestructura de IA.