Guía de Instalación On-Premise

​

Prerrequisitos

​

Requisitos de Acceso

• Acceso al Servidor:
  • Confirme el acceso a los servidores de despliegue con privilegios sudo.
  • Verifique que todas las rutas de red necesarias estén establecidas a través de una VPN segura o una configuración de red dedicada.
• Permisos de Usuario:
  • Asegúrese de que el equipo de despliegue haya recibido los permisos de acceso necesarios.
  • Valide que cualquier autenticación de dos factores (2FA) o token de seguridad requerido esté configurado.

​

Requisitos del Sistema

• GPU (Requerida cuando se despliega un LLM en la misma máquina que la plataforma EKB.)
• PEQUEÑO: ~500 (100 Concurrentes) usuarios pueden ser soportados por una sola VM de 16 núcleos, 64gb ram, 1 TB SSD. Estas máquinas cuestan ~$600 al mes. Este es un despliegue de tamaño mínimo.
• MEDIANO: ~2000 (500 Concurrentes) usuarios pueden ser soportados por una máquina más grande de 32 núcleos, 128gb ram, 2 TB SSD. Estas máquinas cuestan aproximadamente ~$1,200 al mes.
• GRANDE: ~10000 (1000+ Concurrentes) usuarios deben ser desplegados a través de contenedores para que la infraestructura pueda escalar según las necesidades, esto típicamente cuesta un mínimo de $2,000 al mes. Se sugiere calcular$2,000 al mes por cada 1,000 Usuarios Activos adicionales. Este es un despliegue completamente distribuido.

​

Herramientas de Despliegue y Dependencias de Software

• Scripts de Despliegue:
  • Scripts de despliegue Bash verificados y controlados por versiones.
• Herramientas de Gestión de Dependencias:
  • Python 3
  • Git (versión actual)
  • Docker (v27.1.1) o Podman
• Herramientas Adicionales (Opcional):
  • Herramientas de registro y monitoreo (por ejemplo, ELK Stack, Prometheus, Grafana) según los requisitos de monitoreo del cliente.

​

Credenciales y Claves

• Credenciales del Servidor:
  • Asegúrese de que todas las credenciales de acceso al servidor estén actualizadas y almacenadas de forma segura.
• Claves API y Licencias de la Aplicación:
  • Verifique que todas las claves API y licencias específicas de la aplicación (por ejemplo, OpenAI, SERP, Sentry) estén disponibles y sean válidas.

​

Lista de Verificación Previa al Despliegue

​

Verificación de Hardware y Sistema

# Verificar información de CPU

lscpu                         # Funciona tanto en Ubuntu como en RHEL

cat /proc/cpuinfo             # Información de CPU más detallada


# Verificar uso de memoria

free -h                       # Formato legible para uso de memoria

cat /proc/meminfo             # Información de memoria detallada


# Verificar uso de almacenamiento

df -h                         # Muestra el uso de disco

lsblk                         # Lista dispositivos de bloques y particiones

​

3.2 Verificación de Software y Dependencias

# Verificar versión de Docker

docker --version              # Aplicable tanto para Ubuntu como para RHEL


# Verificar versión de Docker Compose

docker compose version        # Para configuraciones modernas de Docker
docker-compose --version      # Para instalaciones anteriores

```

# Verificar versión de Python

python3 --version             # Verificación preferida para Python 3

python --version              # Alternativa si python3 no está disponible


# Verificar versión de Git

git --version                 # Válido tanto para Ubuntu como para RHEL

​

3.3 Verificación de Red y Conectividad

# Verificar disponibilidad de conexión a Internet

ping -c 4 google.com          # Ping a Google para verificar la conectividad de red
curl -Is https://www.google.com | head -n 1  # Verificación alternativa usando curl

​

3.4 Verificaciones Adicionales

Notas: Todas las máquinas internas deben poder comunicarse libremente entre sí. Recomendamos usar conexiones SSL (HTTPS); HTTP es compatible durante las PoC.

​

Arquitectura General

​

Diagrama de Arquitectura – On-Premise

​

Flujo de arquitectura de despliegue para despliegue en AWS Cloud