Starter AI Bundle HPE: Die perfekte Testumgebung für AI-Workloads

Dieses Bundle ist die optimale Testumgebung für AI. Es erlaubt Ihnen, in einer kleinen AI-optimierten Umgebung Modelle zu testen und für spätere Integrationen bereitzustellen.

Der HPE ProLiant Server bildet die performante Hardware-Basis und ist mit zwei NVIDIA L4 Grafikkarten ausgestattet. Red Hat Enterprise Linux AI liefert ein AI-optimiertes Betriebssystem – inklusive InstructLab-Tools für die Modellanpassung und Inference Server für professionelle Modellbereitstellung. Ideal, um eigene LLMs lokal zu testen und als Inferenz-Endpoint bereitzustellen.

Konfigurationsdetails:

Compute

• 1 x HPE ProLiant DL360 Gen11 (inkl. 3 Jahre Support)

Software & Services

• 1 x Red Hat Enterprise Linux AI (inkl. 3 Jahre Support)

Vorteile auf einen Blick:

• Solide Nvidia-Grafikkarten

• AI-optimiertes RHEL-Image mit integriertem Red Hat AI Inference Server (vLLM-basiert, OpenAI-kompatibel)

• Validierte Open-Source-Modelle (IBM Granite) sofort einsetzbar

• InstructLab-Tools zur Modellanpassung

• Container-native mit GPU-optimierten Images für NVIDIA, Intel, AMD

• Einfaches Upgrade auf OpenShift AI für MLOps