Skip to main content
Arrow Electronics, Inc.
Blue_UV_Lamp_Closeup
Artikel

HPE ProLiant Compute DL380a Gen12: håndgribelig privat AI

december 17, 2024

Proliant

HPE ProLiant Compute DL380a Gen12: håndgribelig privat AI

I de seneste år har AI været et af de mest omdiskuterede emner. Det har mest handlet om at forstå teknologien og dens potentiale, men måske bliver 2025 året, hvor vi går fra teori til praksis. AI er ikke længere en fluffy størrelse, men et værktøj med konkrete anvendelsesmuligheder.

HPE gør det muligt for alle former for virksomheder at implementere AI, uanset om de arbejder i cloud-miljøer eller har behov for on-premise-løsninger. Der er nemlig flere, der ikke kan eller ønsker at konsumere AI i clouden – for eksempel på grund af regulatoriske krav, behov for air-gapped netværk eller ønsket om at holde forretningskritiske data private.

Den nye HPE ProLiant DL380a Compute Gen12 kombinerer en ultraskalerbar arkitektur med den nyeste GPU-teknologi fra NVIDIA. Sammensætningen gør platformen ideel til alt fra træning af komplekse sprogmodeller til inferens i stor skala.

Til danske virksomheder: privat chatbot, kundesupport etc.

HPE ProLiant DL380a Gen12 er skabt til virksomheder, der vil implementere AI og har konkrete usecases såsom private chatbots på virksomhedens egen data, kundesupport, oversættelse og meget mere. Serveren har en stor spændvidde, og derfor kan den også håndtere en bred vifte af opgaver – både de virkelig tunge opgaver såsom at træne AI-modeller og de hurtigere opgaver såsom at bruge modellen til at give svar og resultater (inferens).

De avancerede processorer og grafikkort (NVIDIA H200 NVL GPU’er) giver serveren masser af performance, så den kan klare komplekse beregninger på rekordtid. Det er muligt at analysere enorme mængder data eller køre tunge AI-modeller op til 18 gange hurtigere end andre løsninger. Det betyder, at projekter, som tidligere tog dage, nu kan klares på få timer eller endda minutter.

 

Specifikationer for HPE ProLiant Compute DL380a Gen12

Processorer:

  • Op til 2 × Intel® Xeon® 6-processorer


GPU:

  • Op til 8 × NVIDIA® H200 NVL Tensor Core GPU'er


Performance:

  • 18x højere performance sammenlignet med NVIDIA A100
  • Op til 2x hurtigere inferenshastigheder end NVIDIA H100 NVL


Strømforsyning:

  • 6 dedikerede og redundante strømforsyninger til GPU’erne for effektivitet og pålidelighed

 

  

Håndteringen af AI – fra A til Å

Når man træner en AI-model, har man brug for store mængder data og massiv beregningskraft. Til gengæld kræver finjustering og inferens mindre kraft, men hastighed og skalerbarhed for at levere hurtige og præcise resultater.

Fordelen ved HPE ProLiant DL380a Gen12 er, at den kan håndtere hele spektret af AI-opgaver, hvilket gør den til en fleksibel løsning for virksomheder med forskellige behov. Den er især effektiv til at arbejde med store sprogmodeller (LLMs), der kræver avancerede metoder som Retrieval-Augmented Generation (RAG). RAG gør det muligt at hente relevante data og kombinere dem med tekstgenerering, hvilket sikrer mere præcise og kontekstuelle resultater. Det betyder enormt meget for brugen af AI, at man kan stole på resultaterne, og der ikke opstår hallucinationer af data, og dermed at virksomheder kan bruge AI til at levere bedre og mere værdiskabende resultater.

 

Enkel administration af HPE ProLiant DL380a

HPE ProLiant DL380a Compute Gen12 har flere muligheder for administration og monitorering:

  • HPE iLO 6 giver sikker fjernadgang, så man kan konfigurere, opdatere og overvåge alle servere.
  • HPE OneView automatiserer IT-driften ved at integrere administration af servere, storage og netværk i ét samlet interface.
  • HPE GreenLake for Compute Ops Management giver en cloud-oplevelse til on-premise workloads. Det er nemt at overvåge og administrere hele compute-infrastrukturen, uanset hvor den er placeret.

Ved at implementere en af ovenstående værktøjer kan virksomheder få et større overblik og opnå mere effektiv udnyttelse af ressourcerne – både i datacenteret og på tværs af hybride miljøer.

 

Andre nyheder fra HPE