Microsoft bruker Oracles infrastruktur for kunstig intelligens til Bing Conversational Search

I en pressemelding skriver Oracle:

Microsoft bruker Oracle Cloud Infrastructure (OCI) AI-infrastruktur, sammen med Microsoft Azure AI-infrastruktur, for inferens av AI-modeller som er optimalisert for å drive Microsoft Bing Conversational Search på daglig basis.

Ved å utnytte Oracle Interconnect for Microsoft Azure kan Microsoft bruke administrerte tjenester som Azure Kubernetes Service (AKS) til å orkestrere OCI Compute i stor skala for å støtte den økende etterspørselen etter Bing Conversational Search.

Tung infrastruktur

Bing Conversational Search krever kraftige klynger med datainfrastruktur som støtter evalueringen og analysen av søkeresultatene som utføres av Bings inferensmodell.

 – Generativ AI er et monumentalt teknologisk sprang, og Oracle gjør det mulig for Microsoft og tusenvis av andre selskaper å bygge og kjøre nye produkter med våre OCI AI-funksjoner, sier Karan Batta, direktør for Oracle Cloud Infrastructure.

– Ved å utvide samarbeidet med Microsoft kan vi bidra til å gi flere mennesker over hele verden nye opplevelser.

Økt hastighet

 – Microsoft Bing utnytter de nyeste fremskrittene innen kunstig intelligens for å gi mennesker over hele verden en dramatisk bedre søkeopplevelse, sier Divya Kumar, global markedssjef for søk og kunstig intelligens i Microsoft.

– Samarbeidet vårt med Oracle og bruken av Oracle Cloud Infrastructure sammen med vår Microsoft Azure AI-infrastruktur vil gi kundene økt tilgang og forbedre hastigheten på mange av søkeresultatene våre.

Inferensmodeller krever tusenvis av beregnings- og lagringsinstanser og titusenvis av GPU-er som kan operere parallelt som en enkelt superdatamaskin over et multiterabit-nettverk.

Om OCI Superclusters

OCI Superclusters omfatter OCI Compute Bare Metal-instanser, RDMA-klyngenettverk med svært lav latenstid og et utvalg av HPC-lagring. OCI Superclusters kan skalere opp til 4 096 OCI Compute Bare Metal-instanser med 32 768 A100 GPU-er eller 16 384 H100 GPU-er og petabyte med høyytelses filsystemlagring for effektiv behandling av massivt parallelle applikasjoner.