In Anwesenheit des bayerischen Digitalministers Fabian Mehring hat der globale Datencenter-Anbieter NTT Data ein KI-Labor in München Lohhof eröffnet. Firmen können dort in einem auf KI- und Hochleistungsanwendungen spezialisierten Rechenzentrum in sicherer, skalierbarer und souveräner Umgebung ihre KI-Anwendungen auf verschiedenen Plattformen ausprobieren.

Als Ausstattung bietet NTT Data das französische Modell Mistral mit Open Weights und als Plattform OpenShift von Red Hat. Die Infrastruktur kommt von Dell (AI Factory). Kunden können aber auch andere Umgebungen mitbringen oder eigene Racks aufstellen und nur Strom sowie Kühlung nutzen. Der Zugriff erfolgt wahlweise per Internet oder komplett vom Netz isoliert. Mit diesen Komponenten, so betont der Anbieter, soll die volle Souveränität über Daten und Anwendungen bei den Kunden erhalten bleiben.

Dazu stehen den Anwenderinnen und Anwendern beispielsweise Blackwell-Systeme von Nvidia in Dell Pro Max Workstations zur Verfügung. Eher an Open-Source-Projekte richten sich die AMD-Chips Instinct MI355X und EPYC. Für Inferenzen gibt es Axelera Europa auf Pro-Slim-Plus-Rechnern von Dell. Hinzu kommen weitere Komponenten für Netzwerke und Speicher (siehe Abbildung 1). Alle Teile lassen sich während einer Testphase durchwechseln.

Anwender können zwischen verschiedenen Hardware-Komponenten wechseln (Abb. 1).

(Bild: NTT Data)

Das Labor dient dem Testen, bevor KI-Anwendungen in eine produktive Umgebung gehen sollen. Viele Entwicklungsabteilungen hosten während der Entwicklung in house oder in der Cloud, haben oft aber wenig Möglichkeiten, ihre Anwendungen unter realen Hardware-Bedingungen auszuprobieren. Dies soll das neue Labor ermöglichen. Kunden können so Performance, Sicherheit und Governance bewerten, bewerten, um nicht Budget und Zeitplan zu überschreiten.

Die Gebäudetechnik des Rechenzentrums ist spezialisiert auf KI- und Hochleistungsanwendungen und verfügt über eine entsprechende Strom- und Kühlungsversorgung. NTT Data bietet zudem Consulting, Metrics, Referenzarchitekturen und KI-Agenten für das Provisionieren sowie den Betrieb.

Der Eingang zum Rechenzentrum von NTT Data in München Lohhof.

(Bild: Wolf Hosbach/iX)

(who)