Künstlichen Intelligenz: Systeme & Infrastrukturen
Künstliche Intelligenz hat sich im Hochleistungsrechnen etabliert und bietet den Wissenschaften viele neue Methoden zur Auswertung von Daten. Wir stellen dafür die LRZ AI Systems zur Verfügung, hosten KI-Plattformen von Partnern und evaluieren innovative KI-Chips für den potenziellen Einsatz in der Forschung.
Von den Natur- bis hin zu den Geisteswissenschaften: Die Künstliche Intelligenz (KI) ist heute interdisziplinär im Dauereinsatz. Mit ihren Methoden können Big Data umfassend analysiert und neu berechnet werden. KI ergänzt außerdem die Anwendungsmethoden im Bereich Supercomputing und erweitert klassische Simulationen um statistische Datenauswertungen, wo Mathematik und Numerik noch an Grenzen stoßen. Mit seinen LRZ AI Systems bietet das LRZ Forschenden leistungsstarke Cluster mit Graphics Processing Units (GPU).
Noch mehr Möglichkeiten entstehen durch starke Partnerschaften: BayernKI, die bayerische KI IT-Infrastruktur und die europäische AI Factory HammerHAI bieten zusätzliche KI-Ressourcen, außerdem bereichern sie das Angebot von Schulungen und Workshops. Nicht zuletzt verbessern Partnerschaften mit dem Munich Center for Machine Learning (MCML) und mit dem Deutschen Zentrum für Luft- und Raumfahrt (DLR) das KI-Angebot und auch die Erfahrungen rund um KI.
Die neue Technologie entwickelt sich dynamisch weiter, doch der Energiebedarf von KI ist sehr hoch, außerdem arbeiten KI-Modelle oft nicht zuverlässig: So stellen sich Forschungsfragen, für die das LRZ zusammen mit renommierten und internationalen Einrichtungen Antworten sucht.
Unsere Mission: Forschung schneller zum Wissen zu bringen
Messwerte analysieren, Modelle entwickeln, Simulationen berechnen: Wenn die Forschung ihre Beobachtungen effizient verarbeiten kann, steigt unser aller Wissen schneller an. Und können wir die Herausforderungen der Gegenwart besser lösen. Daher stellen wir Wissenschaftlerinnen und Forschenden nicht nur die leistungsstarke Technik und die innovativen Werkzeuge bereit, damit sie die Zeit von Forschung zum Wissen weiter verkürzen können. Sondern setzen vor allem auf persönliche Unterstützung sowie auf ein umfassendes, aktuelles Schulungsprogramm: Am LRZ können Sie Programmiersprachen ebenso lernen wie den Umgang mit Hochleistungs- und KI-Systemen. Und selbstverständlich optimieren LRZ-Spezialistinnen kontinuierlich das Angebot an Rechenleistung, die Infrastruktur fürs Datenmanagement sowie die Benutzerfreundlichkeit von Technik und Werkzeugen.
Von Mustererkennung bis zum Sprachmodell: KI-Technik am LRZ
LRZ AI Systems
Die LRZ AI Systems bestehen aus unterschiedlichen, leistungsstarken Cluster-Segmenten mit Graphics Processing Units (GPU) z.B. von NVIDIA. Das LRZ stellt dazu einen praktischen Software Stack zum Entwickeln eigener Modelle sowie bewährte Data Sets und KI-Applikationen zur Verfügung.
Cerebras CS-2
Speziell für die Arbeit mit und für das Training von großen Sprachmodellen hat Cerebras Systems einen Chip entwickelt: Die Wafer Scale Engine 2 (WSE-2). Dieser ist so groß wie eine Pizzaschachtel und beinhaltet 2,6 Billionen Transistoren, 850.000 Rechenkerne sowie rund 40 Gigabyte schnellen, statischen Hauptspeicher. Beim Arbeiten mit Large Language Models (LLM) können hier Daten fließen, Ergebnisse zwischengespeichert und erneut berechnet werden. Am LRZ wird zusammen mit Forschenden ein CS-2 System mit der WSE auf seinen potenziellen Einsatz in der Wissenschaft evaluiert.
Dynamischer Datenfluss
KI braucht nicht nur leistungsstarke Rechner, sondern vor allem auch flexible Speichersysteme. Egal ob Computer Vision oder Sprachmodell – wer mit KI arbeitet, muss KI-Systeme für ihre Aufgaben vorbereiten. Das Training läuft iterativ oder im Batch-Modus, wechselt von Berechnung oder Analyse zum Speichern von Zwischenergebnissen. Für diese Arbeitsschritte bieten die LRZ AI Systems u.a. einen interaktiven Web-Server, außerdem können sie mit dem Data Storage System (DSS) sowie dem LRZ Cloud Storage verbunden werden. So entsteht ein flexibles, skalierbares Umfeld für unterschiedlichste Aufgaben mit Big Data
-
Sprachmodelle für Proteincodes
BioinformatikSprachmodelle helfen, den Code des Lebens zu entschlüsseln. Im Rost-Lab der TUM setzen Bioinformatikerinnen schon seit Längerem auf Large Language Models (LLM), wenn sie Proteinsequenzen analysieren. Proteine funktionieren nämlich ähnlich wie menschliche Sprache, Sequenzen bauen sich auf wie Wörter und Sätze. Für ihre Analysen haben die Forschenden Sprachmodelle auf dem spezialisierten CS-2-System von Cerebras mit Proteincode trainiert und damit die Grundlagen geschaffen für die Entschlüsselung sowie für die Entwicklung neuer Materialien mit Proteinen.
-
KI plus HPC
Surrogat-Modelle für's SupercomputingKI bereichert das klassische HPC mit neuen, statistischen Methoden. In Simulationen ergänzt KI zum Beispiel Daten und Werte, die mathematisch (noch) nicht zu berechnen sind oder die nur höchst aufwändig einzusammeln sind. Mit Hilfe von KI können in kürzerer Zeit zudem mehr Varianten einer Simulation erstellt werden. Folglich setzen sich Surrogat- oder Ersatzmodelle durch, die klassische Simulationen erweitern und teilweise sogar verbessern helfen.
-
Hassreden entfernen
Community ManagementSocial Communities stehen vor dem Problem, Inhalte moderieren, gefälschte Inhalte oder gar Hass herauszufiltern und zu löschen. Am Beispiel dieser Aufgabe hat ein LRZ-Team unterschiedliche Technologien verglichen: Sie trainierten das gleiche Sprachmodelle auf einem GPU-Cluster sowie auf dem Cerebras-System. Ergebnis: Cerebras erledigt solche Tasks deutlich schneller.
-
Eine starke Verbindung
terrabyte High Performance Data Analytics PlatformEine starke Verbindung: Mit dem Deutschen Zentrum für Luft- und Raumfahrt (DLR) baute das LRZ die Hochleistungsplattform für Datenanalyse terrabyte auf. Sie ist in Garching platziert und über eine schnelle Datenverbindung direkt mit dem DLR-Archiv verbunden, das seit Jahrzehnten Satellitendaten speichert. So öffnete sich den Natur- und Umweltwissenschaften in Bayern ein wahrer Datenschatz mit praktischen KI-Tools für die Forschung. Mit Hilfe von terrabyte entstehen jetzt Kontrollsysteme für die Überwachung von Wäldern und Natur, aber auch KI-Modelle zur Interpretation und Auswertung von LiDAR und Rasterdaten.
Starke KI Partnerschaften
BayernKI
KI-Methoden und -Modelle in Bayern erforschen und entwickeln: Zuerst ließ der Freistaat im Rahmen seiner Hightech Agenda rund 130 KI-Professuren einrichten, dann folgte BayernKI: Diese leistungsstarke Infrastruktur ist am LRZ sowie am Erlangen National High Performance Computing Center (NHR@FAU) untergebracht und durch eine schnelle Datenleitung verbunden. Hier bekommen Forschende aller Disziplinen schnellen und flexibel skalierbaren Zugang zu KI-Technik.
HammerHAI
EuroHPC Joint Undertaking fördert eine KI Factory in Deutschland, an der das LRZ beteiligt ist: HammerHAI soll den Bedarf an Rechenressourcen für KI-Methoden in Forschung, Industrie und im öffentlichen Sektor decken. Dafür baut das Höchstleistungs-Rechenzentrum Stuttgart mit LRZ und Forschungsinstituten eine KI-optimierte Supercomputing-Infrastruktur sowie Support auf. Das LRZ berät Nutzer:innen und bietet Schulungen für den Umgang mit KI.
MCML
Mit dem Munich Center for Machine Learning (MCML) ist das LRZ nicht nur durch das LRZ-Direktorium eng verbunden, sondern durch das Hosting der KI-Technologie für das MCML. Diese ist ähnlich aufgebaut wie die LRZ AI Systems und können bei Bedarf schnell miteinander verbunden werden, sollte mehr Rechenkraft für KI-Anwendungen gefragt sein.
Trillion Paramter Konsortium
Vertrauenswürdig sollten sie sein, möglichst vielseitig einsetzbar und nützlich für die Forschung: Das ist, wenn es um Anwendungen der KI geht noch Zukunftsmusik. Das Trillion Parameter Consortium (TPC) wurde in den USA vom Argonne National Lab angestoßen, bringt an die 60 Forschungsinstitutionen aus aller Welt zusammen, um zuverlässige, generative KI-Modelle für die Wissenschaft zu entwickeln.
News aus dem LRZ Big Data & AI Team
-
KI & Big DataBig Data & KI11.02.2025Startschuss für BayernKI
Mit BayernKI bieten LRZ und NHR@FAU schnellen und flexibel skalierbaren Zugang zu leistungsstarker Infrastruktur.
-
SupercomputingFuture Computing13.12.2024HPE baut den nächsten Supercomputer am LRZ
Der neue Supercomputer Blue Lion ist Teil der nationalen Infrastruktur für Höchstleistungsrechnen des Gauss Centre for…
-
KI & Big DataBig Data & KI10.12.2024Mit neuer Technik gegen Hassreden
Mit dem CS-2-System von Cerebras können KI-Modelle zur Erkennung von Hassrede auf Social Media-Plattformen schneller…
KI-Forschungsprojekte am LRZ
Am LRZ erforschen wir Computer- und Speichertechnologien sowie Internet-Tools. Mit Partnern entwickeln wir Technologien fürs Future Computing, für energie-effizientes Rechnen und IT-Security, außerdem Tools für die Datenanalyse und zum Aufbau von Systemen der Künstlichen Intelligenz. Hier finden Sie eine Auswahl unserer KI-Projekte.
-
KI & Big DataBig Data & KIHammerHAI
HammerHAI (Hybrid and Advanced Machine Learning Platform for Manufacturing, Engineering, And Research @ HLRS) will…
-
KI & Big DataTrusted Research EnvironmentsDigiMed Bayern
DigiMed Bayern's goal is to guide Bavaria with a flagship project into this medicine of the future.
-
KI & Big DataBig Data & KIRIS@LRZ
Am LRZ wird ein Forschungsinformationssystem (RIS) auf der Basis der Anwendung 'Bay.FIS' (HSWT) entwickelt.
Ihr Einstieg in die Welt der KI
Das LRZ unterstützt Forschende nicht nur mit KI-Technologie und -Applikationen, vor allem beraten und unterstützen wir Sie bei der Sammlung und Verarbeitung von Daten: Nehmen Sie Kontakt zum LRZ-Team Big Data & AI auf, wenn Sie wissen wollen, wie Sie selbst größte Datensätze vorbereiten, harmonisieren und schließlich auf LRZ implementieren wollen. Sie können außerdem sicher sein, dass wir zu den Ressourcen bringen, die am besten zu Ihren KI-Projekten passen.
