Graphcore hat mit der Graphcloud eine neue Cloud-Computing-Lösung für KI-Anwendungen vorgestellt mit der Unternehmen KI-Compute-Ressourcen flexibel buchen und skalieren können, ohne gleich in eigene KI-Server investieren zu müssen. Zu Beginn stehen zwei Varianten mit 4 und 16 PetaFLOPS KI-Rechenleistung zur Verfügung. In den kommenden Monaten werden noch größere Scale-Out-Systeme hinzugefügt.
Zusammen mit Cirrascale Cloud Services hat Graphcore mit dem ersten öffentlich verfügbaren Mk2 IPU-POD Scale-Out-Cluster etwas völlig Neues für KI in der Cloud entwickelt, das eine einfache Möglichkeit bietet, Rechenkapazität nach Bedarf hinzuzufügen, ohne dass ein eigenes Rechenzentrum betrieben werden muss.
Die enormen Möglichkeiten, die KI bietet, einzigartige Herausforderungen für das Computing mit sich bringen. Die Größe der Modelle wächst schnell und eine immer bessere Genauigkeit wird gefordert. Wollen Kunden neueste Innovationen optimal nutzen, benötigen sie ein eng integriertes Hardware- und Softwaresystem, das speziell für KI entwickelt wurde.
Graphcloud ist ein sicherer und zuverlässiger Cloud-Service der IPU-POD-Produktserie, mit dem Kunden auf die Leistungsfähigkeit der Intelligence Processing Unit (IPU) von Graphcore zugreifen können, während sie von Experimenten über Proof-of-Concept- und Pilotprojekten hin zu größeren Fertigungssystemen skalieren.
Zum Start stehen zwei Graphcloud-Angebote bereit. In den kommenden Monaten werden größere Scale-Out-Systeme hinzugefügt:
- IPU-POD16 – mit 4 PetaFLOPS KI-Rechenleistung (16 GC200 IPUs in 4 IPU-M2000s)
- IPU-POD64 – mit 16 PetaFLOPS KI-Rechenleistung (64 GC200 IPUs in 16-IPU-M2000s)
Graphcloud-Systeminstanzen sind mit Poplar und Systemsoftware vorinstalliert. Beispielcode und Anwendungsbeispiele sind lokal für die in den Graphcore-Benchmarks genutzten Modelle verfügbar, einschließlich BERT, EfficientNet etc. Nutzer haben auch Zugriff auf umfassende Dokumentation, um einen schnellen Einstieg in mehrere Frameworks wie PyTorch und TensorFlow zu ermöglichen.
Nigel Toon, CEO von Graphcore: „Mit Graphcloud war es noch nie so einfach, unsere IPU zu nutzen – unabhängig davon, ob unsere Hardware und der Poplar-Software-Stack zum ersten Mal evaluiert oder KI-Rechenressourcen skaliert werden sollen.“
„Wir freuen uns, mit Cirrascale zusammenzuarbeiten, um Graphcloud noch bekannter zu machen. Neben unserem globalen Partnerprogramm, dem eigenen Vertrieb und technischen Support ist dies ein weiterer wichtiger Bestandteil des mittlerweile umfassenden Angebots von Graphcore.“