Schnelles Skalieren von Online-Speicher, um über 1 Milliarde ChatGPT‑Nutzer zu bedienen (Teil II)
· Quelle: OpenAI Blog
OpenAI hat in seinem Blog die Schritte beschrieben, die es unternommen hat, um die Online‑Speicherkapazität von ChatGPT, das über eine Milliarde Nutzer verfügt, zu erweitern. Der Fokus lag dabei auf der Plattform „Habitat“, die drei wesentliche Verbesserungen erhielt. Erstens wurde eine robuste Multitenancy‑Architektur eingeführt, die es verschiedenen Instanzen der Anwendung ermöglicht, dieselben Ressourcen zu teilen, ohne sich gegenseitig zu stören, und dabei Isolation sowie Sicherheit gewährleistet. Zweitens wurde ein globaler Cache‑Mechanismus implementiert, der die am häufigsten angeforderten Daten vorübergehend an Standorten in der Nähe der Nutzer speichert, wodurch die Latenz reduziert und die Last auf den zentralen Servern verringert wird. Drittens stützt sich die Lösung auf Azure Cosmos DB, eine verteilte Datenbank, die hohe Verfügbarkeit und automatische Skalierbarkeit bietet. Durch die Kombination dieser Technologien meldete OpenAI einen zwölffachen Anstieg der Lesegeschwindigkeit, was zu schnelleren Antworten und einer flüssigeren Nutzererfahrung führt. Diese Optimierung ist entscheidend, weil sie es der ChatGPT‑Infrastruktur ermöglicht, nachhaltig zu wachsen und die Servicequalität trotz des raschen globalen Nachfrageanstiegs aufrechtzuerhalten.
Originalartikel lesen auf OpenAI Blog
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.