Az OpenAI titka: így turbózza a PostgreSQL a ChatGPT-t
Az OpenAI 800 millió felhasználónak szolgáltatja a ChatGPT-t és az API-platformját egyetlen elsődleges PostgreSQL-példányon keresztül. Nem használnak elosztott adatbázist vagy szeletelt rendszert: az összes írást egyetlen Azure PostgreSQL Flexible Server kezeli, míg közel 50 olvasóreplikával, több régióban oldják meg az olvasási igényeket. Ez a rendszer másodpercenként milliónyi lekérdezést kezel, 10–20 milliszekundumos maximális válaszidővel, 99,999%-os rendelkezésre állással.
Mire képes a PostgreSQL ilyen skálán?
A legtöbb nagyvállalat már jóval azelőtt elindulna az adatbázis-szeletelés vagy elosztott SQL-adatbázisok (például a YugabyteDB) irányába, mielőtt elérné ezt a felhasználói számot. Az OpenAI azonban más utat választott: célzott optimalizációkkal tolta ki a PostgreSQL határait, ahelyett, hogy idő előtt újratervezte volna a teljes rendszert.
Célzott fejlesztésekkel csökkentették a kapcsolatfelépítési időt 50 milliszekundumról 5 milliszekundumra, cache-zárolással megakadályozták a túlterhelő „thundering herd” jelenséget, és sebességkorlátozó (rate limiting) szabályokat vezettek be a különböző rétegekben – az alkalmazás-, a proxy- és a lekérdezésszinten is.
Később, a masszív növekedés ellenére, az OpenAI az új, írásigényes feladatokat eleve szeletelt rendszerekre, például az Azure Cosmos DB-re vitte, a régi adattáblák viszont maradhattak az optimalizált PostgreSQL-en.
Mitől működik ez ilyen hatékonnyan?
Míg az MI-alkalmazások többsége olvasásintenzív, időnként hirtelen nagy írási hullámokat is produkál. A PostgreSQL többverziós konkurenciakezelése nehézzé teheti a nagy mennyiségű írást, hiszen minden frissítés új rekordot hoz létre, feleslegesen duzzasztva az adatbázist és lassítva az olvasást.
Az OpenAI ezt a helyzetet nem próbálta meg erővel kijavítani – ehelyett ehhez igazította a stratégiáját. A nagy írásigényű rétegeket fokozatosan kivitte máshová, a tipikusan olvasásközpontú részeket viszont a lehető legtovább tartotta PostgreSQL-en.
Megemlíthető továbbá, hogy az OpenAI fontos üzemeltetési szabályokat vezetett be: például szigorúan tiltja a táblák teljes újraírását jelentő sémamódosításokat; minden ilyen műveletnek 5 másodperc alatt végbe kell mennie. Hosszú lekérdezéseket automatikusan megszakítanak, és a háttértöltéseket olyan mértékben korlátozzák, hogy egyes folyamatok akár egy hétig is eltarthatnak.
Következésképpen nem mindig a radikális újratervezés a válasz a skálázási problémákra. A lényeg a kritikus szűk keresztmetszetek felismerése, a bevált infrastruktúra optimalizálása, és csak szükség esetén kell speciális alrendszerekre váltani. Az OpenAI példája azt mutatja, hogy megfelelő fegyelemmel és céltudatos finomhangolással akár egyetlen PostgreSQL-példány is elképesztő terhelést bírhat el.
2025, adminboss, venturebeat.com alapján
filózó
Te is kitoltad volna a meglévő rendszert optimalizációkkal, vagy inkább újraépítetted volna?
Szerinted mikor érdemes radikális váltás mellett dönteni?
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Between Dates Calendar Math (iPhone/iPad)A Between Days alkalmazás segítségével egyszerűen és gyorsan meghatározható, hány nap van két dátum között...
📱 A Google ismét újat mutat a Pixel okostelefonok világában – mostantól az eszközökön futó mesterséges intelligencia még erősebbé teszi a mobilokat, úgy, hogy közben védi a felhasználók adatait...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Between Dates Calendar Math (iPhone/iPad)A Between Days alkalmazás egyszerű és gyors megoldást kínál két dátum közötti napok kiszámítására...
Az Észak-Minnesotában pusztító erdőtüzek füstje hamarosan elérheti az Egyesült Államok északkeleti nagyvárosait, többek között Detroitot, Milwaukee-t, Clevelandet, Philadelphiát és New Yorkot...
A Minnesotai Egyetem laboratóriumában újszerű biológiai eredmény született: egy aprócska SpudCell nevű képződmény képes táplálkozni, növekedni, versengeni, osztódni és lemásolni önmagát – vagyis szinte mindent tud, amit egy élő sejt is...
A Google Képek (Google Images) megújult külsőt kapott: mostantól személyre szabott galériákat kínál a felhasználóknak, így még könnyebben fedezhetik fel az őket érdeklő képeket...
A Google DeepMind vezére, Demis Hassabis szerint az új generációs mesterséges intelligencia egyre komolyabb veszélyeket rejt magában, például a kiberbiztonság és a biológiai fenyegetések terén...
💊 Fontos kérdés, hogy meg lehet-e állítani vagy lassítani az Alzheimer-kór lefolyását, hiszen a demencia legfőbb oka, az Alzheimer-kór, világszerte rengeteg embert érint...
🚀 Sikeresen megérkezett kedden a Nemzetközi Űrállomásra egy amerikai–orosz személyzet, miután a kazahsztáni Bajkonurból indultak a Roszkoszmosz által üzemeltetett Szojuz MS-29 fedélzetén...
🔒 Az informatika egyik legfontosabb biztonsági eleme, a Secure Boot, már csaknem tíz éve lényegében védtelenné vált – és ezt eddig senki sem vette észre...
Bár a csípős paprika számos kultúra elválaszthatatlan része, és egyes laboratóriumi kísérletek a bennük található vegyületeket, például a kapszaicint gyulladáscsökkentőnek vagy akár daganatellenesnek mutatják, az utóbbi évek humán kutatásai nem ennyire egyértelműek...
Április 6-án négy űrhajós indult el az Artemis II misszió keretében az Orion űrhajóval, és körülbelül 40 percig teljesen eltűntek a Föld látóteréből...
💼 Májusban a Meta megvált dolgozóinak 10 százalékától, közel 8 000 alkalmazottat küldött el, ami jelentős átszervezéssel járt a vállalat MI-re és adatközpontokra irányuló fejlesztései miatt...
Időutazás egyetlen napon: Jeruzsálem falainak áttörésétől 🏰 a Rosetta-kő 🗿 megtalálásán és Napoleon 🚢 megadásán át a Grunwaldnál vívott döntő ütközetig ⚔️, sőt a modern korszakban a törökországi puccskísérletig 🇹🇷 és a Mozilla alapításáig 🦊...
Tipikus eset, amikor egy ismert gyógyszer egészen váratlan előnyöket kínál. A GLP-1 típusú szerek, mint az Ozempic, a Wegovy vagy a Rybelsus, eredetileg a fogyás, a jobb vércukorszint-szabályozás és a szívbetegségek kockázatának csökkentése miatt váltak népszerűvé...
Indiai kutatók a világ eddigi legrészletesebb, háromdimenziós agytörzs-atlaszát hozták létre, amelyben MRI-felvételeket több mint 500 mikroszkópos szövetrészlettel kapcsoltak össze...
Többek között különleges eredményre jutottak a kutatók: a Tejútrendszer középpontjához közel egy óriási gázfelhőben felfedeztek egy ritka cukorfélét, az eritrózt, amely nemcsak málnában, hanem barnító krémekben is megtalálható...
Ami kezdetben ártalmatlannak tűnt, most minden régi T-Mobile-előfizető számára valódi változás: a társaság e héttől kezdve automatikusan átsorolja a 10–15 éves tarifákat – például a Simple Choice, T-Mobile One, One Plus, a Magenta családhoz tartozó, valamint a Sprintből áthozott régi csomagokat – modernebb tarifákra...
A legnagyobb kriptovaluták teljesítménye az elmúlt 24 órában jelentősen visszaesett, miután egyre többen valószínűsítik, hogy az amerikai jegybank akár már júliusban kamatemelés mellett dönt...
🤔 A mesterséges intelligencia kutatása 75 éve követi Alan Turing útmutatását, aki két alapvető feltételezést tett: az intelligencia létrehozható szoftverből, függetlenül a testtől, és hogy egy gép intelligensnek számít, ha sikerrel utánozni tudja az embert, például egy beszélgetés során...
