Lue tiivistelmäSulje
- OpenAI julkaisi uuden GPT-6 Astra Ultrafast -tekoälymalliversion.
- NVIDIAn Blackwell-arkkitehtuuria hyödyntävä malli on jopa 8 kertaa nopeaampi kuin Astra Standard.
- OpenAI käytti omia mallejaan Nvidian Blackwell- ja Rubin-ohjelmistoytimien optimointiin.
- Uutuus on saatavilla OpenAI API:ssa sekä valituille ChatGPT Work- ja Codex-käyttäjille.
OpenAI on tuonut kehittäjien ja yrityskäyttäjien saataville uuden GPT-6 Astra Ultrafast -tekoälymalliversion. Nvidian Blackwell-sukupolven tekoälykiihdyttimillä ajettava malli pystyy tuottamaan tekstiä ja koodia eli rahakkeita (tokeneita) parhaimmillaan jopa 8-kertaisella nopeudella verrattuna tavanomaiseen Astra Standard -tilaan.
Uusi Ultrafast-tila on suunniteltu erityisesti tietokoneohjelmointia ja monivaiheisia interaktiivisia tehtäviä suorittaville tekoälyagenteille. Kun malli tuottaa vastaukset murto-osassa entisestä ajasta, agenttien suorittamat testaus-, koodaus- ja työkalukutsusyklit nopeutuvat merkittävästi.
DigiNytin näkökulma: Uutinen osoittaa tekoälykehityksen siirtyneen kierrokseen, jossa tekoälymallit optimoivat itse Nvidian laitteisto-ohjelmistoja (Blackwell/Rubin). Tämä kehitys nopeuttaa koodausagenttien toimintaa ja pienentää konesaliajojen viivettä ilman laitteiston fyysistä vaihtamista.
Tekoäly optimoi itse omaa rautaansa
Mielenkiintoisena yksityiskohtana suorituskykyloikan taustalla on OpenAI:n ja Nvidian tiivis laitteisto- ja ohjelmistoyhteistyö. OpenAI on hyödyntänyt omia sisäisiä tekoälymallejaan Nvidian GPU-ohjelmistojen ja -ytimien (kernel) ohjelmointiin. Tämän ansiosta mallit osaavat optimoida suorituskykyä suoraan Nvidian nykyisillä Blackwell- sekä tulevilla Rubin-arkkitehtuurin siruilla.
Ajoajan ja viiveen minimointi on kriittistä laajoissa tekoälyjärjestelmissä, joissa agentit tekevät kymmeniä peräkkäisiä hakuja tai päätöksiä. Nvidian ohjelmoitava alusta mahdollistaa saman infrastruktuurin tehokkaan uusiokäytön niin koulutuksessa, päättelyssä (inference) kuin vahvistusoppimisessakin.
Saatavuus ja kehittäjäkäyttö
GPT-6 Astra Ultrafast on otettu käyttöön välittömästi OpenAI API -rajapinnan kautta kehittäjille. Lisäksi malli on tuotu saataville valituille ChatGPT Work- ja Codex-palvelun käyttäjille.
Nvidian ja OpenAI:n yhteistyö osoittaa, kuinka tekoälykehitys on siirtynyt vaiheeseen, jossa mallit eivät ainoastaan hyödynnä laitteistoa, vaan osallistuvat aktiivisesti sen ohjelmisto-optimointiin saavuttaakseen mahdollisimman pienen viiveen ja matalammat ajokustannukset.
Miksi tämä on merkittävää?
Viiveen pienentäminen ja 8-kertainen suorituskyky ovat kynnysehtoja toimiville tekoälyagenteille, jotka tekevät kymmeniä peräkkäisiä työkalukutsuja. Samalla OpenAI:n tapa käyttää tekoälyä Nvidian GPU-ytimien optimointiin osoittaa tekoälyraudan ja -ohjelmistojen integraation syvenevän nopeasti.
Lähde: NVIDIA Blog: How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
Tekoälyavusteinen sisältö: Artikkeli on tuotettu tekoälyä hyödyntäen alkuperäislähteen pohjalta.
Aihekeskus: Tekoäly
