«Autonomous Inc.» kompaniýasy «Brainy» atly täze iş stansiýasyny hödürledi. «Brainy» – bulut ulgamlaryna mätäç bolmazdan, emeli aň modellerini ýerli ýagdaýda işledip, türgenleşdirip bilýän kiçi ölçegli güýçli enjamdyr.
Adaty kompýuterlerden tapawutlylykda, «Brainy» sekiz sany «RTX 4090» wideokartasyny goldaýar we bir petaflopsdan ýokary öndürijiligi üpjün edýär.
Bu stansiýa bulut çözgütlerinden, GPU (wideokarta) nobatlaryndan, bulut hyzmatlarynyň sagatlaýyn töleglerinden garaşsyz işlemäge isleg bildirýän işläp düzüjiler üçin niýetlenýär. Gysgaça aýtsak, «Brainy» – kiçijik maglumat merkezi hökmünde hyzmat edýär. Ol uly dil modellerini (LLM) türgenleşdirmek, kompýuterli görüş wezipelerini ýerine ýetirmek, lukmançylyk maglumatlaryny seljermek, logistika işlerini optimizirlemek ýaly ugurlar üçin amatlydyr.
Ulgamda «PyTorch», «TensorFlow», «ONNX», «CUDA» we «TensorRT» ýaly giňden ulanylýan gurallar bilen işleşmek mümkinçiligi bar. Ulanyjy iki sany wideokarta bilen işe başlap, soňra islegine görä sekize çenli giňeldip bilýär. Bu aýratynlyk nähiliräk güýjüň gerekdigi barada dessin karar berip bilmeýän startaplar üçin örän peýdalydyr. Modelleri türgenleşdirmäge ýerli ýagdaýda başlap, soňra olary buluda ýa-da serwer toplumlaryna göçürmek hem mümkin.
«Brainy-niň» işläp düzüjileri gizlin maglumatlaryň goralmagy meselesine aýratyn üns berdiler. Bu bolsa şahsy ýa-da maliýe maglumatlary bilen işlenilende, maglumatlaryň ofisden daşary çykmajakdygyna doly ynam döredýär. Bu aýratynlyk, esasan-da, ABŞ we ÝB ýaly berk düzgünleriň hereket edýän bazarlary üçin, aýratyn ähmiýete eýedir.
«Autonomous» kompaniýasy «NVIDIA Inception» maksatnamasy bilen hyzmatdaşlykda ulanyjylara tehniki goldaw, okuw kurslary hem-de optimizasiýa gurallaryna elýeterlilik berýär.
Işläp düzüjileriň bellemegine görä, stansiýanyň özi arzan bolmasa-da, «Brainy-ni» ulanmak gymmatly bulut GPU hyzmatlaryna garanyňda ýylda müňlerçe dollar tygşytlamaga mümkinçilik berýär.
Ýeri gelende aýtsak, bu tehnologiýanyň bäsdeşleri hem bar. «Lambda Labs» kompaniýasy «A100» we «H100» çipleri esasyndaky çözgütler bilen, şeýle-de «Scan Computers» we «Digital Storm» ýaly kompaniýalar hem öz çözgütleri bilen bazarda öňe saýlanýarlar.
