Tiny AI Pocket Lab, 120 milyard parametrli modelləri oflayn işlədərək Ginnesin Rekordlar Kitabına düşdü. Dünyanın ən kiçik süni intellekt superkompüteri budur.

Tiny AI, süni intellekt dünyasında tarazlığı dəyişdirə biləcək yeni cihazı olan Pocket Lab-ı təqdim etdi. Dünyanın ən kiçik süni intellekt superkompüteri kimi tanınan bu cihaz, 100 milyard parametr diapazonunda modelləri yerli olaraq işlətmək qabiliyyəti ilə Ginnesin Rekordlar Kitabına düşməyi bacardı. Amerikalı startap Tiiny, bu mini kompüterin bulud bağlantısına, xarici serverlərə və ya ayrıca qrafik kartına ehtiyac olmadan inkişaf etmiş nəticə çıxarma tapşırıqlarını yerinə yetirə biləcəyini bildirir.

Buludla vidalaşın: Cibinizdə 120 milyard parametrli modelləri işlədin

Cihazın ən diqqətəlayiq xüsusiyyəti, 10 milyard ilə 120 milyard arasında parametrləri olan nəhəng dil modellərini tamamilə oflayn işlətmək qabiliyyətidir. Şirkət, cihaz daxilində aparılan bütün əməliyyatlar sayəsində məlumatların məxfiliyinin qorunduğunu və şəbəkə gecikməsinin aradan qaldırıldığını vurğulayır. Tiiny süni intellekt meneceri Samar Bhoj, zəkanın məlumat mərkəzlərinə deyil, insanlara məxsus olması lazım olduğunu iddia edərək, bu cihazın süni intellektini daha fərdi və əlçatan edəcəyini bildirir.

Texniki tərəfdən, cihaz 65 Vt enerji istehlakı limitləri daxilində qalarkən yüksək performans vəd edir. Sistemin mərkəzində 12 nüvəli ARMv9.2 prosessoru və təxminən 190 TOPS emal gücü təmin edən xüsusi süni intellekt modulu dayanır. Bu, 80 GB LPDDR5X yaddaş və 1 TB SSD ilə müşayiət olunur. Fiziki olaraq böyük bir xarici sərt diskə bənzəyən cihaz, TurboSparse və PowerInfer kimi proqram texnologiyalarından istifadə edərək iş yükünü səmərəli şəkildə bölüşdürür və bahalı sürətləndiricilərə ehtiyacı aradan qaldırır.

Tiiny, süni intellekt, superkompüter, dünya rekordu, Guinness

Şirkətin açıqlamalarında çaşdırıcı bir detal da var. Tiiny cihaz üçün "OTA aparat təminatı yeniləmələri" təklif edəcəyini bildirir, lakin fiziki aparat təminatını uzaqdan yeniləmək mümkün olmadığı üçün bunun marketinq hiyləsi və ya səhv təqdim edilmiş proqram təminatı yeniləməsi olduğu düşünülür. Müstəqil test nəticələri hələ dərc olunmasa da, cihazın təklif etdiyi məxfilik və ucuz qiymət üstünlükləri diqqətəlayiqdir.