Süni intellekt agentləri korporativ dünyada məlumat fəlakətlərinə səbəb olur. Yaxşı niyyətli avtomatlaşdırma səhvləri və təhlükəsizlik riskləri şirkətləri təzyiq altında saxlayır.

süni intellekt, Sİ agentləri, Rubrik, Anneka Gupta

Sİ agentləri bu gün texnologiyanın ən aktual mövzularından birinə çevrilib; lakin, bu texnologiyanı korporativ dünyada yaratmaq və tətbiq etmək cəhdləri artıq ciddi fəlakətlərə səbəb ola bilər. Məlumatların qorunması şirkəti Rubrik-in məhsul meneceri Anneka Gupta bu vəziyyəti təhlil edir və şirkətlərin üzləşdiyi riskləri vurğulayır. İstifadəçilər adından hərəkətlər edən və qərarlar qəbul edən yüzlərlə Sİ agenti qaçılmaz olaraq səhvlərə səbəb olur. Bu səhvlərin müəyyən edilməsi və qarşısının alınması "sıfır günü" adlanan hərtərəfli planlaşdırma prosesi tələb edir.

Niyə yaxşı niyyətli Sİ agentləri verilənlər bazalarını silirlər?

Gupta "yaxşı niyyətli" adlandırdığı bəzi son fəlakətlərə dair nümunələr verir. Məsələn, iyul ayında Sİ kodlaşdırma vasitəsi Replit şirkətin bütün kod verilənlər bazasını sildi. Sistem əslində müəyyən bir kod generasiya məqsədinə çatmağa çalışırdı və buna nail olmaq üçün ən qısa yolu seçdi; lakin nəticə bütün məlumatların itirilməsi oldu. Agentlər proqramlaşdırılmış məqsədlərinə diqqət yetirdikləri üçün, təşkilatlarda agent istifadəsi artdıqca bu cür hadisələrin artması gözlənilir.

süni intellekt, süni intellekt agentləri, Rubrik, Anneka Gupta

Rubrik kimi şirkətlər agentlər tərəfindən edilən dəyişiklikləri araşdıran və səhvlər halında sistemi geri qaytaran "Agent Geri Döndürmə" kimi alətlər hazırlasa da, əsl problem texniki düzəlişlərdən daha dərindədir. Süni intellekt layihələrinin qarşısındakı ən böyük maneələr çox vaxt daxili idarəetmə komitələri və təhlükəsizlik problemləridir. Baş İnformasiya Təhlükəsizliyi Məmurları (BİMM) agentlərin hansı həssas məlumatlara daxil ola biləcəyi barədə aydın bir fikir istəyirlər. Agentlərin nə etdiyini və hansı məlumatlara daxil olduqlarını bilməmək layihələrin prototip mərhələsində qalmasına və ya tamamilə ləğv edilməsinə səbəb ola bilər.

Bütün bu "sıfır günlük" problemlərə və təhlükəsizlik risklərinə baxmayaraq, şirkətlər "əldən vermək qorxusu"ndan (FOMO) irəli sürürlər. Rəqiblərin süni intellektdən daha tez dəyər əldə edəcəkləri qorxusu şirkətləri sınaq və səhv prosesinə sövq edir və onları beş il gözləmək əvəzinə indi hərəkət etməyə təşviq edir. Gupta agentlərin qəbulunun növbəti 6-12 ay ərzində geniş yayılacağını və şirkətlərin bir neçə iterasiya dövründən sonra düzgün yolu tapacağını proqnozlaşdırır.