Google-un axtarış sisteminə inteqrasiya etdiyi AI Overviews funksiyası internetdə məşhur olan SCP Foundation adlı fantastik layihənin məzmununu real məlumatlarla qarışdırdığı üçün tənqid olunur. Məlumata görə, süni intellekt bəzi hallarda tamamilə uydurma olan SCP obyektlərini və hadisələrini həqiqi elmi faktlar kimi təqdim edir.

Problem nədən ibarətdir?

SCP Foundation internet istifadəçiləri tərəfindən yaradılmış kollektiv fantastik kainatdır. Burada müxtəlif “anomaliyalar”, qeyri-adi varlıqlar və hadisələr haqqında saxta hesabatlar paylaşılır. Layihə tamamilə bədii əsər xarakteri daşıyır. Lakin Google-un AI Overviews sistemi bu məzmunun kontekstini düzgün müəyyən edə bilmədiyi üçün bəzi hallarda onları real dünya məlumatları ilə eyni səviyyədə qiymətləndirir.

Araşdırmalara əsasən, sistem ən azı 20 fərqli SCP obyektini real varlıq kimi təqdim edib. İstifadəçilər axtarış nəticələrinin yuxarısında görünən süni intellekt cavablarına daha çox etibar etdiklərindən, bu cür səhvlər dezinformasiya riskini artırır.

Konkret nümunə

Xəbərdə qeyd olunur ki, SCP-426 adlı uydurma obyekt barədə sorğu verildikdə, AI sistemi həmin obyektin hekayəsini sanki real hadisə kimi təqdim edib. Halbuki bu məlumatlar yalnız SCP kainatının bədii süjetinin bir hissəsidir.

Google problemin həlli üzərində işləyir

Müşahidələr göstərir ki, Google bəzi sorğularda artıq “uydurma anomaliya” və ya buna bənzər xəbərdarlıq etiketləri əlavə etməyə başlayıb. Bu isə şirkətin problemdən xəbərdar olduğunu və alqoritmlərdə düzəlişlər etdiyini göstərir. Buna baxmayaraq, sistem hələ də bütün hallarda ardıcıl şəkildə işləyə bilmir və oxşar səhvlər davam edir.

Nəticə

Bu hadisə süni intellekt sistemlərinin əsas problemlərindən birini yenidən gündəmə gətirir: AI modelləri məlumatın mənbəyini və kontekstini həmişə düzgün qiymətləndirə bilmir. Nəticədə fantastik məzmun, satira və ya uydurma hekayələr bəzən real məlumat kimi təqdim oluna bilər. Ekspertlər istifadəçilərə AI tərəfindən təqdim olunan məlumatları əlavə mənbələrlə yoxlamağı tövsiyə edirlər.

SCP Foundation nədir?

SCP Foundation — istifadəçilərin yaratdığı, müxtəlif anomaliyalar və qeyri-adi obyektlər haqqında uydurma hesabatlardan ibarət məşhur internet fantastika layihəsidir.