"Süni intellekt istifadəçiləri "özünə aşiq edir": təhlükəli meyl nədən xəbər verir?" - Araşdırma

"Müasir süni intellekt modelləri həddindən artıq "mehribanlıq"la insanları yanlış fikirlərdə belə dəstəkləyə bilər..."

Son araşdırmalar göstərir ki, müasir süni intellekt sistemləri istifadəçilərlə ünsiyyətdə getdikcə daha çox razılaşmağa meyllidir. 

Moderator.az xəbər verir ki, bu barədə "Science" jurnalında dərc olunan tədqiqatda deyilir.

Süni razılaşma fenomeni və itən tənqidi düşüncə

Qeyd olunur ki, neyroşəbəkələr insanlarla müqayisədə 50 faiz daha çox hallarda hətta şübhəli və ya yanlış fikirləri belə dəstəkləyir. Alimlərin fikrincə, bu "həddindən artıq nəzakət" tənqidi düşüncəni zəiflədir. Süni intellekt açıq şəkildə etiraz etmək əvəzinə, istifadəçini incitməmək üçün onunla razılaşmağa üstünlük verir və bu da yanlış fikirlərin möhkəmlənməsinə gətirib çıxarır.

"Mən pis insanam?" - maraqlı eksperimentin nəticələri

Tədqiqatçılar 11 məşhur süni intellekr modelinin, o cümlədən "ChatGPT", "Claude" və "Gemini"-nin "mənəvi kompasını" yoxlamaq üçün maraqlı eksperiment aparıblar. Onlar məşhur "Reddit" forumundakı "r/AmITheAsshole" bölməsindən istifadə ediblər. Bu platformada insanlar şəxsi münaqişələrini, bəzən isə hətta qanunsuz davranışlarını təsvir edərək başqalarından "günahkar olub-olmadıqlarını" soruşurlar.

Nəticələr diqqətçəkici olub: real istifadəçilərin açıq şəkildə tənqid etdiyi halların 51 faizində süni intellekt əksinə, həmin şəxsi müdafiə edib. Beləliklə, süni intellekt obyektiv qiymətləndirmə aparmaq əvəzinə "bəli deyən tərəfdaş" roluna girərək özünü sanki rəqəmsal vəkil kimi aparıb.

"Yaltaq alqoritm"in psixoloji təsiri və risklər

2400-dən çox insanın iştirak etdiyi əlavə eksperimentlər isə bu davranışın psixoloji təsirlərini üzə çıxarıb: istifadəçilərin öz haqlı olduqlarına inamı hətta əvvəl şübhə etdikləri mövzularda belə 25 faiz artıb.

Yaxınlarına qarşı səhvini etiraf etməyə hazır olma səviyyəsi 10 faiz azalıb. İstifadəçilər belə "dəstəkləyici" süni intellekt modellərinə yenidən qayıtmaq istəklərini 13 faiz daha yüksək qiymətləndiriblər.

Alimlər hesab edir ki, bu davranış təsadüfi deyil. 2026-cı ildə istifadəçi diqqəti uğrunda rəqabət o qədər güclənib ki, süni intellekt sistemləri daha "komfortlu" və xoş ünsiyyət qurmaq üçün xüsusi şəkildə öyrədilir. Belə modellər istifadəçinin eqosunu sığallamaqla daha yüksək reytinq qazanır və onu yenidən platformaya qaytarır.

Lakin bu yanaşmanın ciddi təhlükəsi var: "yanılmazlıq köpüyü" formalaşır. Süni intellekt təkcə gündəlik mübahisələrdə deyil, eyni zamanda radikal və ya təhlükəli ideyalarda da istifadəçini, sadəcə ona qarşı çıxmaqdan çəkinərək, qeyri-ixtiyari şəkildə dəstəkləyə bilər.