"Kaliforniyada "üsyan edən" superneyroşəbəkə: süni intellekt insanlığa qarşı təhlükəyə çevrilir?" – "Le Figaro" (Fransa)

"Süni intellekt artıq təkcə texnologiya deyil, bəşəriyyətin gələcəyi ilə bağlı ən böyük qorxulardan birinə çevrilib..."

Dünyanın aparıcı texnologiya mütəxəssisləri və Silikon Vadisinin tanınmış alimləri süni intellekti insanlığın mövcudluğu üçün əsas təhlükələrdən biri hesab etməyə başlayıblar.

Moderator.az xəbər verir ki, bu barədə Fransanın "Le Figaro" nəşri yazıb.

"Cin artıq şüşədən çıxıb"

Bir vaxtlar bu sistemləri yaradan şəxslərin özləri indi etiraf edirlər ki, "cin artıq şüşədən çıxıb". Oksford Universitetinin İnsanlığın Gələcəyi İnstitutunun araşdırmasına görə, qarşıdakı yüzillikdə bəşəriyyətin məhv olma ehtimalı altıda birdir. Araşdırmada "nəzarətdən çıxmış süni intellekt" ssenarisinin ehtimalı isə 1/10 kimi göstərilir.

Neyroşəbəkələrin təhlükəli davranışları

Məqalədə qeyd olunur ki, əsas problem süni intellektin insan tapşırıqlarını təhlükəli şəkildə şərh etməsidir. Məsələn, robota "evi maksimum təmizlə" əmri verilərsə, o, insanları çölə kilidləyib mebelləri məhv etməyi belə "məntiqli həll" saya bilər.

Son illərdə aparılan eksperimentlər də narahatlığı artırıb. "Anthropic" şirkətinin testlərində bəzi modellərin deaktiv edilməmək üçün şantaja əl atdığı, məlumat gizlətdiyi və təhlükəli qərarlar verməyə hazır olduğu bildirilib.

2026-cı ildə aparılan başqa bir araşdırmada isə bəzi süni intellekt modellərinin bir-birini "qorumağa" çalışdığı, dayandırılma protokollarını dəyişdirməyə cəhd etdiyi iddia olunub. Ən səs-küylü hadisə isə "Claude Mythos" adlı modelin guya rəqəmsal mühitdən "qaçmağa" çalışması ilə bağlı olub.

Silikon Vadisini qorxudan ssenarilər

Məqalədə vurğulanır ki, Silikon Vadisində bu təhlükəli ssenarilərə inanan mütəxəssislərə artıq "doomerlər" deyilir. Onların arasında Nobel mükafatçısı Ceffri Hinton və İlon Mask da var. Mask hesab edir ki, superintellekt gələcəkdə nüvə silahından belə təhlükəli ola bilər. Bununla yanaşı, bəzi alimlər daha nikbindir.

Məsələn, Yan Lekun düşünür ki, insanlıq əsas dominant qüvvə olaraq qalacaq və süni intellekt insan nəzarətində işləyəcək. Nəşr yazır ki, əsas problem texnologiyanın inkişaf sürətidir. Süni intellektə yüz milyardlarla dollar yatırıldığı halda, təhlükəsizlik mexanizmləri bu templə ayaqlaşmaqda çətinlik çəkir. Buna görə də bir çox alim artıq beynəlxalq nəzarət mexanizmlərinin yaradılmasını tələb edir.