"Süni intellekt bəşəriyyət üçün təhlükə törədir" - Ceffri Hintondan xəbərdarlıq

Bizi sosial şəbəkələrdən izləyin:

"Süni intellektin artıq nəzarətdən çıxa biləcəyi ciddi narahatlıq doğurur..."

Süni intellekt texnologiyalarının inkişafı artıq yarım əsrdən çox tarixə malikdir və bu sahənin baniləri bu gün onun gələcəyi ilə bağlı açıq şəkildə fikir bildirirlər. Bəziləri süni intellekti insanlıq üçün böyük fürsət hesab etsə də, digərləri ciddi təhlükələrdən danışır.

Moderator.az xəbər verir ki, bu barədə "business-gazeta.ru" nəşri yazıb.

Bu xəbərdarlıqların ən tanınmış səslərindən biri Nobel mükafatı laureatı və "süni intellekt sahəsində nüfuzıi alim" kimi tanınan Ceffri Hinton hesab olunur. O, əvvəl uzun müddət süni intellektin risklərini ciddi qəbul etmədiyini desə də, ChatGPT kimi sistemlərin ortaya çıxmasından sonra fikrini dəyişdiyini bildirir.

Süni intellekt sahəsinin inkişafı və Hintonun dönüş nöqtəsi

Süni intellekt anlayışı 1956-cı ildə Con Makkarti tərəfindən Dartmut universitetində irəli sürülüb. O vaxtdan bəri bu sahə sürətlə inkişaf edib və son 50 ildə əsas pionerlərdən biri Ceffri Hinton, Yuşua Bencio və Yan Lekun hesab olunur. Onlar 2018-ci ildə "Türi̇nq mükafatı" ilə təltif olunublar.

Hinton uzun illər "Google"-da çalışıb və neyron şəbəkələrin inkişafında əsas rol oynayıb. 2023-cü ildə şirkəti tərk edərək daha açıq şəkildə süni intellekt təhlükələri barədə danışmağa başlayıb. Alim etiraf edir ki, ChatGPT kimi sistemlərin ortaya çıxmasından sonra süni intellektin "sadəcə texnologiya" deyil, ciddi təhlükə potensialı olan bir güc olduğunu anlayıb.

"Nəzarətdən çıxan zəka" və Hintonun xəbərdarlıqları

Hintonun əsas narahatlığı ondan ibarətdir ki, süni intellekt sürətlə insan səviyyəsini keçə bilər və hətta gələcəkdə insan üzərində üstünlük qazana bilər. Onun fikrincə, süni intellekt artıq özünü qoruma elementləri göstərməyə başlayıb və gələcəkdə insan nəzarətindən tam çıxma ehtimalı var.

Alim bu riski atom bombası ilə müqayisə edir, hətta bəzi hallarda daha təhlükəli hesab edir.

Hinton bildirir ki, əgər belə sistemlər tam nəzarətsiz inkişaf etsə, insanlıq üçün 10-20 faiz aralığında "mövcudluq riski" yarana bilər.

O, həmçinin süni intellektin hərbi sahədə istifadəsinə diqqət çəkir: muxtar dronlar, hədəf seçən sistemlər və insan nəzarəti olmadan işləyən silahlar gələcək müharibələri daha təhlükəli edə bilər. Alim belə nəticəyə gəlir ki, süni intellekt nə qədər "ağıllı" olarsa, insanın onu idarə etməsi bir o qədər çətinləşəcək.

Qlobal yarış, kapitalizm və yeni təhlükələr

Hintonun fikrincə, süni intellektin sürətli inkişafının qarşısını almaq çətindir, çünki burada həm geosiyasi, həm də iqtisadi rəqabət var. ABŞ və Çin süni intellekt sahəsində liderlik uğrunda yarışır, böyük texnologiya şirkətləri isə maksimum gəlir əldə etmək üçün bu sistemləri daha da gücləndirir. Bu isə riskləri artırır.

Alim xəbərdarlıq edir ki, süni intellekt kiberhücumları daha effektiv edir, saxta məlumat yayılmasını asanlaşdırır və hətta bioloji silahların hazırlanmasını sürətləndirə bilər. Daha təhlükəli ehtimallardan biri isə odur ki, gələcəkdə superağıllı süni intellekt insanı lazımsız hesab edərək ona qarşı işləyə bilər.

Ceffri Hintonun qənaətinə görə, süni intellekt artıq sadəcə texnoloji inkişaf deyil, bəşəriyyət üçün strateji təhlükə potensialı daşıyan qlobal gücə çevrilir. O hesab edir ki, əgər bu proses nəzarətsiz davam etsə, nəticələri insanlıq üçün geri dönüşü olmayan ola bilər.