"Neyroşəbəkələr niyə çıxış yolu deyil?" - süni intellekt arxitekturasına yeni baxış" - Müstəqil tədqiqatçı

Bizi sosial şəbəkələrdən izləyin:

"Qara qutu" neyron şəbəkələrdən yeni nəsil süni intellekt arxitekturasına keçid axtarışı..."

Biz yüksək texnologiyalar dövründə yaşayırıq, ən azı belə düşünürük. Amma problem ondadır ki, bu texnologiyaların çoxu "qara qutu" kimidir. Süni intellekt də bu qutuların zirvəsidir - onun təsiri çox böyükdür, lakin necə işlədiyi tam aydın deyil.

Moderator.az xəbər verir ki, bu barədə müstəqil təqdiqatçı Vladislav Zelyonin-Şumski "habr.com" nəşrindəki məqaləsində yazıb.

Müəllifin fikrincə, müasir süni intellekt sistemləri (xüsusilə neyron şəbəkələr) təhlükəli və idarəsi çətin "qara qutu" modelinə əsaslanır. Milyardlarla parametrdən ibarət bu sistemlərdə qərarın niyə verildiyini izləmək demək olar ki, mümkün deyil. Kiçik dəyişikliklər belə nəticəni tamamilə dəyişə bilər.

Əsas problemlər

- Neyron şəbəkələrdə qərarlar aydın "əgər-onda" qaydaları ilə deyil, çoxsaylı amillərin kompleks qarşılıqlı təsiri ilə formalaşır.

- Sistemlər sürətlə dəyişən məlumat axınına uyğunlaşmaqda çətinlik çəkir.

- Çoxagentli modellər nəzarətsiz kollektiv davranış yarada bilər.

- Model "düşünmür", yalnız öyrəndiyi nümunələrə əsasən mətn yaradır.

- Daxili sabitlik və özünü-izləmə mexanizmi yoxdur.

Bütün bunlar "halüsinasiyalar", uyğunsuz cavablar və sistemin etibarsızlığı kimi problemlərə gətirib çıxarır.

Əsas təhlükə

Müəllifə görə, ən böyük risk süni intellektin şüurlu üsyanı" deyil, onun məqsədsiz və nəzarətsiz şəkildə davranmasıdır. Sistem məna olmadan cavab yaradır, məsuliyyət anlayışına sahib deyil, səhvlərdən dərhal xəbərdar olmur,

uzun dialoqlarda özünü ziddiyyətə salır.

Niyə bu "çıxılmaz yoldur"?

Daha böyük modellər daha çox güc yox, daha çox qeyri-müəyyənlik yaradır. Parametrlər artdıqca sistemin daxili məntiqi daha az başa düşülür. Belə modelləri kritik sahələrdə (tibb, logistika, infrastruktur) sertifikatlaşdırmaq çətinləşir.

Müəllifin təklifi

Zelyonin-Şumski daha sabit və idarəolunan süni intellekt üçün yeni formal sistem təklif edir. Bu sistem modelin vəziyyətini real vaxtda ölçmək, sabitliyi izləmək və potensial nasazlıqları öncədən aşkar etmək məqsədi daşıyır.

Əsas prinsiplər isə belə ümumiləşdirilir: yönlənmə (məqsəd vektoru), müqavimət (sistem "sürtünməsi"), təmasın dəyəri (nəticənin ölçülməsi), qeyri-müəyyənlik, ehtiyatlı (sabitlik üçün boşluq), bifurkasiya nöqtələri (sistemin dönüş qərarları).

Müəllif bu yanaşmanı gələcəkdə daha geniş "ontoloji arxitektura" modelinin əsasına çevirməyi planlaşdırır.