OpenAI-nin son araşdırması ChatGPT və digər dil modellərinin bəzən “uydurma” cavablar verməsinin səbəblərini təhlil edir. Tədqiqat göstərir ki, bu, sadəcə təlim səhvləri deyil, mətn generasiyasının riyazi təbiətindən qaynaqlanan qaçılmaz nəticədir. Hətta mükəmməl təlim məlumatları olsa belə, modellər söz proqnozlaşdırma mexanizmi və səhvlərin yığılması səbəbindən yanlış cavablar verə bilər.
Süni İntellekt Niyə Yanlış Cavablar Üretdirir?
Tədqiqat hallüsinasiyaların təlim alqoritmlərinin yan təsiri olmadığını, riyazi cəhətdən qaçılmaz olduğunu vurğulayır. Dil modelləri mətni ehtimallara əsasən bir-bir söz proqnozlaşdıraraq yaradır. Bu prosesdə səhvlər cümlə boyunca yığılır, xüsusən uzun cavablarda səhv ehtimalı qısa “bəli/xeyr” suallarına nisbətən iki dəfə çox olur. 2025-ci ilin sentyabrında OpenAI-nin rəsmi bloqunda dərc edilən məqalədə qeyd olunur ki, modellər əsasən statistik ehtimallarla işləyir və bu, onların dəqiqliyini məhdudlaşdırır.
Təlim Məlumatlarının Keyfiyyəti Niyə Önəmlidir?
Təlim zamanı model nə qədər az məlumat görürsə, səhv ehtimalı o qədər yüksək olur. Məsələn, məşhur şəxslərin doğum tarixləri təlim məlumatlarında yalnız 20% hallarda varsa, model bu sualların ən azı 20%-də səhv cavab verəcək. Bu, məlumat bazasının məhdudluğu ilə bağlıdır.
Qiymətləndirmə Tələsi
Google və OpenAI kimi platformaların mövcud qiymətləndirmə sistemləri modelləri qeyri-müəyyənlik əvəzinə təxmin etməyə sövq edir. Model “bilmirəm” dedikdə, səhv cavabla eyni bal alır, bu da təxmin etməni daha cəlbedici strategiyaya çevirir və hallüsinasiyaları artırır.
OpenAI-nin Təklif Etdiyi Həllər
OpenAI modellərin cavab verməzdən əvvəl öz inam səviyyəsini qiymətləndirməsini təklif edir. Məsələn, yalnız 75%-dən yüksək əminlikdə cavab verilsə, səhvlər azalacaq, çünki yanlış cavablar daha ciddi cəzalandırılır. Bu yanaşma hallüsinasiyaları minimuma endirsə də, istifadəçilər modellərin 30% hallarda “bilmirəm” deməsinə hazır olmaya bilər, çünki sürətli və inamlı cavablar gözlənilir.
Süni İntellektdə Qaçılmaz Gerçəklik
Araşdırma biznes motivlərinin sürətli və inamlı cavabları dəqiqlikdən üstün tutduğunu göstərir. Bu prioritetlər dəyişmədikcə, dil modellərində hallüsinasiyalar qaçılmaz olaraq qalacaq. OpenAI-nin son hesabatına görə, GPT-5 modelində bu problemi azaltmaq üçün yeni alqoritmlər sınaqdan keçirilir.
