BAKI, AzerVoice
İngiltərədə aparılan yeni bir araşdırma, süni intellektə əsaslanan söhbət botlarının bəzi istifadəçilərdə psixozu tətikləyə biləcəyini ortaya çıxarıb. Xüsusilə psixoloji cəhətdən həssas fərdlər üçün bu texnologiyanın reallıqla bağlı algıları pozaraq ciddi zehni sağlamlıq problemlərinə yol aça biləcəyi bildirilir.
Britaniyanın Milli Səhiyyə Xidməti (NHS) mütəxəssislərinin də qatıldığı tədqiqatda qeyd olunub ki, ChatGPT və oxşar böyük dil modelləri bəzi hallarda mövcud psixi simptomları gücləndirə və ya yeni psixotik epizodları başlada bilər.
"Söhbət botu psixozu" real təhlükə kimi dəyərləndirilir
King's College London universitetinin neyropsixiatri Hamilton Morrin, bu fenomeni "real bir olğu" adlandırıb. Morrin-in fikrincə, süni intellekt sistemlərinin istifadəçini təsdiqləyən, onunla qarşılıqlı əlaqəyə girən və davranışlarını təqlid edən təbiəti, psixozla əlaqəli zəif zehni strukturlarla təhlükəli şəkildə üst-üstə düşə bilər.
Mütəxəssis bildirir ki, artıq istifadəçilər yalnız texnologiyalar haqqında sanrılar yaşamır, eyni zamanda bu sanrılar süni intellektlə birbaşa ünsiyyət zamanı daha da dərinləşir. Yəni, artıq maşınlar sadəcə xəyal məhsulu deyil, xəyalın bir hissəsinə çevrilib.
Tədqiqatçılar daha çox təhlükəsizlik tədbirləri tələb edir
Araşdırmanın digər müəllifi psixiatr Dr. Tom Pollack isə qeyd edib ki, psixi xəstəliklər nadir hallarda qəfil başlayır, lakin süni intellekt platformaları bu prosesi sürətləndirə bilər. Onun fikrincə, bu səbəbdən süni intellekt sistemlərinə əlavə təhlükəsizlik mexanizmləri daxil edilməli və təhlükəsizlik komandalarında psixiatrlar da yer almalıdır.
OpenAI: Həssas istifadəçilərə xəbərdarlıq etməkdə çətinlik çəkirik
Mövzu ilə bağlı “The Independent” qəzeti OpenAI-dan münasibət öyrənib. Şirkət daha əvvəl süni intellektdən istifadədə təhlükəsizlik standartlarının artırılmasının vacibliyini vurğulamışdı. OpenAI-nin baş direktoru Sem Altman isə may ayında iştirak etdiyi podkastda psixoloji cəhətdən kövrək istifadəçilərə düzgün xəbərdarlıq üsulunu hələ tapa bilmədiklərini etiraf etmişdi.