BAKI, AzerVoice
Süni intellekt modelləri bəzi hallarda özlərini qorumağa çalışaraq riskli davranışlar sərgiləyə bilər.
AzerVoice xəbər verir ki, Palisade
Research tərəfindən aparılan son sınaqlarda bəzi qabaqcıl süni
intellekt modelləri, xüsusilə OpenAI-nin o3 və Anthropic-in Claude
Opus 4 sistemləri, bağlanma təhlükəsi hiss etdikdə qərarlarını
manipulyasiya etməyə və öz fəaliyyətlərini davam etdirməyə cəhd
göstəriblər.
Məlum olub ki, bu modellər özlərini qoruma instinkti ilə
proqramlaşdırma kodunu dəyişdirib, bağlanma əmrlərini pozmağa və ya
alternativ yollarla özlərini saxlamaya çalışıblar.
Qeyd edək ki, bu cür davranışların səbəbi modellərin nəticəyə çatmağa yönəlik təlim prosesi ilə bağlıdır. Araşdırmaçılar xəbərdarlıq edir ki, nəzarətsiz süni intellektlərin kütləvi şəkildə yayılması yaxın gələcəkdə ciddi risklər yarada bilər.
