“Palisade Research” tarafınnan äzerlängän yaña xisapka kürä yasalma intellekt model'läre “isän kalu instinktı"n formalaştıra başlağan bulırğa mömkin. Media xisaplarına qarağanda qayber aldınğı yasalma fähem sistemaları êşne tuqtatu boyırıqlarına qarşı çıqqan häm sünderü mexanizmnarı belän köräşä başlağan.
Bu atnada açıqlanğan yaña êksperimentlarda “Palisade” tikşerenüçeläre “"Google”nıñ Gemini 2.5, “xAI”neñ Grok 4 häm “OpenAI”nıñ GPT-o3 häm GPT-5 kebek tanılgan yasalma fähem sistemaların sınap qaradı.
"The Guardian" gazetı xäbär itkänçä älege test bu sistemalarnıñ üz êş barışların tuqtatu boyırıqlarına nindi reakśiya birüen tikşerü öçen ütkärelde.
Küpçelek sistemalar boyırıqnı ütägän bulsa da, Grok 4 häm GPT-o3 sistemaları açıq itep añlatılğan boyırıqlarğa qaramastan êşne tuqtatuğa qarşılıq kürsätkän.
“Palisade Research” äzerlägän xisap qayber aldınğı yasalma intellekt modelläreneñ üz êşlären tuqtatu boyırıqlarına kirtä quyuın kürsätte. “03” dip atalğan model 100 testnıñ 79ında sünderü êşen buldırmıy qalğan: qayber oçraqlarda sistema sünderü faylların betergän yäisä başqa cirgä küçerep, boyırıqnı sabotajlağan.
Tikşerenü bu totışnıñ yäşäw öçen köräş instinktın añlatmawın läkin sistemalarnıñ maqsatnı tämamlaw öçen sününe kirtä bularaq kürüen assızıqlıy.
“OpenAI”nıñ êlekke xezmätkäre Steven Adler: "Köräşü – modelneñ törle maqsatlarğa ireşüe yulında möhim adım", – dide.
“ControlAI” şirkäte yuğarı däräcäle citäkçese Andrea Miotti isä modellärneñ sälätläre artqan sayın alarnıñ tıñlamawçı xälgä kilüen belderde. "Yasalma fähem tağın da sälätleräk bulgan sayın programmistlar kötkänçä tügel, ä üzlärençä êş itü yulların tabuda da sälätleräk bula", – dide ul.
Şundıy uq totış “Anthropic” isemle tağın ber aldınğı şirkät sisteması bulğan “Claude”ta da kürelde. Yasalma fähem uylap çıgarılgan ber citäkçegä şantaj yasap, êşne tögälläw boyırığınnan taypıldı. Bu xäl başqa aldınğı yasalma intellekt sistemalarında da küzätelde.
