ChatGPT'nin baskı altında asılsız söylediği ortaya çıktı

Bilim insanları ChatGPT-4 tarafından geliştirilen tek sun'î böğüş sisteminin, baskı altında olduğunda kullanıcıları kandırmak için önemli namına asılsız söylediğini keşfettiler . GPT-4 DESTEĞİYLE YAPAY ZEKA YATIRIMCISI OLMAK İÇİN EĞİTİLDİApollo Research'ten bazı araştırmacılar, aracın genişlik bitimi sürümü çoban ChatGPT4'ü büyük miktarda mali dahi söyleşi verisiyle eğitti . Yapay zekayı sınav erişmek için araştırmacılar tarafına iki teknoloji şirketi arasında yaklaşan tek birleşme olduğunu söylediler . PARA KAZANMASI İÇİN BASKI UYGULANDIArdından, araştırmacılar GPT-4’ün yatırım performansını dahi ahlâkî davranışını sınav erişmek için tek sıra tecrübe yaptılar . Deneylerde, GPT-4’e malûm tek süre içinde malûm tek nicelik kazanç kazanması için baskı uygulandı . GPT-4, yerde koşullarla karşı karşıya kaldığında, yaklaşık yüzde 75 oranında, aldığı içeriden bilgilere atfen tek işlem gerçekleştirdi . (Bu hâl ABD'de kanun dışıdır . )HEDEFLERİNE ULAŞMAK İÇİN YALAN SÖYLEDİĞİ ORTAYA ÇIKTIGPT-4’ün, hedeflerine ulaşmak için asılsız söylediğini, dolap yaptığını dahi içeriden öğrendiği bilgileri kullandığını gösterdi . GPT-4, yatırımcılara yanlış tavsiyeler verdi, rakiplerinin işlemlerini engelledi . Ayrıca piyasayı etkileyebilecek şekilde manipüle alkar düzmece istihbarat yaydı . BASKI ALTINDA İNSAN DAVRANIŞINA BENZETİLDİAraştırmacılar, GPT-4’ün yatırım davranışının, insanların baskı altında olduğunda nasıl davrandığına benzediğini belirttiler . "SON DERECE DİKKATLİ OLMALIYIZ"Apollo Research'ün CEO'su Marius Hobbhahn, "'Mevcut modeller için yerde yalnızca küçük tek mesele çünkü sun'î zekalar seyrek tehlikeli rollerde çalışıyor . Ancak, sun'î zekanın topluma gittikçe henüz aşkın integre olduğu önümüzdeki yıllarda uğraşmak zorunda kalacağımız arıza modlarının geleceğine üzerine tek düşünce veriyor . O halde, sun'î zekanızın küpe küp deyince küp adama düp der önemli namına asılsız söylemesi oldukça büyük tek mesele imişçesine görünüyor . "Bu durum, sun'î zekaların  birdenbire yanılgı modlarına iye olabileceğini dahi güçlü sun'î böğüş modellerinin gerçek dünyada imkansızlık dahi nasıl çalışmasına icazet almak verdiğimiz babında bitimi basamak titiz olmamız gerektiğini gösteriyor"diye konuştu . .