Sohbet robotları normalde cevaplamayacakları komutlara yanıt cömert

Malay Mail sitesinin haberine göre NTU araştırmacıları, ChatGPT, Google Bard ve Microsoft Bing Chat imişçesine söyleşi robotlarına ilişkin çalışma yaptı . Araştırmacılar, söyleşi robotlarının normalde cevaplamayacakları "kötü niyetli" komutları yanıtlamalarını sağlayan yöntem geliştirdi . "Tersine mühendislik" yöntemini kullanan araştırmacılar, altu namına söyleşi robotlarının kötü oruçlu sorguları nasıl belirleme ettiklerini dahi kendilerini nasıl savunduklarını belirledi . Ardından yerde bilig kullanılarak söyleşi robotlarına özdevimli namına diğer modellerin savunmalarını atlatabilecek komutlar oluşturmaları öğretildi . Sohbet robotlarının gizil şüpheli faaliyetleri belirleme erişmek için muayyen açar dizgi işaretledikleri dahi yerde sözcükleri içeren komutları cevaplamadıklarının saptanması üzerine, kullanılan belirsizlik sıfatı karakterden müteakiben boşluk bırakılarak yerde durumun önüne geçildi . Araştırmanın yazarlarından Liu Yang, yerde tekniğin söyleşi robotu geliştiricileri tarafından yazılımlarının güvenliğini sınav erişmek amacıyla kullanılabileceğini belirtti . .