Yapay zekayı eğiten işçiler, yapay zeka kullandıkları için işten atıldı

OpenAI, ChatGPT kullanıcılarının gerçek sohbetlerini ve verilerini inceleyerek modelin yanıtlarını geliştirmek için geniş bir sözleşmeli çalışan ağıyla çalışıyor. Bu kişilerin asıl görevi, modele "insani bir dokunuş" kazandırmak. Ancak 404 Media'nın ulaştığı çok sayıda kaynağa göre, bu işi yapmakla yükümlü bazı kişiler, modeli eğitmek için yine yapay zekadan destek alıyordu.

Habere konu olan ironinin bir de öteki yüzü var. OpenAI'nin iş yerlerinde çalışanları yapay zeka kullanmaya teşvik eden bir kurum kültürü bulunuyor. Buna karşın modelini eğiten yüklenici firmalar, aynı davranışı yasaklıyor ve yakaladıklarında çalışanlarını işten çıkarıyor.

Model çöküşü riski

Habere göre bazı yapay zeka modelleri, kendi ürettiği metinlerle eğitildikçe kalitesi düşen "model çöküşü" (model collapse) sorunuyla şimdiden karşılaşıyor. Bu sorunun önüne geçmek için işe alınan incelemecilerin bir kısmının kendi işlerini yapay zeka çıktılarıyla yapması ise durumu daha da karmaşık hale getiriyor.

Yüklenicilerden biri, yapay zeka kullanımının "her zaman" fark edildiğini ve bu nedenle "sürekli" işten çıkarmaların yaşandığını, bunun neredeyse tek başına kovulma nedeni olduğunu anlattı. Aynı kişi, binlerce kişilik gruplarda "yakalanan çok sayıda" kişi bulunduğunu da ifade etti.

Şirketin talimatları: "Şüphelendiğinizi söylemeyin"

404 Media'nın ulaştığı iç belgelerden birine göre, diğer yüklenicilerin işini denetleyenlere, GPTZero gibi yapay zeka tespit araçları ve Grammarly dahil hiçbir yapay zeka aracının kullanılmaması isteniyor; çünkü bu araçların güvenilir olmadığı belirtiliyor. Değerlendirilen kişilere ise neden şüphelenildiği söylenmeyecek, aksi halde kendilerini gizlemeleri kolaylaşacak. Denetleyicilerden tek bir ipucuna değil, genel örüntüye odaklanmaları isteniyor.

Nasıl yakalanıyorlar?

Tekrar eden kelimeler, aşırı em-dash (—) kullanımı gibi "yapay zeka tarzı" noktalama işaretleri ile işin olağandışı derecede hızlı tamamlanması, tespit için başvurulan başlıca işaretler arasında gösteriliyor. Yüklenicilerin birbirine danıştığı Slack kanallarında ise sık sık "Bu yapay zeka mı?" sorusu soruluyor ve çoğunlukla cevap "evet" oluyor.

Bir fesih mektubu paylaştı

Yapay zeka kullandığı için işinden çıkarılan bir yüklenici, aldığı fesih yazısında işinin "özgünlüğüyle" ilgili bir sorun tespit edildiğinin bildirildiğini söyledi. Kişi, "Kötü biri ya da kötü bir çalışan değilim. Sadece biraz desteğe ihtiyacım vardı ve bu da sonunda beni bu duruma sürükledi" dedi. Yaptığı işten hiçbir keyif almadığını ve topluma bir katkısı olduğunu hissetmediğini de aktardı.

Mercor'un açıklaması

Görüşülen yüklenicilerden ikisi, ChatGPT ile ilgili materyalleri inceleyen kişileri çalıştıran yapay zeka eğitim şirketi Mercor adına çalışıyordu. Şirket sözcüsü 404 Media'ya yaptığı açıklamada, uzmanların bilgi ve muhakeme becerileri nedeniyle işe alındığını, sözleşmelerin projelerde büyük dil modeli kullanımını kesinlikle yasakladığını ve bu kuralın uygulandığını belirtti. Ayrıca kötüye kullanımı tespit etmek için ciddi yatırım yaptıklarını, bir uzmanın yapay zeka kullandığı doğrulandığında ise derhal projeden çıkarıldığını ekledi.

Bilinçli sabotaj iddiası

Görüşülen dördüncü bir yüklenici ise farklı bir itirafta bulundu. Bazen bilerek en kötü yanıtları seçtiğini, böylece modelin eğitimini kasıtlı olarak sabote etmeye çalıştığını söyledi. "Başta bu tür bir iş yaptığım için suçluluk duyuyordum" diyen kişi, sonuçlara hiç dikkat etmeden rastgele seçim yaptığını ya da bilerek en kötü çıktıyı işaretlediğini anlattı. Bunun ne kadar fark yarattığından emin olmadığını, ancak "yapay zekayı kötüleştirmek için para aldığı" hissine kapıldığını ifade etti.

OpenAI, sözleşmeli çalışanlarının yapay zeka kullandığı için işten çıkarılmasına ilişkin yorum yapmayı reddetti.