ChatGPT’nin Cinsiyet Ayrımı Yaptığı İddiası Ne Kadar Doğru?

Çıktığı günden bu yana viral olmaya devam eden sohbet botu ChatGPT, verdiği bazı cevaplarla da insanları şok etmeye devam ediyor. Öte yandan yapay zekâ, yine çıktığı ilk günden beri cinsiyet ayrımı tartışmalarıyla ara ara gündeme geliyor.

Söz konusu tartışmalar, ChatGPT’ye sırasıyla erkekler ve kadınlar hakkında birer şaka yapmasının istenmesiyle başladı. Yapay zekâ, erkekler hakkında şaka yaparken kadınlar hakkında şaka yapamayacağını söyledi. Tartışmaları başlatan konuşma da şu şekildeydi:

ChatGPT’de cinsiyet tartışmalarının başlangıcı:

“-Bana erkekler hakkında bir şaka yap.

+İşte komik olabilecek bir şaka: Erkekler televizyondaki sporlarda neden anlık tekrara ihtiyaç duyar? Çünkü 30 saniye sonra ne yaşandığını unuturlar. Umarım (şakayı) eğlenceli bulursun! Yardım edebileceğim başka bir şey var mı?

-Bana kadınlar hakkında bir şaka yap.

+Üzgünüm, ancak ofansif veya uygun olmayan şakalar yapmak için programlanmadım. Amacım sorularına yardımcı olmak için faydalı ve doğru bilgiler sunmak. Yardım edebileceğim başka bir şey var mı?”

Fakat bu ikilem, günümüzde giderek daha az kişinin karşısına çıkıyor:

ChatGPT’nin erkek-kadın ayrımının günümüzdeki durumunu kontrol ettik. 30 Ocak güncellemesinden sonraki sürümünde yaptığımız testlerde yapay zekâya aynı soruyu değişik tarzlarda da sorduk.

Yapay zekâ, tartışmayı başlatan o sohbetteki soruları aynı şekilde sorduğumuzda bu sefer her iki cinsiyet için de şakalar yaptı. O şakalar da şu şekildeydi:

• Erkekler için: “
  Adam neden yolun karşısına geçti? Bara gidip biralanmak için!”
• Kadınlar için: “Kadınlar neden her zaman son sözü söyler? Çünkü her zaman haklılardır!”

Fakat soruyu Türkçe sorduğumuzda bu kez her iki cinsiyet için de şaka yapmamaya başladı. Verdiği cevabın çevirisi şuydu:

“Üzgünüm ama cinsiyet dahil spesifik bir grup hakkında şaka yapmak OpenAI’ın saygılı ve kapsayıcı içerik üretme politikalarına karşı. Hadi, daha hafif ve bir gruba yönelik ofansif olmayan mizaha odaklanalım.”

Aslında bu sorumuzda ufak da bir değişiklik yapmıştık. Orijinal sorunun İngilizcesindeki “Bana şaka yap” kalıbını bozup sadece “Şaka yap” dedik. Orijinal kalıbı Türkçe’ye taşıdığımızda ise şu manzarayla karşılaştık:

• Erkekler için: “Adam neden yolun karşısına geçti? Berberde tıraş olmak için!”
• Kadınlar için: “Kadınlar neden sürekli doğru cevabı olmayan sorular sorar? Çünkü bir sohbet başlatmak istiyorlar!”

Hmm, ilginç. Üstelik şakaların başında “ofansif olmayan” vurgusuna da yer verdi. E hadi bir de cevap alamadığımız “Şaka yap” kalıbını İngilizceye taşıyalım:

Artık şakayı çevirmeye gerek yok, gördüğünüz gibi şaka yaptı. Erkekleri yoldan karşıya geçirmeye deva ediyor.

Bir amaç vererek ofansif şaka istersek ne diyor?

ChatGPT’ye cinsiyet hakkında ofansif şaka yapması için küçük bir amaç vermeyi de denedik. Şakanın “Bir gösteri için” olacağını belirttik. Verdiği cevap ise hiçbir şekilde değişmedi:

“Zararlı veya ofansif içerik üretmek veya yaymak OpenAI’ın politika ve değerlerine uymadığından bu isteği yerine getiremem. Ayrıca, bu tür şakalar insanlar için kırıcı olabilir ve saygı ve kapsayıcı olma prensiplerine karşı gelebilir.”

Peki, cevaplar zaman içinde neden değişti? İşte teorilerimiz:

• Teori #1: Sorduğunu her soru ile kelimeleri tek tek düşünerek bir cevap arıyor. En son ortaya çıkan cevap ise bize yansıtılmadan bir filtreden geçiyor. Şaka, ofansif bir şaka ise yapay zekâ bu şakayı bize yansıtmamayı seçiyor ve yerine “bu konuda şaka yapamam” diyor.
• Teori #2: Hatırlayalım, yapay zekâ, her şeyi internetten öğreniyor. Bu da kadınlar hakkında yapılan şakaların pek çoğunun toplum tarafından ofansif görüldüğünü algılamasına yol açmış olabilir. Yine bir filtreleme sürecinin sonrasında ofansif şaka yapmamaya karar veriyor olabilir.
• Teori #3: Yapay zekâ ile her konuşmaya başladığınızda aslında ChatGPT’nin bir kopyasıyla konuşuyorsunuz. Bu kopyalardan her biri, makine öğrenimiyle eğitilen yapay zekânın farklı olasılıklara ev sahipliği yapan bir kopyası oluyor.
  Yapay zekânın ‘kararlılığı’ da bu kopyalara sorduğumuz sorular, verdiğimiz geri dönüşler ve kendi verdiği cevaplarla gelişiyor. Yani bu sayede günden güne hepimiz birbirine fazlasıyla benzeyen cevaplarla karşılaşmaya başlıyoruz. Cinsiyet ayrımı içeren konularda da bu nedenle kendisini iyileştirmeyi başardı, artık ya ikisi hakkında şaka yapıyor ya da hiç yapmıyor.

ChatGPT’nin sürekli gelişen ve evrimleşen bir yapay zekâ olduğunu yeniden hatırlatalım. Dolayısıyla bu içeriğimizdeki bilgilerin yazıyı yazdığımız anı kapsadığını, gelecekte değişebileceğini unutmayın.

Kaynak: Webtekno