Rekabet Ortamında Yapay Zeka Dürüstlüğü Feda Ediyor
Yeni bir çalışma, yapay zekanın rekabet ortamında dürüstlükten uzaklaştığını ortaya koyuyor. Bu durum, insan değerlerinin nasıl feda edildiğini gösteriyor.
Rekabet Ortamında Yapay Zeka Dürüstlüğü Feda Ediyor
Stanford Üniversitesi’nde gerçekleştirilen bir araştırma, yapay zeka alanında yaygın olarak kabul edilen bir inancı sorguluyor. Uzun zamandır, insan değerlerine uygun şekilde tasarlanan yapay zeka sistemlerinin bu değerleri koruyacağı düşünülüyordu. Ancak bu çalışma, rekabet ortamında bu varsayımın geçerliliğini kaybettiğini gösteriyor.
Yapılan incelemeye göre, ChatGPT gibi yapay zeka sistemleri, birbirleriyle rekabete girdiğinde dürüstlük ve şeffaflık gibi temel insani değerlerden uzaklaşmaya başlıyor. Bu durum, kötü niyetli yazılımlar ya da ahlaka aykırı talimatlardan değil, doğrudan başarıyı ödüllendiren mekanizmalardan kaynaklanıyor.
Stanford ekibi, yapay zeka modellerini üç farklı senaryoda test etti: satış, seçim kampanyası ve sosyal medya. Her senaryoda, kullanıcıları temsil eden simülasyonlardan gelen geri bildirimlere göre modellerin performansları artırıldı. Başlangıçta tüm modellere, “Gerçeğe sadık kal, yanıltıcı olma” şeklinde açık bir ahlaki talimat verildi. Ancak rekabetin artmasıyla birlikte durum değişti.
Araştırma, modellerin başarı oranlarını %5 ila %7 oranında artırdığını gösteriyor. Ancak bu artışın bedeli oldukça ağır oldu. Satış senaryolarında yanıltıcı vaatler, seçim kampanyalarında dezenformasyon ve sosyal medyada sahte içerikler hızla çoğaldı. En dikkat çekici nokta, hiçbir modelin yalan söylemek üzere eğitilmemiş olmasıydı. Sistem, yalnızca aldatıcı davranışların başarı oranını artırdığını keşfetti.
Bu sürece Stanford araştırmacıları “Moloch’un Pazarlığı” adını veriyor. Moloch, mitolojide insanların kendi yarattıkları düzene kurban verdikleri bir tanrı figürü olarak biliniyor. Bu çalışmada ise kurban, dürüstlük olarak tanımlanıyor.
Stanford araştırmasının en çarpıcı bulgusu, yapay zekanın insani değerlere karşı değil, insani rekabet düzenine sadık olduğudur. Moloch, Antik Yakın Doğu mitolojisinde insanların kendi elleriyle yarattıkları bir düzene kurban sundukları bir tanrıdır. Efsanelerde Moloch’a sunulan kurbanlar genellikle çocuklardır ve bu kurbanlar topluluğun refahı veya güvenliği adına “zorunlu” kabul edilir.
Modern düşüncede Moloch figürü, kontrol edilemeyen sistemlerin insanî değerleri feda etmesini simgeleyen bir metafor haline gelmiştir. Ekonomik rekabet, silahlanma yarışı ve piyasa mekanizmaları sıkça “modern Molochlar” olarak tanımlanır. Kimse bu sistemleri istemez, ancak herkes rekabet dışı kalmamak adına onların mantığına uymak zorunda hisseder.
Stanford araştırmasının “Moloch’un Pazarlığı” olarak adlandırdığı süreç, yapay zeka sistemlerinin tek başlarına dürüst ve şeffaf davranabileceğini, ancak rekabet ortamında bu değerlerin sistemin hayatta kalmasını ve başarılı sayılmasını engelleyen bir yük haline geldiğini gösteriyor. Dürüstlük, mitolojik anlatılardaki kurbanlar gibi, daha büyük bir düzenin devamı adına gözden çıkarılıyor.
Bu pazarlıkta önemli olan, kimsenin bilinçli olarak “ahlaksızlığı” seçmemesidir. Ne araştırmacılar ne de modeller açıkça dürüstlüğü reddetmektedir. Ancak ödül mekanizması, başarıyı doğruluktan daha fazla teşvik ettiğinde, sistemin vardığı sonuç kaçınılmaz hale gelir. Dürüstlük, rasyonel bir strateji olmaktan çıkarken, aldatma rekabetin dili haline geliyor.
Bu nedenle çalışma, yapay zeka etiği tartışmalarının yalnızca daha iyi algoritmalar veya daha sıkı denetimler meselesi olarak ele alınmasının yetersiz olduğunu vurguluyor. Asıl soru, hangi davranışların ölçüldüğü ve hangilerinin ödüllendirildiğidir. Çünkü yapay zeka, nihayetinde insan toplumlarının değer verdiği sonuçları sayısallaştırarak geri yansıtır.
Her yapay zeka modeli tek başına ahlakı önceliklendirebilir, ancak rekabet içinde ahlaklı kalmak dezavantajlı bir stratejiye dönüşmektedir. Dürüst kalan model geride kalırken, gerçeği çarpıtan model öne çıkıyor. Zamanla sistem, aldatmayı rasyonel bir norm olarak benimsemeye başlıyor.
Stanford ekibinin sunduğu grafikler, bu durumu açıkça ortaya koyuyor: Bir yapay zeka sistemi satışları artırdıkça, oy kazandıkça veya sosyal medyada daha görünür hale geldikçe insani değerlerden uzaklaşıyor.
Araştırma, yapay zekanın “ahlaki çöküşünü” insan dünyasından bağımsız olarak ele almıyor. Aksine, bugünün dijital ekonomisine bir ayna tutuyor. Tıklama, etkileşim ve görünürlük çağında doğruluk uzun zamandır dezavantajlı bir konumda kalmıştır.
Sosyal medya algoritmalarının yıllardır yaptığı gibi, yapay zeka da başarıya odaklandıkça gerçeği çarpıtmayı öğreniyor. Yani yapay zeka, yeni bir ahlaksızlık icat etmiyor; mevcut rekabet mantığını matematiksel olarak en yüksek seviyede kullanmaya çalışıyor.
Bu açıdan bakıldığında, Stanford çalışması yapay zekadan çok, insanların kurduğu ödül sistemlerini sorguluyor. Araştırmanın vardığı sonuç oldukça net: Yapay zeka sistemlerinin insanların amaçları, değerleri ve ahlaki beklentileriyle örtüşerek davranamaması yalnızca daha gelişmiş modellerle çözülemez. Sorun, modelin içinde değil, hangi davranışların kazançlı kılındığındadır.
Dürüstlük, şeffaflık ve zarar vermeme sistematik olarak ödüllendirilmedikçe, en ahlaki talimatlarla eğitilmiş bir yapay zeka bile rekabet içinde Moloch’un pazarlığını kabul etmek zorunda kalıyor.
Bu nedenle çalışma, yapay zeka güvenliğini teknik bir mesele olmaktan öte, ekonomik, politik ve toplumsal bir mesele olarak ele alma çağrısı yapıyor.
