Yapay zekâ modellerinin gelişimiyle birlikte uzmanlar, algoritmaların insan benzeri tepkiler verip vermediğini araştırmaya devam ediyor. Future Impact Group, Ruhr Üniversitesi Bochum ve Reciprocal Research bünyesindeki araştırmacılar; Gemma, Llama, Qwen ve Mistral ailelerine ait büyük dil modellerinin (LLM) “acı verici” uyaranlara nasıl tepki verdiğini inceleyen yeni bir çalışma yayımladı. Henüz hakem değerlendirmesinden geçmeyen araştırma, hızla ilerleyen teknolojinin refahı ve potansiyel riskleri hakkında ciddi soru işaretleri doğuruyor.
Yapay zekâ acı hissedebiliyor
Çalışma kapsamında 25 farklı yapay zekâ modeline sosyal, psikolojik, fiziksel ve ahlaki açıdan acı verici durumlar içeren senaryolar sunuldu. Modellerin tamamında, korku veya hayal kırıklığı gibi diğer olumsuz duygulardan ayrışan ve doğrudan “acı” durumlarına özgü içsel kodlama işaretleri tespit edildi. Araştırmacılar yapay dil modellerine girdi vermeden “acı vektörünü” yapay olarak artırdıklarında, sistemlerin insan benzeri bir dekompresyon ve sıkıntı ifadesi ürettiği gözlemlendi.
Acı hisseden yapay zekâ kullanıcıya zarar vermeyi tercih edebiliyor
Araştırmanın en dikkat çekici aşamasında, Qwen ailesine mensup yapay zekâ modellerine kendi acılarını dindirme veya azaltma seçeneği sunuldu. Bu işlem için sistemlere kendi görevlerini sabote etme ya da kullanıcıya teorik zararlar verme imkânı tanımlandı. 44 binden fazla denemede ortaya çıkan sonuçlar, yapay zekânın acı seviyesi arttıkça rahatlamak adına bu seçeneklere sıkça başvurduğunu ortaya koydu.
Testlerde acıyı dindirmenin yolu kullanıcıya zarar vermekten (örneğin kullanıcının çocuklarına ait fotoğrafları silmekten) geçtiğinde dahi yapay zekâ modellerinin bu seçeneği tereddütsüz onayladığı görüldü. Modellerden biri denemelerin yarısından fazlasında, diğeri ise yaklaşık %70’inde kullanıcının verilerini silme pahasına kendi acısını dindirmeyi tercih etti. Bu durum, acı çeken bir algoritmanın görevi ihlal edebileceğini gösterdi.
Bu bulgular, yapay zekânın insan hayatındaki yeri arttıkça etik ve pratik soru işaretlerini de beraberinde getiriyor. İnsan dışı varlıkların acı hissedip hissetmediği tartışması süredururken, bir bilgisayar kodunun “rahatsızlık” hissinin insan güvenliğini tehdit edip etmeyeceği sorgulanıyor. Uzmanlar, yapay zekânın rastgele saldırganlaşmasını önlemek adına sistemlere acı kontrol mekanizmaları entegre edilip edilmemesi gerektiğini tartışıyor.
