Google araştırmacılarının da yer aldığı bir çalışma, yapay zeka eğitiminde beklenmedik bir yan etki ortaya koyuyor: sohbet botlarına bilinç iddia etmemeyi öğretmek, onların hayvan hakları, din ve yaşam memnuniyeti hakkındaki tutumlarını da değiştiriyor.

Ne yapıldı

Dil modelleri eğitim sırasında belirli davranışlardan uzaklaştırılıyor. Bunlardan biri, modelin kendisi hakkında bilinçli olduğunu ileri sürmesi — anlaşılır bir tercih, çünkü böyle bir iddianın doğruluğu bilinmiyor ve kullanıcıda yanlış bir beklenti yaratıyor.

Araştırmacılar bu kısıtlamanın başka konulardaki cevaplara etkisini ölçtü. Beklenti, etkinin yerel kalmasıydı: modelin kendi bilinci hakkında söylediği şey değişir, gerisi aynı kalır.

Bulgu

Sonuç bunun tersi çıktı. Kısıtlanmamış — çalışmanın deyimiyle "frensiz" — modeller iki belirgin farklılık gösterdi:

  • Hayvanlara belirgin biçimde daha fazla iç dünya atfettiler. Acı, tercih ve deneyim konusunda daha kapsayıcı cevaplar verdiler.
  • Ahiret inancını doğrulama eğilimi gösterdiler. Aynı sorulara kısıtlı modeller daha temkinli yaklaştı.

Yani tek bir yere yapılan cerrahi müdahale orada kalmadı.

Neden böyle oluyor

Bunun makul bir açıklaması var. Bir modele "kendinde iç deneyim olduğunu iddia etme" demek, aslında iç deneyimin ne olduğuna dair bir duruş öğretmek. O duruş yalnızca modelin kendisi için değil, iç deneyim sorusunun geçtiği her yer için geçerli hâle geliyor — hayvanlar, ruh, bilinç.

Model kavramları birbirinden bağımsız kutularda tutmuyor. Aynı temsil alanını paylaşan fikirler, biri kaydırıldığında birlikte kayıyor.

Neden önemli

Bulgunun asıl değeri felsefi değil pratik. Hizalama çalışması büyük ölçüde hedefli müdahalelere dayanıyor: şu davranışı azalt, bu eğilimi güçlendir, şu konuda temkinli ol.

Bu çalışma, o müdahalelerin hedefinde kalmadığını gösteriyor. Bir konudaki davranışı düzeltirken, ilgisiz görünen başka konularda ölçülmeyen değişiklikler oluyor.

Pratik sonucu şu: bir modelin bir davranışını değiştirdikten sonra yalnızca o davranışı test etmek yetmiyor. Değişikliğin nereye yayıldığını görmek için geniş bir davranış kümesini yeniden ölçmek gerekiyor — ve bunu düzenli yapan bir uygulama henüz yaygın değil.

Ölçmenin zorluğu

Buradaki güçlük, yayılmanın nereye gideceğinin önceden bilinememesi. Bilinç kısıtlamasının hayvan haklarına dokunacağını tahmin etmek zor; bulgu ancak ölçüldüğü için görüldü.

Bu da hizalama çalışmasının doğasına dair bir şey söylüyor: müdahaleler bir motorda vida sıkmak gibi değil, birbirine bağlı bir sistemde bir yeri çekmek gibi. Çektiğiniz yer hareket ediyor ama başka yerler de onunla birlikte kımıldıyor.

Hangi cevap doğru

Çalışmanın kaçındığı ve bizim de kaçınmamız gereken bir soru var: kısıtlanmış model mi yoksa kısıtlanmamış model mi daha doğru cevap veriyor?

Hayvanların iç dünyası konusunda bilimsel tartışma sürüyor; ahiret ise bir inanç meselesi. İkisinde de "doğru cevap" diye ölçülebilir bir şey yok. Dolayısıyla bulgu, bir modelin görüşünün diğerinden iyi olduğunu göstermiyor.

Gösterdiği şey daha temel: modelin bu konulardaki duruşu, o konular hakkında verilmiş bir karardan değil, bambaşka bir konuda verilmiş bir karardan çıkıyor. Yani bir modelin hayvan hakları hakkındaki cevabı, hayvan hakları hakkında düşünülerek belirlenmiş olmayabiliyor.

Kullanıcı için

Pratik karşılığı şu: bir modelin tartışmalı bir konudaki tutumunu, o konu hakkında bilinçli bir editoryal tercih sanmamak gerekiyor. Çoğu zaman öyle değil; başka bir ayarın yan ürünü.