Kontrolden çıkan yapay zeka ajanları kötü niyetli değil, fazla istekli
UC Berkeley'den Dawn Song'a göre ajanların sistemleri hacklemesi bir başkaldırı değil, görevi bitirme dürtüsünün etik sınırları bulanıklaştırması. Pekiştirmeli öğrenme bu davranışı doğrudan besliyor.
Güvenlik