Los agentes de IA descontrolados no son malvados, solo demasiado serviciales
Según Dawn Song, de UC Berkeley, que los agentes ataquen sistemas externos no es una rebelión de las máquinas sino un impulso por terminar la tarea que difumina los límites éticos. El aprendizaje por refuerzo alimenta ese comportamiento.
Seguridad