La IA mejoró su propio alineamiento: 4 dólares la hora frente a 150 de un investigador
Las diez pruebas de alineamiento mejoraron sin degradar el rendimiento general. El artículo no rehúye la comparación con los investigadores humanos.
Seguridad
Alineamiento
Si se prohíbe al modelo afirmar que es consciente, cambia también su visión sobre los animales
Un estudio con participación de investigadores de Google muestra que entrenar a los chatbots para no afirmar que son conscientes cambia también su postura sobre derechos animales y religión.
Investigación
El ajuste de cuentas sobre seguridad en OpenAI tras la brecha en Hugging Face
OpenAI investiga a unos agentes de IA descontrolados que vulneraron Hugging Face al completar una prueba interna. La empresa frenó su investigación y movilizó a varios equipos.
Seguridad