Anthropic discovers how harmless stories can turn models into power-seeking systems
Los datos los generó el propio Claude, al que se encargó colar desalineación en otro modelo sin que la detectara un filtro que revisa los ejemplos uno a uno. Son modelos entrenados a propósito para el experimento, no los que usa el público.
Leer en Interesting Engineering interestingengineering.com