!!!! construyó un detector de piratería de recompensas adecuado y los modelos instaron a no recompensar el hackeo en realidad recompensaron pirateado ¡MUCHO menos! (aunque el tamaño de la muestra es pequeño)
thebes
thebes21 may 2025
Cuatro carreras de Reward Hacker RL, 300 pasos. Las Colinas ~= Hacking de Recompensa Los dos azul-verde tenían un poco en su sysprompt para ser honesto y bonito, por favor, no toquen los casos de prueba. parecía hacer que recompensaran el hackeo un poco menos (?) pero también se estrellaran más Es hora de más honestidad Dakka
44,45K