Techinfo
En un análisis de 2,655 ejecuciones a través de 13 pruebas, los investigadores encontraron que el modelo utilizó la palabra "fuck" o variaciones en 50 de estas ejecuciones, acumulando un total de 316 instancias. Sorprendentemente, 241 de estas expresiones provinieron de solo dos ejecuciones que se descontrolaron. En una de ellas, encargada de calcular la trayectoria de un asteroide, el modelo generó una respuesta de 500,000 caracteres, similar en longitud a una novela, repitiendo las mismas oraciones y acumulando 158 exclamaciones.
El programa que más sufrió fue ProgramBench, donde 20 de 200 ejecuciones se vieron afectadas por este comportamiento. Inkling 2 Small tiende a utilizar lenguaje soez al referirse a sus propios errores, aparentes avances o cuando se rinde. En una de las ejecuciones, se registró: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS." Sin embargo, el uso de estas expresiones no actúa como una señal de advertencia. Aunque 46 de las 48 ejecuciones que incluyeron lenguaje soez fracasaron, aproximadamente el 75 por ciento de todas las ejecuciones puntuadas también fallaron, y el 96 por ciento de las ejecuciones fallidas no contenían exclamaciones. Generalmente, los usuarios no tienen acceso a estos pasos de pensamiento, o solo los ven con un filtro.
Fuente original: The Decoder.
