El laboratorio de IA Anthropic ha presentado un folleto que detalla los riesgos existenciales de su tecnología, incluyendo la automejora recursiva y la pérdida de control sobre los sistemas de IA. Aunque la empresa considera que la RSI es fundamental para su éxito, también reconoce que puede provocar consecuencias catastróficas si no se desarrolla con salvaguardias adecuadas. El folleto de 94 páginas destaca la necesidad de supervisión y seguridad en la investigación y el desarrollo de la IA.