ia cambridge paper futuro notebook casp pdf hinton
Cambridge CASP, PDF
Introducción
Gemini Notebook
Este artículo académico del Programa de Cambridge sobre Ciencia y Política de la Inteligencia Artificial examina el vertiginoso avance hacia la automatización total de la investigación y desarrollo en IA, un fenómeno en el que los propios sistemas tecnológicos diseñan las nuevas generaciones de software. Los autores advierten que este ciclo de auto-mejora podría desencadenar una peligrosa explosión de inteligencia, comprimiendo décadas de progresos tecnológicos en un lapso de pocos meses. Aunque este salto hiperacelerado podría maximizar los beneficios de la tecnología, también conlleva riesgos existenciales extremos, como la pérdida definitiva del control humano y la erosión de los equilibrios de poder geopolítico y social. Para mitigar estas amenazas, el documento concluye instando a los gobernantes a implementar urgentemente mecanismos de supervisión y control, preparando a la sociedad global para un futuro donde la velocidad del cambio tecnológico supere la capacidad humana de adaptación.
Alan Chan, Christoph Winter, Andrew Barto, Jakub Pachocki, Geoffrey Hinton, Eric Horvitz, Yoshua Bengio, Dawn Song, Jack Clark, Hilary Greaves, Anton Korinek, Samuel Hammond, Thore Graepel, Ben Bariach, Philip H. S. Torr, Sheila A. McIlraith, Jeff Clune, Sam Manning, Girish Sastry, Tom Davidson, Daniel Eth, Sören Mindermann
