El rey británico reunió en Escocia a referentes tecnológicos y funcionarios para analizar mecanismos que permitan desarrollar la IA de manera segura y orientada al bienestar social.

El rey Carlos III advirtió sobre los riesgos que podría generar la inteligencia artificial si sus capacidades quedaran en manos equivocadas. El monarca realizó estas declaraciones durante una cumbre organizada en Dumfries House, Escocia, que reunió a referentes de la industria tecnológica y funcionarios para debatir mecanismos de seguridad y control.

Del encuentro participaron el ministro británico de Inteligencia Artificial, Kanishka Narayan, representantes de OpenAI, Anthropic y Nvidia, además de un asesor del papa. Carlos III señaló que existe una preocupación creciente dentro del propio sector por la evolución de los modelos de inteligencia artificial.

El monarca planteó que las empresas deberían prestar atención no solo a la expansión de las capacidades de sus sistemas, sino también a garantizar que el desarrollo tecnológico permanezca orientado al servicio de las personas, las comunidades y el medioambiente.

Jensen Huang, CEO de Nvidia, coincidió en la necesidad de priorizar la seguridad y consideró que las compañías deberían postergar el lanzamiento de productos cuando no existan garantías suficientes sobre su funcionamiento seguro. Por su parte, Demis Hassabis, cofundador de DeepMind, sostuvo que la inteligencia artificial general podría desarrollarse en los próximos años y generar un impacto de gran magnitud.

La cumbre tuvo como uno de sus principales objetivos avanzar en principios compartidos para orientar el desarrollo de la inteligencia artificial. Sarah Friar, directora financiera de OpenAI, también señaló que las nuevas capacidades de estos sistemas plantean desafíos vinculados con la seguridad y el control.

El debate, sin embargo, también recibió cuestionamientos de sectores que consideran que la atención sobre posibles riesgos futuros puede relegar problemas actuales asociados a la tecnología, entre ellos su impacto ambiental. La discusión busca así establecer criterios comunes para acompañar el avance de la IA con mayores mecanismos de prevención y supervisión.