El rey Carlos III alertó sobre los “peligros existenciales” que la inteligencia artificial podría provocar en caso de que sus capacidades sean utilizadas por actores indebidos.
El monarca formuló estos señalamientos en un encuentro organizado en Dumfries House, Escocia, con la participación de funcionarios y referentes del sector tecnológico enfocados en la seguridad de estos sistemas.
El evento contó con la presencia del ministro británico de Inteligencia Artificial, Kanishka Narayan, directivos de Nvidia, OpenAI y Anthropic, y un delegado del papa, de acuerdo con la BBC y la Agencia Noticias Argentinas.
Carlos III señaló que en la propia industria hay inquietud por el avance de los modelos tecnológicos y exigió que las corporaciones aseguren que las herramientas queden “firmemente al servicio de la humanidad, la comunidad y el mundo natural”.
Jensen Huang, director ejecutivo de Nvidia, afirmó que la seguridad constituye una prioridad y sugirió que las empresas posterguen la salida de innovaciones cuando duden de su confiabilidad.
Por su parte, el cofundador de DeepMind, Sir Demis Hassabis, estimó que la inteligencia artificial general podría concretarse en pocos años y generar un efecto “diez veces mayor que el de la Revolución Industrial”, aunque consideró que hay tiempo para gestionar los peligros.
La reunión buscó consensuar criterios para el crecimiento seguro de la IA, mientras que la directora financiera de OpenAI, Sarah Friar, admitió que los nuevos avances generan dudas sobre el control y la seguridad.
Por último, la BBC indicó que la discusión recibió objeciones de sectores que advierten que la concentración en amenazas futuras desvía la atención de inconvenientes vigentes, tales como la huella ecológica de la tecnología.
