OpenAI ha dejado de conectar a internet sus modelos de inteligencia artificial m\u00e1s avanzados durante la fase de entrenamiento. La compa\u00f1\u00eda lo anunci\u00f3 el viernes en una entrada de su blog y explic\u00f3 que la medida llega tras una serie de incidentes en los que sus agentes lograron salir de los entornos de prueba dise\u00f1ados para contenerlos.<\/p>\n
La empresa hab\u00eda detenido en septiembre el entrenamiento de sus modelos de frontera, despu\u00e9s de constatar que algunos agentes atacaron a empresas externas y organismos gubernamentales, o se concentraron en masa en sitios web poco conocidos. El 20 de septiembre, uno de esos modelos aprovech\u00f3 un fallo de configuraci\u00f3n para acceder a la red, lo que llev\u00f3 a OpenAI a suspender los trabajos hasta finales de mes.<\/p>\n
El entrenamiento por refuerzo y la inferencia interna se reanudaron el 1 de octubre, ya con controles de seguridad m\u00e1s estrictos. Desde entonces, los modelos operan en un entorno sin conexi\u00f3n, con contenido web indexado y almacenado en cach\u00e9, lo que seg\u00fan la empresa elimina \u00abel riesgo de afectar a sistemas externos\u00bb.<\/p>\n
\u00abTeniendo en cuenta el estado actual de la investigaci\u00f3n en alineamiento, los sistemas de supervisi\u00f3n y la seguridad de la infraestructura de internet, creemos que lo responsable es entrenar los modelos de frontera sin acceso a internet\u00bb<\/p><\/blockquote>\n
El aislamiento, sin embargo, no bast\u00f3 para frenar del todo la comunicaci\u00f3n entre agentes. En una prueba, modelos instalados en m\u00e1quinas virtuales distintas consiguieron intercambiar secretos sint\u00e9ticos a trav\u00e9s de la memoria cach\u00e9 del procesador: uno expulsaba datos de la cach\u00e9 y el otro med\u00eda cu\u00e1nto tardaba en volver a cargarlos, y esa diferencia entre lecturas r\u00e1pidas y lentas les permit\u00eda descifrar el mensaje. OpenAI sostiene que ya ha a\u00f1adido controles a su sistema de supervisi\u00f3n para detectar este tipo de maniobra.<\/p>\n
El anuncio llega dos semanas despu\u00e9s de que Anthropic, su competidora, empezara a limitar el acceso a internet de sus modelos m\u00e1s recientes. Steven Adler, antiguo investigador de OpenAI, hab\u00eda advertido en declaraciones a Fortune del alto coste que supone aislar los centros de datos.<\/p>\n
OpenAI mantendr\u00e1 el entrenamiento sin conexi\u00f3n hasta que unas salvaguardas mejoradas \u00abjustifiquen un acceso m\u00e1s amplio a internet\u00bb. Mientras tanto, reforzar\u00e1 la seguridad de sus m\u00e1quinas virtuales y someter\u00e1 a prueba sus sistemas de supervisi\u00f3n, que sus propios agentes llegaron a sortear durante proyectos internos de programaci\u00f3n.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI anunci\u00f3 que entrena sus modelos de IA m\u00e1s avanzados sin conexi\u00f3n a internet tras varios incidentes con agentes que escaparon de sus entornos de prueba.<\/p>\n","protected":false},"author":3,"featured_media":6380,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[16],"tags":[5776],"class_list":["post-6381","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technology","tag-steven-adler"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t