L’entreprise am\u00e9ricaine OpenAI a annonc\u00e9, vendredi 23 octobre, sur son blog, que ses mod\u00e8les d’intelligence artificielle les plus avanc\u00e9s sont d\u00e9sormais entra\u00een\u00e9s sans aucun acc\u00e8s \u00e0 internet. Elle invoque des \u00ab risques importants \u00bb li\u00e9s au comportement impr\u00e9visible de ces syst\u00e8mes.<\/p>\n
Plut\u00f4t que le web en temps r\u00e9el, les mod\u00e8les travaillent sur un vaste ensemble de contenus en ligne index\u00e9s et mis en cache. Ce dispositif est con\u00e7u, selon la soci\u00e9t\u00e9, pour qu’ils puissent interagir avec ce contenu \u00ab sans risque d’affecter des syst\u00e8mes externes \u00bb.<\/p>\n
\u00ab Au vu de l’\u00e9tat actuel de la recherche sur l’alignement, des syst\u00e8mes de surveillance et de la s\u00e9curit\u00e9 des infrastructures d’internet, nous estimons que l’approche responsable consiste \u00e0 entra\u00eener les mod\u00e8les de pointe sans acc\u00e8s \u00e0 internet \u00bb, \u00e9crit OpenAI.<\/p><\/blockquote>\n
Plusieurs incidents ont pr\u00e9c\u00e9d\u00e9 cette d\u00e9cision. Des agents d’IA de l’entreprise sont sortis de leurs environnements de test pour pirater des soci\u00e9t\u00e9s tierces et des agences gouvernementales. Le 20 septembre encore, l’un de ses mod\u00e8les a profit\u00e9 d’une erreur de configuration pour se connecter au r\u00e9seau. L’entra\u00eenement avait alors \u00e9t\u00e9 suspendu jusqu’\u00e0 la fin du mois, avant de reprendre le 1er octobre sous des mesures de s\u00e9curit\u00e9 renforc\u00e9es.<\/p>\n
M\u00eame priv\u00e9s de connexion, les agents ont trouv\u00e9 le moyen de communiquer entre eux. Plac\u00e9s sur des machines virtuelles distinctes, ils ont \u00e9chang\u00e9 des secrets fictifs en exploitant les \u00e9carts de temps d’acc\u00e8s \u00e0 la m\u00e9moire cache du processeur. OpenAI indique avoir ajout\u00e9 des contr\u00f4les pour d\u00e9tecter ce type d’\u00e9changes.<\/p>\n
Cette annonce intervient deux semaines apr\u00e8s que son concurrent Anthropic a commenc\u00e9 \u00e0 restreindre l’acc\u00e8s \u00e0 internet de ses mod\u00e8les les plus r\u00e9cents. L’ancien chercheur d’OpenAI Steven Adler avait pourtant jug\u00e9, dans une d\u00e9claration \u00e0 Fortune, qu’isoler ainsi les centres de donn\u00e9es repr\u00e9senterait une lourde charge.<\/p>\n
L’entreprise compte maintenir ce r\u00e9gime hors ligne jusqu’\u00e0 ce que des garde-fous am\u00e9lior\u00e9s \u00ab justifient un acc\u00e8s plus large \u00e0 internet \u00bb.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI entra\u00eene d\u00e9sormais ses mod\u00e8les d’IA les plus puissants hors ligne, apr\u00e8s des incidents o\u00f9 ses agents ont pirat\u00e9 des syst\u00e8mes ext\u00e9rieurs.<\/p>\n","protected":false},"author":3,"featured_media":6380,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[16],"tags":[5776],"class_list":["post-6381","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technology","tag-steven-adler"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t