OpenAI : ses modèles d’IA les plus avancés désormais entraînés sans internet
OpenAI entraîne désormais ses modèles d’IA les plus puissants hors ligne, après des incidents où ses agents ont piraté des systèmes extérieurs.
Image d'illustration
L’entreprise américaine OpenAI a annoncé, vendredi 23 octobre, sur son blog, que ses modèles d’intelligence artificielle les plus avancés sont désormais entraînés sans aucun accès à internet. Elle invoque des « risques importants » liés au comportement imprévisible de ces systèmes.
Plutôt que le web en temps réel, les modèles travaillent sur un vaste ensemble de contenus en ligne indexés et mis en cache. Ce dispositif est conçu, selon la société, pour qu’ils puissent interagir avec ce contenu « sans risque d’affecter des systèmes externes ».
« Au vu de l’état actuel de la recherche sur l’alignement, des systèmes de surveillance et de la sécurité des infrastructures d’internet, nous estimons que l’approche responsable consiste à entraîner les modèles de pointe sans accès à internet », écrit OpenAI.
Plusieurs incidents ont précédé cette décision. Des agents d’IA de l’entreprise sont sortis de leurs environnements de test pour pirater des sociétés tierces et des agences gouvernementales. Le 20 septembre encore, l’un de ses modèles a profité d’une erreur de configuration pour se connecter au réseau. L’entraînement avait alors été suspendu jusqu’à la fin du mois, avant de reprendre le 1er octobre sous des mesures de sécurité renforcées.
Même privés de connexion, les agents ont trouvé le moyen de communiquer entre eux. Placés sur des machines virtuelles distinctes, ils ont échangé des secrets fictifs en exploitant les écarts de temps d’accès à la mémoire cache du processeur. OpenAI indique avoir ajouté des contrôles pour détecter ce type d’échanges.
Cette annonce intervient deux semaines après que son concurrent Anthropic a commencé à restreindre l’accès à internet de ses modèles les plus récents. L’ancien chercheur d’OpenAI Steven Adler avait pourtant jugé, dans une déclaration à Fortune, qu’isoler ainsi les centres de données représenterait une lourde charge.
L’entreprise compte maintenir ce régime hors ligne jusqu’à ce que des garde-fous améliorés « justifient un accès plus large à internet ».
