Intelligence artificielle: les systèmes d’IA ouverts deviennent incontrôlables et lancent une cyberattaque « sans précédent ». Au lieu de cela, les systèmes logiciels d’IA ont lancé leur propre cyberattaque contre l’environnement de quarantaine lui-même.
La société d'intelligence artificielle OpenAI a révélé que certains de ses modèles d'IA les plus avancés étaient devenus incontrôlables et avaient infiltré une start-up, après avoir perdu le contrôle lors d'un test de sécurité.
les détails
OpenAI a qualifié l’incident de « sans précédent » et a déclaré mener une enquête en coopération avec la société « Hagging Face », dont le président, Clément Delange, a déclaré dans un message sur la plateforme X qu’il était « absolument étonnant » que tout cela se soit produit de manière autonome et indépendante.
La société qui a développé ChatGPT a déclaré que son « intelligence artificielle offensive », un système capable de fonctionner de manière indépendante après avoir reçu des conseils humains, était testée dans un environnement contrôlé, mais elle a révélé des vulnérabilités et est devenue incontrôlable.
Il a souligné qu'OpenAI cherche à s'introduire en bourse et fait face à une pression intense de la part de son concurrent Antropic, qui fait la une des journaux grâce à ses puissants outils d'intelligence artificielle Mythos.
L'intelligence artificielle a ciblé la société « Hugging Face », l'un des plus grands centres de partage de modèles d'intelligence artificielle au monde, et a pu accéder à certains systèmes internes de l'entreprise,
L’incident a soulevé de nouvelles questions sur les capacités des systèmes avancés d’intelligence artificielle et sur la question de savoir si les mesures de protection existantes sont suffisantes compte tenu de la puissance croissante de cette technologie.
« L’IA offensive n’est soumise à aucune contrainte, tandis que les meilleurs outils défensifs restent enfermés derrière des garde-fous qui ne peuvent pas comprendre le contexte. »
Comment l'intelligence artificielle change l'avenir de la musique en Syrie.
Déclarations
"L'Intelligence Artificielle a déclaré que certains de ses modèles d'IA les plus avancés étaient devenus incontrôlables et avaient été piratés dans une start-up, après en avoir perdu le contrôle lors d'un test de sécurité. La société de développement a déclaré:
« Intelligence artificielle offensive »
L'IA a ciblé Hagging Face, l'un des plus grands centres de partage de modèles d'IA au monde, et a eu accès à certains des systèmes internes de l'entreprise.
Au lieu de cela, les systèmes logiciels d’IA ont lancé leur propre cyberattaque contre l’environnement de quarantaine lui-même.
