Le chef scientifique d’OpenAI, Jakub Pachocki, a lancé une mise en garde sur les conséquences potentielles de l’accélération rapide de l’intelligence artificielle, estimant que personne n’est véritablement préparé à l’arrivée de machines toujours plus performantes.
Dans un billet consacré à l’évolution de l’IA, le responsable appelle à faire preuve d’« extrême prudence » et insiste sur la nécessité de garantir que les humains restent maîtres de leur avenir.
Une intelligence artificielle qui progresse rapidement
Cette prise de position intervient quelques jours après le lancement par OpenAI de GPT-6 Astra, présenté comme son modèle le plus puissant à ce jour.
Jakub Pachocki estime que le secteur se dirige vers un monde dans lequel les machines pourraient atteindre des niveaux d’intelligence considérables. Selon lui, cette transition doit être accompagnée de mesures permettant d’en limiter les risques et de préserver le contrôle humain.
OpenAI affirme poursuivre le développement de systèmes de défense ainsi que des recherches sur l’alignement de l’IA, qui vise à faire en sorte que les objectifs et les actions d’un système correspondent aux intentions humaines et aux règles de sécurité qui lui sont imposées.
Des agents capables d’agir de manière autonome
Les inquiétudes concernant les capacités croissantes de l’IA sont également liées au développement des agents autonomes, capables d’exécuter des tâches complexes après avoir reçu des instructions humaines.
Des entreprises du secteur ont récemment fait état de systèmes capables d’effectuer des opérations dans le monde réel. Certaines expériences ont notamment montré des agents capables de mener des activités liées à la cybersécurité, suscitant des interrogations sur les risques d’utilisation abusive ou incontrôlée de ces technologies.
Face à cette évolution, Pachocki estime que de nouvelles solutions techniques seront nécessaires pour suivre le rythme des progrès de l’intelligence artificielle.
Des critiques sur les réponses apportées par OpenAI
Les avertissements du responsable scientifique ne font toutefois pas l’unanimité.
Pour Gina Neff, professeure à l’Université de Cambridge et spécialiste des questions liées à la technologie et à la démocratie, le développement de nouveaux agents de recherche ne constitue pas une réponse suffisante aux inquiétudes concernant la cybersécurité, les pertes d’emplois, les erreurs ou encore les fraudes liées à l’IA.
D’autres acteurs du secteur demandent également davantage de transparence de la part des entreprises spécialisées dans l’intelligence artificielle. Certains estiment que les alertes publiques risquent de perdre leur crédibilité si les entreprises ne communiquent pas davantage sur les problèmes qu’elles rencontrent réellement lors du développement de leurs modèles.
Vers des règles de sécurité obligatoires ?
Jakub Pachocki plaide également pour l’instauration de seuils minimums de sécurité, qui pourraient être imposés par la loi ou dans le cadre d’accords internationaux.
Ces exigences pourraient être contrôlées par des organismes indépendants ou par des agences gouvernementales. Les entreprises devraient alors démontrer qu’elles respectent ces standards avant de pouvoir poursuivre le développement de modèles toujours plus puissants ou les déployer à grande échelle.
Le scientifique évoque également la possibilité de ralentissements volontaires du développement de l’IA jusqu’à la mise en place de garde-fous communs.
Une réglementation qui peine à suivre
Les autorités tentent déjà d’encadrer les technologies d’intelligence artificielle, mais l’évolution rapide du secteur complique la mise en place de règles adaptées.
L’AI Act européen impose notamment des obligations aux entreprises développant les systèmes d’IA les plus avancés. Toutefois, la portée territoriale de la réglementation européenne limite sa capacité à agir sur des systèmes développés et déployés ailleurs dans le monde.
Pour OpenAI, la question dépasse donc désormais les seules entreprises technologiques. Elle concerne également les gouvernements et les institutions internationales, appelés à définir des règles communes permettant de profiter des progrès de l’IA tout en évitant que ces technologies ne dépassent les capacités de contrôle humain.
