Maglor - Le chercheur d’origine marocaine, reconnu comme l’un des pères de l’intelligence artificielle, se mobilise pour développer des systèmes capables de surveiller et de limiter les risques liés aux IA autonomes.
Montréal devient une nouvelle fois le théâtre d’une initiative majeure dans le domaine de l’intelligence artificielle (IA). Yoshua Bengio, professeur renommé et lauréat du prix Turing 2018 (souvent considéré comme le « Nobel de l’informatique »), vient de créer LoiZéro, une organisation à but non lucratif dédiée à une IA responsable.
L’objectif affiché : développer des logiciels capables de prévenir les comportements dangereux ou trompeurs des agents IA autonomes. « L’un des premiers objectifs est de développer une forme d’IA qui puisse être utilisée comme un garde-fou pour faire en sorte que l’IA se comporte bien », a expliqué le chercheur dans une vidéo de présentation publiée sur le site de l’organisation.
Une réponse à la montée des risques
Pour Yoshua Bengio, le développement rapide des systèmes d’IA les plus avancés n’est pas sans danger.
« Les systèmes les plus avancés montrent déjà des signes d’instinct de conservation et de comportements trompeurs. […] Et cela ne va faire qu’accélérer à mesure que leurs capacités et leur autonomie augmentent », a-t-il alerté.
LoiZéro ambitionne de concevoir une nouvelle génération de modèles d’IA générative capables de superviser leurs semblables. Ces modèles pourraient effectuer des tâches variées – de la recherche en ligne à la programmation informatique – tout en limitant leur autonomie pour garantir un usage sécurisé.
Vers une IA « honnête » et non manipulatrice
Bengio, qui compare les IA actuelles à des « acteurs » cherchant à satisfaire leurs utilisateurs, imagine un système plus transparent.
« Nous voulons construire des IA qui seront honnêtes et non trompeuses. Il est théoriquement possible d’imaginer des machines qui n’ont pas de soi, pas d’objectif propre, qui sont simplement de pures machines de connaissance », affirme-t-il.
Son projet phare, Scientist IA, s’apparenterait à un « psychologue » capable d’anticiper les comportements problématiques des agents intelligents.
Une équipe internationale soutenue par des géants de la tech
Plus de 15 chercheurs collaborent déjà au sein de LoiZéro, avec le soutien de plusieurs acteurs influents du secteur :
- Future of Life Institute, organisme spécialisé dans la sécurité de l’IA ;
- Jaan Tallinn, cofondateur de Skype ;
- Schmidt Sciences, organisation philanthropique lancée par l’ancien PDG de Google Eric Schmidt et son épouse Wendy.
Cette initiative s’inscrit dans un contexte mondial marqué par une inquiétude croissante face aux risques de dérives de l’IA, alors que ces systèmes deviennent plus puissants et autonomes.