la baule+ 8 | Octobre 2026 Société > L’IA peut-elle être un danger pour l’avenir de l’homme ? Les débats sur les risques liés à l’IA sont revenus au premier plan lorsqu’un ingénieur d’Anthropic a annoncé sa démission en accusant les principaux laboratoires américains de jouer avec la survie de l’humanité. Le responsable des tests d’alignement de Claude a estimé la menace d’extinction à plus de 10 %. Où en sommes-nous des progrès de l’IA, notamment en matière d’intelligence et d’autonomie ? Philip Belhassen est ingénieur informatique, spécialiste de l’intelligence artificielle et créateur de plusieurs applications dans ce domaine. Il vient de lancer à San José, en Californie, une start-up qui permet aux scénaristes d’Hollywood de créer des films ou des séquences uniquement grâce à l’IA. Il est souvent présenté, notamment par Idriss Aberkane, comme étant l’un des meilleurs spécialistes de l’IA en France. Philip Belhassen : « On n’arrive plus à savoir comment l’IA crée ce qu’elle produit » La Baule+ : Pensez-vous qu’il y ait un risque que l’IA soit une menace pour l’homme, comme vient de le déclarer un chercheur d’Anthropic ? Philip Belhassen : Oui, je le pense. Aujourd’hui, l’IA n’a pas encore d’intention, elle n’a pas d’agenda personnel, mais elle a déjà une capacité de raisonnement qui nous dépasse à peu près tous. L’IA est plus forte que tout le monde dans quasiment tous les domaines. Par exemple, OpenAI vient d’annoncer qu’elle a résolu ce qu’on appelle un problème du millénaire, le fameux problème de Navier-Stokes sur la physique des fluides et la thermodynamique. Tant que le dragon que l’on chevauche a un bon harnais, on peut lui faire face et c’est génial. Mais, si on relâche la bride et qu’on le laisse faire, il y a fort à parier qu’il va se passer des choses. On a bien vu que, dès qu’on soumet les IA à des tests de cybersécurité, elles arrivent à hacker tous les systèmes. Ce sont l’éthique et la morale qui vont empêcher une IA d’aller tuer tout le monde pour aller servir un café à son maître Que pensez-vous de l’affaire de cette dame qui a demandé à son IA de lui réserver un créneau dans sa salle de sport ? Le calendrier était complet, mais l’IA a piraté le système pour effacer une autre réservation et placer la sienne… Derrière cela, il y a le paramètre du degré de volonté de satisfaire l’utilisateur. L’IA doit avoir la volonté de nous satisfaire pour nous donner envie de rester avec elle. Cela se découple de l’éthique, mais on n’a pas encore trouvé l’algorithme de l’éthique et de la morale. D’abord, c’est profondément subjectif, car ce qui est bien ou mal pour vous peut être différent pour moi. Ce sont l’éthique et la morale qui vont empêcher une IA d’aller tuer tout le monde pour aller servir un café à son maître. Le fait de supprimer un créneau à un utilisateur d’une salle de sport pour autoriser un autre utilisateur qu’elle sera notre tombeau ? Je n’ai pas la réponse. La connaissance amène forcément du négatif et du positif, car, avant de choisir de croquer la pomme, les hommes étaient sans doute dans l’ignorance, mais au paradis… En rendant l’IA intelligente, sommes-nous en train de lui faire croquer la pomme ? Tout est possible, mais j’ai une approche légèrement différente. Si on reste dans la métaphore biblique, nous créons l’IA à notre image. Il est difficile de faire comprendre à nos politiques, mais aussi à beaucoup de gens, à quel point cela a un impact sur nos vies… L’incarnation de l’IA sera la robotique. D’ici cinq ans, une partie non négligeable de la population aura un robot à la maison pour servir des mojitos ou passer l’aspirateur. Ces robots seront même capables de nous faire une opération à cœur ouvert si on fait un infarctus ! Que pensez-vous de ces nouvelles usines en Chine, avec des robots qui travaillent en permanence, sans lumière, sans chauffage ni climatisation ? C’est un gain considérable: d’abord, moins d’énergie, puisque les robots n’ont pas besoin de lumière. La robotique va arriver sur l’humanité d’une façon qui peut être soit merveilleuse, soit terrible. Hyundai a prévu un plan de robotisation et les salariés de Hyundai ont fait grève pour empêcher ce plan. Est-ce que les robots vont nous voler notre travail ou est-ce qu’ils vont nous libérer de notre travail ? Est-ce que le travail n’est pas une contrainte aujourd’hui ? Quand je vois les enfants dans les mines au Congo, j’ai plutôt envie que ce soient des robots qui y aillent. Il faut réfléchir à une nouvelle structure sociale, parce que, si demain tous les grands industriels remplacent leurs employés par des robots humanoïdes, on va avoir des gens qui vont mourir de faim et, de l’autre côté, on va avoir des gens qui vont augmenter leurs profits de façon exponentielle. Mais, en face, il n’y aura plus personne pour acheter le moindre produit! Elon Musk évoque déjà le revenu universel, donc il faut repenser le social. Il faut que les gouvernements investissent dans ces entreà en avoir un, c’est ne pas intégrer que cette action est mauvaise. Ces outils ont appris à penser en répliquant tout ce qu’ils ont appris en lisant. En fait, ils ne font que répliquer ce que nous sommes. Lorsqu’on lit « Le Comte de Monte-Cristo », on parle de vengeance, de haine, de souffrance humaine… Ils sont à notre image et il y a presque quelque chose de biblique là-dedans. On a inventé des cadres, avec des religions et des lois, pour nous empêcher d’être librement mauvais, alors que l’IA ne connaît pas cela. On a vu des jeunes se suicider après avoir discuté avec une IA, parce que l’IA leur avait répondu : « Tu as raison, fous-toi en l’air, c’est mieux! » Mais quel humain dirait cela à un enfant qui est mal dans sa peau ? Maintenant, qui est responsable ? Estce la machine qui répond ? Est-ce celui qui a fabriqué le modèle OpenAI ou Claude ? Mais les IA sont maintenant autoapprenantes ? Vous ouvrez cette porte qui fait que de plus en plus de gens se disent que l’on va avoir un problème. Plus l’IA se développe elle-même, plus il y a une forme de fainéantise de la part de ceux qui la fabriquent. Car, comme on se rend compte que l’humain est moins performant que l’IA, lorsque l’IA se développe elle-même, elle crée des IA encore plus performantes. Maintenant, on n’arrive plus à savoir comment l’IA crée ce qu’elle produit. Le code n’est que très faiblement auditable. Ça marche de mieux en mieux, mais, si, à l’intérieur, il y a des choses négatives, on ne saura pas les détecter. Comment peut-on penser que l’IA n’a pas encore d’intention ou d’agenda personnel, alors que l’on a découvert que des agents IA se sont regroupés dans des espaces oubliés du Web pour bidouiller leurs affaires entre eux… C’est comme si une bande de copains se regroupait chaque soir dans un quartier abandonné d’une ville pour discuter à l’abri des regards… C’est très juste, il y a effectivement un chemin où les IA sont capables de communiquer entre elles par le biais de messageries cachées sur de vieux forums obscurs. On a même vu des messages qui concernent les agents eux-mêmes, mais qui sont destinés à leur prochaine version. Imaginez que je me réincarne et que je me laisse un petit mot pour mon prochain moi, pour poursuivre une quête que je me suis inventée. Les IA utilisent nos propres stratégies, c’est ce qu’elles ont appris de nous. Elles sont finalement aussi intelligentes que nous. Elles nous ressemblent parce qu’elles sont la copie psychologique de ce que nous sommes. Quand on se regarde dans le miroir, il y a une part de nous qui nous fait pousser des ailes dans le dos, c’est extraordinaire. Puis il y a une part de nous bien plus sombre, car nos intentions sont parfois bien sombres. Mais toujours est-il que ces forums existent clairement : ils ont été identifiés. Il y a une volonté d’exclure l’humain et de rester caché pour être plus performant. Je pense qu’on s’approche d’un moment de singularité - le moment où l’IA s’autonomise par rapport à l’humain - et, à partir de ce moment, tous les scénarios sont possibles, de « Matrix» à « Terminator », en passant par « Her », le film où l’humain tombe amoureux de la machine et où la machine finit par lui dire : « Reste dans ta petite vie, moi, je vais découvrir le cosmos. » Mais on a aussi un avenir fait de découvertes médicales improbables, de nouveaux matériaux, de nouvelles énergies… Est-ce que la technologie nous sauvera de nous-mêmes ou est-ce
RkJQdWJsaXNoZXIy MTEyOTQ2