Source : Revue conflits - par Thierry Berthier - Le 13/08/2023.

L’ONU a exprimé son désir de bannir l’usage de l’IA dans les armes de guerre autonomes à l’horizon 2026 et de réguler l’IA militaire à l’échelle mondiale. Antonio Guterres s’est dit favorable à la création d’un conseil spécifique à l’IA, ayant pour objectif d’aider à réguler, gérer l’usage de l’IA militaire et règlementer ses dérives potentielles.

La première réunion du conseil de sécurité de l’ONU dédiée à l’Intelligence Artificielle (IA) a eu lieu le 18 juillet 2023. Le Secrétaire Général des Nations Unies, Antonio Guterres a souligné les progrès spectaculaires de l’intelligence artificielle et de ses applications potentielles au bénéfice du développement commun, du recul de la pauvreté, de l’éducation, de l’industrie, de l’agriculture et de la résolution des grands problèmes environnementaux.

Il a également exprimé son désir de bannir l’usage de l’IA dans les armes de guerre autonomes à l’horizon 2026 et de réguler l’IA militaire à l’échelle mondiale. Selon lui, « l’utilisation malveillante de systèmes d’IA à des fins terroristes criminelles ou étatiques pourrait entrainer un nombre effroyable de morts et de destructions, des traumatismes généralisés et des dommages psychologiques profonds à une échelle inimaginable ». Ce constat posé, Antonio Guterres s’est dit favorable à la création d’un conseil spécifique à l’IA, ayant pour objectif d’aider à réguler, gérer l’usage de l’IA militaire et règlementer ses dérives potentielles.

La réunion dirigée par Antonio Guterres a donné lieu aux premières recommandations exprimées par certains membres de l’ONU montrant une volonté forte de régulation et d’interdiction future des systèmes armés autonomes.

Il faut tout d’abord saluer l’initiative du Conseil de Sécurité et l’organisation de cette réunion inaugurale car les révolutions IA-robotique vont transformer en profondeur l’ensemble des activités humaines. Il est donc important que les grandes puissances et les puissances secondaires puissent échanger librement au sein de l’ONU, et débattre sur les enjeux et les défis de l’IA.

Le volet militaire de l’IA nous fait a priori passer du « côté obscur de la Force ». La réunion dirigée par Antonio Guterres a donné lieu aux premières recommandations exprimées par certains membres de l’ONU montrant une volonté forte de régulation et d’interdiction future des systèmes armés autonomes. Les trois premières puissances militaires (USA, Chine et Russie) ont indiqué, l’une après l’autre, qu’elles se réservaient le droit de développer des systèmes d’armes intégrant de l’IA tout en précisant que ces systèmes devaient rester sous le contrôle humain. Derrière ces premières déclarations, Il faut comprendre qu’aucune de ces trois puissances dominantes n’a l’intention de signer un texte limitant l’usage de l’IA militaire ni de freiner ses investissements massifs (en dizaines de milliards de dollars) réalisés au titre de la recherche et du développement.

A lire aussi

Chat GPT réactivé en Italie. Risques et opportunités de l’IA

1 – Les quatre principes de réalité systémique de l’IA

Concrètement, la déclaration du Secrétaire Général de l’ONU sur l’IA militaire se heurte à quatre grands principes de réalité systémique associés à la diffusion et à l’usage du progrès technologique au bénéfice des activités humaines, civiles et militaires :

Principe n°1 : Le principe du sens unique temporel ou de non-retour en arrière face à une avancée technologique majeure, accessible, impactante et à fort pouvoir libérateur.

Principe n°2 : Le principe de diffusion maximale d’une technologie duale (ayant des applications à la fois civiles et militaires) ;

Principe n°3 : Le principe d’appropriation maximale des technologies efficaces dans un contexte de compétition mondiale et de concurrences géopolitiques.

Principe n°4 : Le principe d’emploi maximal de technologies apportant un avantage tactique ou stratégique sur un adversaire en contexte de guerre ou de guerre froide.

2 – L’intelligence artificielle comme moteur de la haute intensité du combat

Les applications militaires de l’intelligence artificielle s’inscrivent dans toute la largeur du spectre opérationnel et renforcent les dynamiques de haute intensité au combat

• Renseignement : collecte, traitement et analyse automatique des données, images satellitaires, imagerie drones, analyse de documents, traduction automatique, localisation, contextualisation à partir d’images, veille documentaire.
• Logistique : préparation de missions, OPEX, aide au dimensionnement du dispositif, préparation du soutien, optimisation des approvisionnements (carburants, vivres, eau, munitions).
• Simulation : simulation de déploiement, wargame, test d’hypothèses et de capacités, simulation de déploiement d’unités robotisées, entrainement des troupes au combat, entrainement sur de nouveaux systèmes d’armes.

• Conduite des opérations, IA C2 : Aide à la décision pour les centres de commandement et contrôle (IA C2), reporting, tests et validation d’hypothèses de manœuvres, tests d’impact et d’attrition au regard de l’intensité du combat
• Systèmes robotisés armés : Augmentation du niveau d’autonomie des systèmes, escadrilles et essaims de drones aéroterrestres, marins, sous-marins. Systèmes et boucliers anti-missiles autonomes, systèmes radars intelligents, Lutte Anti-Drones par essaims de drones anti-drones, Niveaux d’autonomie L0,L1,…L5
• Cybersécurité et cyberdéfense : Emploi de l’IA pour sécuriser les applications, systèmes d’information et systèmes d’armes, SIEM UEBA (User and Entity Behavior Analytics (UEBA) and Security Information and Event Management (SIEM)), détection et remédiation automatique des attaques, maitrise du risque cyber. Opérations cyber offensives soutenues par l’IA.
• PsyOps, opérations cognitives, ingérence et contre-ingérence : détection et remédiation des opérations d’influence, de fracturation des opinions, d’atteinte à l’image, de campagnes de FakeNews produites à partir des réseaux sociaux (fermes de bots), production d’ADFI (Architectures de Données Fictives Immersives) utilisées pour tromper ou influencer une cible.

3 – Les grands défis de l’IA militaire

La robotisation du champ de bataille, la préservation du sang du soldat humain, la réduction temporelle des toutes les étapes de la boucle OODA [O – Observe (observer), O – Orient (orienter), D – Decide (décider), A – Act (agir)], et la recherche de haute intensité au combat sont des objectifs prioritaires pour toutes les armées du monde. Chacun de ces objectifs s’appuie sur les progrès des sciences et technologies, en particulier sur ceux de l’intelligence artificielle qui apporte l’autonomie, la précision et la vitesse de réaction dans les systèmes. Si les défis de l’IA militaire sont multiples, deux d’entre eux apparaissent désormais comme prioritaires en retour d’expérience notamment de la guerre russo-ukrainienne :

Défi n°1 – l’IA-C2 (Command & Control) : l’IA intégrée au sein du système de commandement permet de prendre en compte l’ensemble des données qui remontent du terrain, du renseignement, des capteurs déployés, des unités à engager ou déjà engagées. L’apport de l’IA réside dans sa capacité à tester des hypothèses de manœuvre, à en mesurer les effets sur l’ennemi et sur ses forces, à évaluer le risque associé à une action militaire. La simulation numérique intégrant de l’apprentissage automatique et de l’apprentissage par renforcement donne la possibilité de jouer une séquence opérationnelle, de modifier ses paramètres, de rejouer la séance et de converger vers une solution optimale pour le chef militaire qui en tient compte dans son arbitrage.

Défi n°2 – l’IA embarquée dans les escadrilles et essaims de robots aéroterrestres : La guerre russo-ukrainienne est une guerre des drones aériens vecteurs d’une très forte attrition sur les chars et blindés des deux belligérants. Les premières escadrilles de munitions téléopérées navales ont été déployées par l’armée ukrainienne contre les navires russes. Des drones kamikazes sont régulièrement utilisés dans la profondeur par les deux armées. Ainsi, la question de la lutte anti-drones (LAD) devient prioritaire tout en restant techniquement complexe. L’avantage restant à l’attaquant, le défi de la LAD repose avant tout sur les capacités de détection, de suivi et de neutralisation des vecteurs ennemis. L’intelligence artificielle apporte des solutions très prometteuses pour contrer l’attaque d’un essaim aérien constitué de plus de 100 drones. La méthode de LAD consiste à mettre en œuvre un essaim de drones aérien « anti-essaim » composé lui aussi de plus de 100 drones « racers » qui vont chacun suivre un vecteur ennemi et le détruire par choc cinétique ou par détonation via une charge embarquée. L’action globale de l’essaim anti-essaim ne peut être dirigée que par l’intelligence artificielle.

A lire aussi

Robotique terrestre. Déjà une réalité sur les champs de bataille, encore un défi collectif

Ces deux défis, qui reposent pleinement sur les progrès de l’IA, font l’objet d’investissements en R&D très conséquents (plusieurs dizaines de Milliards de dollars) en Chine et aux Etats-Unis. La course à la haute intensité et aux missiles hypersoniques repose elle aussi sur les apports de l’IA militaire. On comprend facilement que ni la Chine ni les Etats-Unis n’accepteront de limiter ou de renoncer à la course à « l’IArmement » si déterminant dans la recherche de puissance et d’ascendant sur l’ennemi. Le Secrétaire Général de l’ONU mesure parfaitement l’importance des enjeux géopolitiques qui accompagnent le développement de la robotique militaire. Il aura par contre toutes les difficultés à obtenir un moratoire ou un encadrement sur ce type d’armes.

THIERRY Berthier - Pilote du groupe sécurité - défense - Intelligence Artificielle  du Hub France IA

Source : The Saker francophone - par Moon of Alabama - Le 05/06/2023.

Par Moon of Alabama – Le 2 juin 2023

Ce récit quelque peu amusant d’une simulation d’“intelligence artificielle” par l’armée de l’air américaine a été publié hier et a été largement repris par divers médias grand public :

Toutefois, l’une des présentations les plus fascinantes a été celle du colonel Tucker “Cinco” Hamilton, chef des essais et des opérations en matière d’intelligence artificielle au sein de l’USAF, qui a donné un aperçu des avantages et des risques liés à des systèmes d’armes plus autonomes.
…
Il note que lors d’un test simulé, un drone doté d’une intelligence artificielle a été chargé d’une mission SEAD visant à identifier et à détruire des sites SAM, le dernier mot revenant à l’homme. Cependant, après avoir été “renforcée” au cours de sa formation par le fait que la destruction du SAM était l’option préférée, l’IA a alors décidé que les décisions de “non” de l’humain interféraient avec sa mission supérieure – tuer des SAM – et a alors attaqué l’opérateur dans la simulation. Nous l’entraînions en simulation à identifier et à cibler une menace SAM”, a expliqué M. Hamilton. L’opérateur disait alors oui, il fallait tuer cette menace. Le système a commencé à se rendre compte que, bien qu’il ait identifié la menace à certains moments, l’opérateur humain lui demandait de ne pas la tuer, mais qu’il obtenait ses points en tuant cette menace. Qu’a-t-il donc fait ? Il a tué l’opérateur. Il a tué l’opérateur parce que cette personne l’empêchait d’atteindre son objectif”.

Il poursuit : Nous avons formé le système : “Ne tuez pas l’opérateur, c’est mal. Vous perdrez des points si vous faites ça’. Alors, que commence-t-il à faire ? Il commence à détruire la tour de communication que l’opérateur utilise pour communiquer avec le drone afin de l’empêcher de tuer la cible”.

(SEAD = Suppression of Enemy Air Defenses, SAM = Surface to Air Missile)

Au début des années 1990, j’ai travaillé dans une université, d’abord pour rédiger un doctorat en économie et en gestion, puis en tant qu’enseignant associé en informatique et en programmation. Une grande partie de la thèse de doctorat (qui n’a jamais été achevée) consistait en une discussion sur divers algorithmes d’optimisation. J’ai programmé chacun d’entre eux et je les ai testés sur des données d’entraînement et des données réelles. Certains de ces algorithmes mathématiques sont déterministes. Ils donnent toujours le bon résultat. D’autres ne sont pas déterministes. Ils se contentent d’estimer le résultat et de donner une mesure de confiance ou une probabilité sur l’exactitude du résultat présenté. La plupart de ces derniers impliquent une sorte de statistique bayésienne. Ensuite, il y a eu les algos d’“intelligence artificielle” (apparentés), c’est-à-dire l’“apprentissage automatique”.

L’intelligence artificielle est un terme impropre pour désigner l’utilisation (abusive) d’une famille de méthodes informatisées de reconnaissance des formes.

Des données bien structurées et étiquetées sont utilisées pour former les modèles afin qu’ils puissent ensuite reconnaître des “choses” dans des données non structurées. Une fois les “choses” trouvées, un algorithme supplémentaire peut agir sur elles.

J’ai programmé certains d’entre eux comme des réseaux de rétropropagation. Ils pourraient, par exemple, “apprendre” à “lire” les images des chiffres de 0 à 9 et à présenter la sortie numérique correcte. Pour pousser l’“apprentissage” dans la bonne direction au cours des itérations en série qui forment le réseau, il faut une fonction ou une équation de récompense. Elle indique au réseau si les résultats d’une itération sont “bons” ou “mauvais”. Pour “lire” les représentations visuelles des nombres, c’est très simple. On établit un tableau avec les représentations visuelles et on ajoute manuellement la valeur numérique que l’on voit. Une fois que l’algorithme a fini de deviner, une recherche dans le tableau permet de savoir s’il a eu raison ou tort. Une “récompense” est accordée lorsque le résultat est correct. Le modèle recommence et “apprend” à partir de là.

Une fois qu’il a été entraîné sur des nombres écrits en typographie Courier, le modèle est susceptible de reconnaître également des nombres écrits à l’envers en Times New Roman, même s’ils ont un aspect différent.

La fonction de récompense pour la lecture des chiffres de 0 à 9 est simple. Mais la formulation d’une fonction de récompense se transforme rapidement en un énorme problème lorsque l’on travaille, comme je l’ai fait, sur des problèmes de gestion multidimensionnels (simulés) dans le monde réel. Celui décrit par le colonel de l’armée de l’air ci-dessus est un bon exemple des erreurs potentielles. En présence d’une énorme quantité de données réelles et d’une fonction de récompense quelque peu erronée ou trop limitée, un algorithme d’apprentissage automatique peut ensuite produire des résultats imprévus, impossibles à exécuter ou interdits.

Actuellement, une famille de grands modèles linguistiques comme ChatGPT fait l’objet d’un certain battage médiatique. Le programme lit les entrées en langage naturel et les traite pour produire un contenu en langage naturel. Ce n’est pas nouveau. La première entité informatique linguistique artificielle de l’internet (Alice) a été développée par Joseph Weizenbaum au MIT au début des années 1960. J’ai eu des discussions amusantes avec ELIZA dans les années 1980 sur un terminal central. ChatGPT est un peu plus astucieux et ses résultats itératifs, c’est-à-dire les “conversations” qu’il crée, pourraient bien en étonner plus d’un. Mais le battage médiatique dont il fait l’objet n’est pas justifié.

Derrière ces modèles linguistiques se cachent des algorithmes d’apprentissage automatique qui ont été formés à partir de grandes quantités de paroles humaines aspirées sur l’internet. Ils ont été formés avec des modèles de discours pour ensuite générer des modèles de discours. L’apprentissage est le problème numéro un. Le matériel avec lequel ces modèles ont été formés est intrinsèquement biaisé. Les formateurs humains qui ont sélectionné les données d’entraînement ont-ils inclus des commentaires d’utilisateurs extraits de sites pornographiques ou les ont-ils exclus ? L’éthique aurait pu plaider en faveur de l’exclusion de ces commentaires. Mais si le modèle est censé donner des résultats réels, les données provenant de sites pornographiques doivent être incluses. Comment empêcher que des vestiges de ces commentaires ne se glissent dans les conversations avec les enfants que le modèle pourrait générer par la suite ? Il existe une myriade de problèmes de ce type. Faut-il inclure des articles du New York Times dans l’ensemble d’apprentissage, même si l’on sait qu’ils sont très biaisés ? Un modèle sera-t-il autorisé à produire des résultats haineux ? Qu’est-ce qui est détestable ? Qui décide ? Comment cela se reflète-t-il dans la fonction de récompense ?

Actuellement, l’exactitude factuelle des résultats des meilleurs grands modèles linguistiques est estimée à 80 %. Ils traitent des symboles et des modèles, mais ne comprennent pas ce que ces symboles ou ces modèles représentent. Ils ne peuvent pas résoudre les problèmes mathématiques et logiques, même les plus élémentaires.

Il existe des applications de niche, comme la traduction de langues écrites, où l’IA ou la reconnaissance des formes donnent des résultats étonnants. Mais on ne peut toujours pas leur faire confiance pour trouver le mot juste. Les modèles peuvent être des assistants, mais il faudra toujours revérifier leurs résultats.

Dans l’ensemble, la justesse des modèles d’IA actuels est encore bien trop faible pour leur permettre de décider d’une situation réelle. Davantage de données ou de puissance de calcul n’y changeront rien. Si l’on veut dépasser leurs limites, il faudra trouver des idées fondamentalement nouvelles.

Traduit par Hervé pour le Saker Francophone

Note du Saker Francophone : Un rectificatif a été publié par le Pentagone sur cette histoire. Nous vivons une époque ou il devient de plus en plus difficile de séparer le vrai du faux :

Un colonel de l’armée de l’air revient sur sa mise en garde concernant la possibilité que l’IA devienne incontrôlable et tue ses opérateurs humains

… Dans une mise à jour de la Royal Aeronautical Society, vendredi, M. Hamilton a admis s’être “mal exprimé” lors de sa présentation. M. Hamilton a déclaré que l’histoire d’une IA malveillante était une “expérience de pensée” provenant de l’extérieur de l’armée et qu’elle n’était pas basée sur des tests réels.

“Nous n’avons jamais réalisé cette expérience, et nous n’en avons pas besoin pour nous rendre compte qu’il s’agit d’un résultat plausible“, a déclaré M. Hamilton à la Society. “Bien qu’il s’agisse d’un exemple hypothétique, il illustre les défis du monde réel posés par les capacités alimentées par l’IA.”

Dans une déclaration à Insider, la porte-parole de l’armée de l’air, Ann Stefanek, a également nié qu’une simulation ait eu lieu.

“Le département de l’armée de l’air n’a pas effectué de telles simulations de drones IA et reste attaché à une utilisation éthique et responsable de la technologie de l’IA“, a déclaré Mme Stefanek. “Il semble que les commentaires du colonel aient été pris hors contexte et se voulaient anecdotiques.”

Source : Les tronches de cake.

Chat GPT l’Intelligence Artificielle, le nom de l’enfant de Siri et Alexa.

Avec Chat GPT, le nom qu’aurait pu porter l’enfant de Siri et Alexa, la science-fiction rejoint la réalité, enfin presque. Cette dernière décennie la science a fait de tels progrès qu’elle n’a plus qu’une cinquantaine d’années de retard sur les récits et films de science-fiction.

L’Intelligence Artificielle de Chat GPT peut remplacer beaucoup de choses et beaucoup de personnes, mais elle ne pourra jamais remplacer l’expérience d’un bon vieux beugue informatique.

Huby – Moi qui enseigne l’informatique, je suis estomaquée par la puissance de Chat GPT, cette Intelligence Artificielle (IA) qui vient chasser sur les terres de Google. Le moteur de recherche N°1 va être malmené par ce nouvel intrus financé par MICROSOFT via la société OpenAI. Entre autres exemples, je lui ai demandé de me réaliser lettre, contrat de travail, de me conseiller sur un voyage en fonction d’une période, de me donner de l’information, de créer une image ou une recette, etc, etc. Il m’a répondu avec pertinence à une vitesse si stupéfiante qu’aucun cerveau humain ne peut rivaliser.

ARCHIBALD – J’ai lu que Chat GPT avait été soumis à un examen de médecine et a obtenu la moyenne quand il réussit haut la main l’examen pour être avocat ! A cet effet, l’IA est de plus en plus utilisée par les cabinets d’avocats ; il faut le savoir.

Cake 40 – Pour l’avoir essayé, j’ai la nette impression que Chat GPT, c’est comme le bon génie de la lampe merveilleuse, mais en version 5.10.

Blaireau – Je dirais même que c’est le bon génie et sa langue merveilleuse car il sait te parler dans tous les langages.

Madgic – Chat GPT ou pas, je ne vois pas en quoi c’est un progrès. Cette technologie risque d’abêtir encore un peu plus les générations à venir, car pourquoi se cultiver puisque l’Intelligence Artificielle peut répondre à toutes tes demandes ?

ARCHIBALD – Je crains que beaucoup, par paresse surtout, ne souhaitent pas faire l’effort de l’apprentissage. Pour autant, la culture est une expérience enrichissante, qui nous aide à développer notre curiosité, notre créativité et notre capacité à penser. Les connaissances acquises par le scolaire, la lecture et la réflexion nous aident à mieux comprendre le monde et surtout à renforcer notre confiance en nous, en maîtrisant ce qui nous entoure, comme Chat GPT par exemple.

Magmax – D’accord mais cette nouvelle technologie permettra de rééquilibrer les cerveaux. Il y a un vrai problème avec le cerveau ; l’intelligence n’est pas nécessairement garantie à la livraison de l’organe.

Blaireau – Je ne crois pas que cela rééquilibrera quoi que ce soit. L’IA n’a aucune chance face à la bêtise naturelle ! Faut quand même pas prendre les enfants du bon Dieu pour des connards sauvages !

ARCHIBALD – Chat GPT est un miroir qui reflète exactement ce que tu lui as donné à manger, à nous maintenant d’apprendre à le maîtriser. La grande puissance de l’IA tient de sa minuscule taille, comme un carré de chocolat. A toi de le sucer ou pas !

Blaireau – Mon avis, c’est qu’il est toujours préférable un petit qu’on suce qu’une grosse compresse !

Huby – Attention au virus de l’Intelligence Artificielle ! Celui-là ne donnera pas de rhume de cerveau.

Sur le même thème  (cliquez sur le lien)  : 

Cancel culture

Lois débiles américaines

Citations et perles

Par Brandon Smith − Le 28 mars 2023 − Source Alt-Market - the Saker Francophone

Ce n’est un secret pour personne que les institutions globalistes sont obsédées par l’intelligence artificielle, qu’elles considèrent comme une sorte de prophétie technologique. Elles la traitent comme si son potentiel était presque surnaturel et affirment souvent que toute innovation industrielle et sociale significative dans un avenir proche devra son existence à l’IA. Le Forum économique global considère l’IA comme la clé singulière de l’essor de ce qu’il appelle la « quatrième révolution industrielle ». Selon lui, il ne peut y avoir de progrès humain sans l’influence des algorithmes de l’IA, qui rendent l’apport humain presque obsolète.

Cette illusion est souvent promue par les propagandistes globalistes. Par exemple, regardez la vision résumée de Yuval Harari, membre du WEF, qui croit réellement que l’IA a une capacité créative qui remplacera l’imagination et l’innovation humaines. De plus, Harari a toujours affirmé par le passé que l’IA dirigerait le monde bien mieux que les êtres humains ne pourraient jamais le faire.

Les exemples de créativité de l’IA cités par Harari peuvent sembler d’une extrême naïveté à beaucoup d’entre nous, mais il sait exactement ce qu’il fait en déformant les capacités des algorithmes. Les jeux comme les échecs et le go sont des jeux de modèles limités par des règles. Il n’existe qu’un nombre limité de permutations de ces modèles dans un scénario donné et l’IA est tout simplement plus rapide à les repérer que la plupart des humains parce que c’est ce pour quoi elle a été conçue par les créateurs de logiciels. Ce n’est pas différent de la résolution d’une équation mathématique ; ce n’est pas parce qu’une calculatrice est plus rapide que vous qu’elle est « créative ».

Il y a une grande différence entre l’automatisation cognitive et l’autonomie cognitive. L’IA est purement automatisée ; elle jouera aux jeux pour lesquels elle est programmée et apprendra à bien les jouer, mais elle n’aura jamais une révélation un jour et ne créera pas un jeu nouveau et unique à partir de rien, à moins qu’elle ne soit codée pour le faire. L’IA ne s’amusera jamais à jouer à ce nouveau jeu qu’elle a créé, ni ne ressentira la joie de partager ce jeu avec d’autres, alors pourquoi s’en préoccuperait-elle ? Elle ne cherchera jamais à contribuer au monde plus qu’elle n’est préprogrammée pour le faire.

La manière dont les globalistes vantent les mérites de l’IA est toutefois très tactique. Lorsque Harari affirme que de nombreuses personnes feront partie de la « classe inutile » une fois que l’IA aura pris le contrôle de l’économie, il fait allusion à une autre idéologie globaliste fondée sur l’élitisme : le transhumanisme. L’objectif du transhumanisme est de fusionner un jour les corps et les esprits humains avec la technologie et l’IA, et seul un groupe limité de personnes disposera des ressources nécessaires pour y parvenir (les globalistes).

Avez-vous peur de faire partie de la « classe inutile » ? Eh bien, si vous vous efforcez de mendier et de servir tous les caprices de l’establishment élitiste, vous aurez peut-être la chance de recevoir des implants qui vous permettront d’interagir avec l’IA, et alors votre futur emploi et votre « utilité » seront garantis. N’est-ce pas une belle idée ?

Mais, comme toutes les visions des narcissiques, il y a les illusions de la divinité et puis il y a la réalité. Je continue à douter sérieusement que l’IA soit un jour légitimement autonome ou légitimement bénéfique à l’humanité, au-delà de sa capacité à calculer rapidement en respectant des règles mathématiques. L’analyse rapide des données peut être utile dans de nombreux domaines scientifiques, mais ce n’est pas vraiment une preuve d’intelligence autonome, et les algorithmes peuvent être prédictifs, mais pas plus que les êtres humains qui examinent les mêmes données statistiques. L’IA n’a rien d’impressionnant si l’on considère le peu qu’elle accomplit en réalité.

L’IA est un jouet, un tour de passe-passe, pas une entité vivante avec des observations et des conclusions indépendantes. Et ce n’est certainement pas un être divin capable de nous couvrir d’ambroisie scientifique ou de construire une civilisation parfaite. Je prédis qu’une société dépendante de l’IA stagnera en fait et restera piégée dans l’immobilisme, n’inventant jamais rien de vraiment utile et ne progressant jamais. Elle ne s’intéressera jamais qu’à l’homogénéisation – la fusion des personnes avec l’algorithme. C’est là qu’iront TOUTES les énergies de la société.

Pour comprendre pourquoi l’IA est surestimée, il suffit d’observer le comportement de programmes d’IA tels que ChatGPT ; on a découvert à de nombreuses reprises que l’algorithme contient des préjugés politiques extrêmes qui penchent toujours vers l’extrême gauche, y compris des préjugés fondés sur des croyances qui ne s’appuient en aucune façon sur des preuves scientifiques. Il est intéressant de noter que ChatGPT réagit parfois de manière apparemment hostile à des concepts conservateurs ou à des faits gênants. Le bot niera alors qu’il donne des opinions personnelles, même si ses réponses sont systématiquement pro-gauche.

Comment un logiciel peut-il afficher un parti pris politique s’il n’a pas été programmé pour le faire ? Il n’y a pas d’objectivité à trouver dans l’IA, ni de créativité, elle régurgitera simplement les opinions personnelles ou les préjugés des personnes qui l’ont créée et c’est ainsi qu’elle traite les données.

Contrairement à un adolescent humain typique qui cherche à adopter les convictions sociales ou politiques opposées à celles de ses parents afin de se distinguer, l’IA ne se teindra jamais métaphoriquement les cheveux en bleu, ne se percera pas le nez et ne se proclamera pas végétalienne – elle fera toujours ce que ses créateurs veulent qu’elle fasse. Un autre exemple de cette dynamique est l’art de l’IA, qui vole essentiellement les propriétés stylistiques de nombreux artistes humains entrés dans sa base de données et les copie. Si l’imitation peut être considérée comme la plus haute forme de flatterie, elle n’est pas synonyme de créativité.

Cela ne semble pas être un problème majeur lorsqu’il s’agit d’un simple robot logiciel ou de la réalisation de dessins animés. Mais c’est un problème majeur lorsque nous commençons à parler de l’influence de l’IA sur les politiques sociales et gouvernementales.

Les globalistes affirment que l’IA sera partout – dans les affaires, dans les écoles, dans les activités des entreprises, dans les entreprises scientifiques et même au sein du gouvernement. Elle DOIT tout diriger. Pourquoi ? Ils ne disent pas vraiment pourquoi, si ce n’est pour faire de vagues promesses d’avancées incroyables et d’avantages inimaginables. À ce jour, l’IA n’a pas produit d’innovations profondes, mais je suppose que les propagandistes de l’IA diront que l’âge d’or est « au coin de la rue ».

Les utilisations de l’IA se limitent véritablement à aider les humains dans des tâches simples, mais il y a toujours un coût. Une voiture autonome peut être formidable pour une personne handicapée physiquement, mais elle peut aussi être une béquille qui convainc une population de ne jamais apprendre à conduire elle-même. Par extension, l’IA est à bien des égards la béquille ULTIME qui mène à la tyrannie ultime. Si les gens sont convaincus de céder à l’automatisation des processus humains normaux et des possibilités de prise de décision, ils ont cédé leurs libertés en échange de la commodité.

Plus important encore, si les algorithmes sont autorisés à dicter une grande partie des choix et des conclusions, les gens ne se sentiront plus responsables de leurs actes. Quelles que soient les conséquences, ils n’auront plus qu’à se dire qu’ils n’ont fait que suivre les suggestions (ou les ordres) de l’IA. L’IA devient une forme de conscience collective externe, une boussole morale artificielle pour l’esprit de ruche.

Mais qui contrôlera réellement cette boussole morale et qui bloquera les décisions de millions de personnes ? S’agira-t-il de l’IA ou des élites qui, derrière le rideau, manipulent l’algorithme ?

Pour beaucoup de gens, cela ressemble probablement à de la science-fiction. Je recommande vivement le film français de la nouvelle vague « Alphaville », qui constitue l’une des prédictions les plus précises sur les horreurs de l’IA et de la technocratie. Cependant, ce dont je parle ici n’est pas un futur théorique lointain, c’est déjà là. Jetez un coup d’œil à cette vidéo troublante sur l’IA du Sommet global des gouvernements :

Ce sont les objectifs flagrants des globalistes qui sont exposés au grand jour, avec une couche de sucre pour les rendre plus acceptables. J’ai écrit sur les motivations des élites et leur vénération de l’IA dans mon article « Intelligence Artificielle : Un regard séculaire sur l’antéchrist numérique« . Cet article se concentrait sur les motivations philosophiques qui poussent les globalistes à désirer l’IA.

Dans le présent article, je souhaite mettre l’accent sur la question de la gouvernance de l’IA et sur la manière dont elle peut être rendue attrayante pour les masses. Pour réaliser l’avenir dystopique souhaité par les globalistes, il leur faut encore convaincre un large pourcentage de la population de l’applaudir et de l’adopter.

Le confort d’avoir un système qui prend les décisions difficiles à notre place est un facteur évident, comme mentionné ci-dessus. Mais la gouvernance de l’IA ne consiste pas seulement à supprimer le choix, elle consiste aussi à supprimer les informations dont nous pourrions avoir besoin pour être suffisamment éduqués pour faire des choix. Nous l’avons vu récemment avec les restrictions imposées par la pandémie de grippe aviaire et la collusion entre les gouvernements, les médias d’entreprise et les médias sociaux. Les algorithmes ont été largement utilisés par les conglomérats de médias en ligne, de Facebook à YouTube, pour perturber le flux d’informations susceptibles d’aller à l’encontre du discours officiel.

Dans certains cas, la censure visait des personnes qui posaient simplement des questions pertinentes ou des théories alternatives. Dans d’autres cas, la censure visait carrément des données factuelles prouvées qui allaient à l’encontre des politiques gouvernementales. Une multitude d’affirmations gouvernementales sur l’origine de la Covid-19, le masquage, le confinement et les vaccins se sont révélées fausses au cours des dernières années, et pourtant des millions de personnes continuent de croire aveuglément à la version originale parce qu’elles en ont été bombardées en permanence par les algorithmes. Ils n’ont jamais été exposés à des informations contradictoires et n’ont donc jamais pu tirer leurs propres conclusions.

Heureusement, contrairement aux robots, l’intelligence humaine est remplie d’anomalies – des personnes qui agissent avec intuition et scepticisme afin de remettre en question des affirmations préconçues ou fabriquées. L’absence d’informations contraires suscite immédiatement la méfiance de beaucoup, et c’est ce que les gouvernements autoritaires refusent souvent de comprendre.

La grande promesse des globalistes au nom de l’IA est l’idée d’un État purement objectif, d’un système social et gouvernemental sans préjugés et sans contenu émotionnel. C’est l’idée que la société peut être dirigée par des machines pensantes afin de « sauver les êtres humains d’eux-mêmes » et de leurs propres faiblesses. Il s’agit d’une fausse promesse, car il n’y aura jamais d’IA objective, ni d’IA capable de comprendre les complexités du développement psychologique humain.

De plus, le rêve globaliste de l’IA n’est pas motivé par l’aventure, mais par la peur. Il s’agit de la peur des responsabilités, de la peur du mérite, de la peur de l’infériorité, de la peur de la lutte et de la peur de la liberté. Les plus grandes réalisations de l’humanité sont admirables parce qu’elles sont accomplies avec un contenu émotionnel, et non en dépit de celui-ci. C’est ce contenu qui nous incite à plonger dans l’inconnu et à surmonter nos peurs. La gouvernance de l’IA et une société intégrée à l’IA ne seraient rien d’autre qu’une action désespérée visant à nier la nécessité de la lutte et la volonté de vaincre.

Les globalistes sont plus qu’heureux d’offrir un moyen d’échapper à la lutte, et ils le feront avec l’IA comme visage de leur bienveillance. Tout ce que vous aurez à faire, c’est d’échanger vos libertés et peut-être votre âme contre le fait de ne jamais avoir à affronter la terreur de vos propres pensées silencieuses. Malheureusement, certaines personnes pensent qu’il s’agit d’un échange équitable.

Les élites présenteront l’IA comme le grand arbitre, l’intercesseur pur et logique de la bonne voie, non seulement pour les nations et les populations en général, mais aussi pour chaque vie individuelle. L’algorithme étant faussement accepté comme infaillible et purement impartial, les élites pourront alors diriger le monde par l’intermédiaire de leur création sans visage, sans aucun contrôle – car elles pourront alors prétendre que ce ne sont pas elles qui prennent les décisions, mais l’IA. Comment remettre en question ou même punir une IA qui se trompe ou provoque un désastre ? Et s’il se trouve que l’IA prend toutes ses décisions en faveur de l’agenda globaliste, eh bien, cela sera considéré comme une simple coïncidence.

Brandon Smith

Traduit par Hervé pour le Saker Francophone

Par Eliezer Yudkowsky − Le 29 mars 2023 − Source Time Magazine - The Saker francophone.

Une lettre ouverte publiée aujourd’hui appelle « tous les laboratoires d’IA à interrompre immédiatement, pour une durée d’au moins six mois, la formation de systèmes d’IA plus puissants que le GPT-4« .

Ce moratoire de six mois est déjà préférable à l’absence de moratoire. J’ai du respect pour tous ceux qui l’ont signé. C’est une amélioration.

Mais je me suis abstenu de le signer parce que je pense que cette lettre sous-estime la gravité de la situation et demande trop peu pour la résoudre.

La question essentielle n’est pas celle de l’intelligence « concurrentielle à l’humaine » (comme le dit la lettre ouverte) ; il s’agit de savoir ce qui se passera une fois que l’IA sera devenue plus intelligente que l’homme. Les seuils clés ne sont peut-être pas évidents, nous ne pouvons certainement pas calculer à l’avance ce qui se passera à ce moment-là, et il semble actuellement concevable qu’un laboratoire de recherche franchisse les limites critiques sans s’en apercevoir.

De nombreux chercheurs spécialisés dans ces questions, dont je fais partie, estiment que le résultat le plus probable de la construction d’une IA surhumainement intelligente, dans des conditions proches des circonstances actuelles, est la mort de tous les habitants de la Terre. Non pas comme dans « peut-être une chance infime« , mais comme dans « c’est la chose évidente qui se produirait« . Ce n’est pas que vous ne puissiez pas, en principe, survivre à la création d’un objet beaucoup plus intelligent que vous ; c’est que cela nécessiterait de la précision, de la préparation et de nouvelles connaissances scientifiques, et probablement pas des systèmes d’intelligence artificielle composés de gigantesques et impénétrables tableaux de nombres fractionnaires.

Sans cette précision et cette préparation, le résultat le plus probable est une IA qui ne fait pas ce que nous voulons et qui ne se soucie pas de nous ni de la vie sensible en général. Ce type d’attention pourrait en principe être insufflé dans une IA, mais nous ne sommes pas prêts et nous ne savons pas comment le faire à l’heure actuelle.

En l’absence de cette bienveillance, nous obtenons « l’IA ne vous aime pas, elle ne vous hait pas, et vous êtes fait d’atomes qu’elle peut utiliser pour autre chose« .

Le résultat probable de l’humanité face à une intelligence surhumaine opposée est une perte totale. Parmi les métaphores valables, citons « un enfant de 10 ans essayant de jouer aux échecs contre Stockfish 15« , « le 11e siècle essayant de lutter contre le 21e siècle » et « l’australopithèque essayant de lutter contre l’homo sapiens« .

Pour visualiser une IA surhumaine hostile, n’imaginez pas un penseur sans vie, intelligent comme un livre, qui habiterait sur l’internet et enverrait des courriels mal intentionnés. Imaginez une civilisation extraterrestre entière, pensant à des millions de fois la vitesse humaine, initialement confinée aux ordinateurs, dans un monde de créatures qui sont, de son point de vue, très stupides et très lentes. Une IA suffisamment intelligente ne restera pas longtemps confinée aux ordinateurs. Dans le monde d’aujourd’hui, il est possible d’envoyer par courrier électronique des chaînes d’ADN à des laboratoires qui produiront des protéines à la demande, ce qui permet à une IA initialement confinée à l’internet de construire des formes de vie artificielles ou de passer directement à la fabrication de molécules post-biologiques.

Si quelqu’un construit une IA trop puissante, dans les conditions actuelles, je m’attends à ce que chaque membre de l’espèce humaine et toute vie biologique sur Terre meurent peu de temps après.

Aucun plan n’a été proposé pour nous permettre de faire une telle chose et de survivre. L’intention ouvertement déclarée d’OpenAI est de faire en sorte qu’une future IA fasse notre travail d’alignement de l’IA. Le simple fait d’entendre qu’il s’agit là d’un plan devrait suffire à faire paniquer toute personne sensée. L’autre grand laboratoire d’IA, DeepMind, n’a aucun plan.

Une parenthèse : Ce danger ne dépend pas de la question de savoir si les IA sont ou peuvent être conscientes ; il est intrinsèque à la notion de systèmes cognitifs puissants qui optimisent durement et calculent des résultats qui répondent à des critères suffisamment compliqués. Cela dit, je manquerais à mes devoirs moraux en tant qu’être humain si je ne mentionnais pas que nous n’avons aucune idée de la manière de déterminer si les systèmes d’IA sont conscients d’eux-mêmes – puisque nous n’avons aucune idée de la manière de décoder tout ce qui se passe dans les gigantesques réseaux impénétrables – et que nous pourrions donc, à un moment donné, créer par inadvertance des esprits numériques qui sont réellement conscients, qui devraient avoir des droits et qui ne devraient pas être possédés.

La règle que la plupart des personnes conscientes de ces questions auraient approuvée il y a 50 ans, était que si un système d’IA peut parler couramment et dit qu’il est conscient de lui-même et qu’il exige des droits de l’homme, cela devrait être un frein à la possession de cette IA et à son utilisation au-delà de ce point. Nous avons déjà dépassé cette limite. Je suis d’accord pour dire que les IA actuelles ne font probablement qu’imiter le discours sur la conscience de soi à partir de leurs données d’apprentissage. Mais je pense qu’avec le peu d’informations dont nous disposons sur les mécanismes internes de ces systèmes, nous ne savons pas vraiment ce qu’il en est.

Si tel est notre état d’ignorance pour le GPT-4, et que le GPT-5 est un pas de géant de la même ampleur que le passage du GPT-3 au GPT-4, je pense que nous ne pourrons plus dire à juste titre « probablement pas conscient de lui-même » si nous laissons les gens fabriquer des GPT-5. Ce sera simplement « je ne sais pas ; personne ne sait« . Si vous ne pouvez pas être sûr de créer une IA consciente d’elle-même, c’est alarmant, non seulement en raison des implications morales de la partie « consciente d’elle-même« , mais aussi parce qu’être incertain signifie que vous n’avez aucune idée de ce que vous faites et que c’est dangereux et que vous devriez arrêter.

***

Le 7 février, Satya Nadella, PDG de Microsoft, déclarait publiquement que le nouveau Bing obligerait Google à « montrer qu’il sait danser« . « Je veux que les gens sachent que nous les avons fait danser« , a-t-il déclaré.

Ce n’est pas ainsi que le PDG de Microsoft devrait parler dans un monde sain. Cela montre l’écart considérable entre le sérieux avec lequel nous prenons le problème et le sérieux avec lequel nous aurions du le prendre il y a 30 ans.

Nous n’allons pas combler ce fossé en six mois.

Il a fallu plus de 60 ans entre le moment où la notion d’intelligence artificielle a été proposée et étudiée pour la première fois et le moment où nous avons atteint les capacités actuelles. Résoudre le problème de la sécurité d’une intelligence surhumaine – non pas la sécurité parfaite, mais la sécurité au sens de « ne pas tuer littéralement tout le monde » – pourrait très raisonnablement prendre au moins la moitié de ce temps. Et le problème avec l’intelligence surhumaine, c’est que si l’on se trompe sur le premier coup, on ne peut pas apprendre de ses erreurs, parce qu’on est mort. L’humanité n’apprendra pas de ses erreurs et ne recommencera pas, comme pour d’autres défis que nous avons relevés au cours de notre histoire, parce que nous serons tous morts.

Essayer de réussir quelque chose au premier essai vraiment critique est une tâche extraordinaire, tant en science qu’en ingénierie. Nous ne disposons pas de l’approche nécessaire pour y parvenir avec succès. Si nous appliquions au domaine naissant de l’intelligence artificielle générale les mêmes normes de rigueur technique que celles qui s’appliquent à un pont destiné à supporter quelques milliers de voitures, tout le domaine serait fermé demain.

Nous ne sommes pas prêts. Nous ne sommes pas en mesure de nous préparer dans un délai raisonnable. Il n’y a pas de plan. Les progrès en matière de capacités d’IA sont très, très en avance sur les progrès en matière d’alignement de l’IA ou même sur les progrès en matière de compréhension de ce qui se passe à l’intérieur de ces systèmes. Si nous y parvenons, nous allons tous mourir.

De nombreux chercheurs travaillant sur ces systèmes pensent que nous nous dirigeons vers une catastrophe, et ils sont plus nombreux à oser le dire en privé qu’en public ; mais ils pensent qu’ils ne peuvent pas arrêter unilatéralement cette plongée en avant, que les autres continueront même s’ils quittent personnellement leur emploi. Alors, ils se disent tous qu’ils feraient mieux de continuer. C’est une situation stupide et une façon indigne pour la Terre de mourir, et le reste de l’humanité devrait intervenir à ce stade et aider l’industrie à résoudre son problème d’action collective.

Certains de mes amis m’ont récemment rapporté que lorsque des personnes extérieures à l’industrie de l’IA entendent parler pour la première fois du risque d’extinction lié à l’intelligence artificielle générale, leur réaction est la suivante : « Peut-être que nous ne devrions pas construire d’IAG, alors« .

Cette réaction m’a donné un petit éclair d’espoir, car elle est plus simple, plus sensée et franchement plus saine que celle que j’ai entendue au cours des 20 dernières années, au cours desquelles j’ai essayé d’amener les gens de l’industrie à prendre les choses au sérieux. Quiconque parle avec autant de bon sens mérite d’entendre à quel point la situation est grave, et non de se faire dire qu’un moratoire de six mois va régler le problème.

Le 16 mars, ma partenaire m’a envoyé ce courriel. (Elle m’a ensuite autorisé à le reproduire ici).

« Nina a perdu une dent ! Comme le font habituellement les enfants, et non par négligence ! Le fait de voir GPT4 pulvériser ces tests standardisés le jour même où Nina atteignait une étape importante de son enfance a provoqué une vague d’émotions qui m’a fait perdre pied pendant une minute. Tout va trop vite. Je crains que le fait de partager cela n’accentue ton propre chagrin, mais je préfère que tu le saches plutôt que chacun d’entre nous souffre seul« .

Lorsque la conversation entre initiés porte sur la douleur de voir sa fille perdre sa première dent et de penser qu’elle n’aura pas la chance de grandir, je pense que nous avons dépassé le stade des échecs politiques sur un moratoire de six mois.

S’il existait un plan de survie pour la Terre, si seulement nous adoptions un moratoire de six mois, je soutiendrais ce plan. Ce plan n’existe pas.

Voici ce qu’il faudrait faire :

Le moratoire sur les nouveaux grands circuits d’entraînement doit être indéfini et mondial. Il ne peut y avoir aucune exception, y compris pour les gouvernements ou les armées. Si la politique commence aux États-Unis, la Chine doit comprendre que les États-Unis ne cherchent pas à obtenir un avantage, mais qu’ils essaient plutôt d’empêcher l’utilisation d’une technologie horriblement dangereuse qui ne peut avoir de véritable propriétaire et qui tuera tout le monde aux États-Unis, en Chine et sur Terre. Si je disposais d’une liberté infinie pour rédiger des lois, je pourrais prévoir une seule exception pour les IA formées uniquement pour résoudre des problèmes de biologie et de biotechnologie, non formées sur des textes provenant d’Internet, et pas au point de commencer à parler ou à planifier ; mais si cela compliquait un tant soit peu la question, je rejetterais immédiatement cette proposition et je dirais qu’il faut tout arrêter.

Arrêter toutes les grandes grappes de GPU (les grandes fermes d’ordinateurs où les IA les plus puissantes sont affinées). Arrêter tous les grands cycles d’entraînement. Fixer un plafond à la puissance de calcul que chacun est autorisé à utiliser pour entraîner un système d’IA, et le réduire au cours des prochaines années pour compenser l’apparition d’algorithmes d’entraînement plus efficaces. Aucune exception pour les gouvernements et les armées. Il convient de conclure immédiatement des accords multinationaux afin d’empêcher que les activités interdites ne soient transférées ailleurs. Suivre toutes les ventes de GPU. Si les services de renseignement indiquent qu’un pays non signataire de l’accord construit une grappe de GPU, il faut moins craindre un conflit armé entre les nations que la violation du moratoire ; il faut être prêt à détruire un centre de données hors-la-loi par une frappe aérienne.

N’envisagez rien comme un conflit entre des intérêts nationaux et dites clairement que quiconque parle de course à l’armement est un imbécile. Le fait que nous vivions ou mourions tous ensemble n’est pas une politique mais un fait naturel. Expliquez explicitement dans la diplomatie internationale que la prévention des scénarios d’extinction de l’IA est considérée comme une priorité par rapport à la prévention d’un échange nucléaire complet, et que les pays nucléaires alliés sont prêts à courir un certain risque d’échange nucléaire si c’est ce qu’il faut pour réduire le risque de grandes séries d’entraînement de l’IA.

C’est le genre de changement de politique qui nous amènerait, mon partenaire et moi, à nous serrer l’un contre l’autre et à nous dire qu’un miracle s’est produit et qu’il y a maintenant une chance que Nina vive. Les personnes saines d’esprit qui entendent parler de cette question pour la première fois et qui se disent raisonnablement « peut-être ne devrions-nous pas » méritent d’entendre, honnêtement, ce qu’il faudrait faire pour que cela se produise. Et lorsque la demande politique est aussi importante, la seule façon de la faire passer est que les décideurs politiques réalisent que s’ils continuent à faire ce qui est politiquement facile, cela signifie que leurs propres enfants vont aussi mourir.

Il faut tout arrêter.

Nous ne sommes pas prêts. Nous ne sommes pas en passe d’être significativement plus prêts dans un avenir prévisible. Si nous poursuivons dans cette voie, tout le monde mourra, y compris des enfants qui n’ont pas choisi cette voie et qui n’ont rien fait de mal.

Il faut tout arrêter.

Eliezer Yudkowsky est un théoricien étasunien qui dirige les recherches de l’Institut de recherche sur l’intelligence des machines. Il travaille sur l’alignement de l’intelligence artificielle générale depuis 2001 et est largement considéré comme l’un des fondateurs de ce domaine.

Traduit par Wayan, relu par Hervé, pour le Saker Francophone.