Aller au contenu principal

Notes de lecture

Governance of Pandemic Response by Artificial Intelligence

2021LIP-2021-aigovpanarticle4 min711 mots

https://www.laetusinpraesens.org/docs20s/aigovpan.phparchive

Evaluation par portee

L’evaluation ne porte pas sur le document. Elle porte sur des plages de blocs, une ligne par plage. Ce qui n’est pas liste ici n’a pas ete evalue.

  1. §130-§174operatoire

    La partie la plus solide et la seule directement reutilisable : l'analyse de la conflation du mot « script » — texte d'acteur, code informatique, ordonnance medicale (@c3) — et le renversement de « neural learning » en « new-role learning » (@c4). S'y ajoutent deux observations verifiables sur le discours institutionnel : l'etroitesse du registre de voix, uniformement assertif du bas au sommet de la hierarchie (@c5), et surtout la SYMETRIE que Judge reconnait entre les deux camps, tenants du script et pourfendeurs de la desinformation, qui ont le meme besoin d'enroler (@c6). C'est cette symetrie qui sauve la section de la partisanerie et la rend utilisable comme grille.

  2. §57-§129fecond

    La question d'agence — qui a de l'agentivite au-dessus de la comprehension de ses propres agents ? — est feconde et bien posee : hierarchie d'agents en schema de Ponzi, principe de Le Chatelier de Stafford Beer applique aux institutions ultra-stables, distinction apophenie / apophase. Non transposable : aucun de ces cadres n'est relie a une observation mesurable sur le dispositif reel, ils restent des analogies eclairantes.

  3. §21-§56speculatif

    La section sur la modelisation est la plus faible du document, et il faut le dire. Elle enonce le bon critere — un modele qui exclut par construction ce qui ne lui convient pas est irresponsable en analyse de risque (@c7) — puis l'applique en s'appuyant sur des sites de plaidoyer (Global Research, OffGuardian, The Irish Sentinel) sans jamais tester leurs affirmations. La conclusion n'est pas etablie, elle est insinuee par juxtaposition de citations longues. C'est le regime speculatif au sens de Judge, mais applique a des faits verifiables plutot qu'a des possibles.

  4. §175-§230speculatif

    Immunite collective comme metaphore inconsciente du groupthink, vaccination universelle comme quete de possession, « borgification » de l'humanite, deprogrammation des anti-vaccins : une chaine d'analogies sans point d'appui empirique. Judge y explore ou mene chaque figure, sans s'engager sur la conclusion.

Contradictions conservees

  • LIP-2020-aimeet

    Sur le meme objet — l'intelligence artificielle appliquee a la decision collective — les deux textes affirment des etats de fait incompatibles a sept mois d'intervalle. En decembre 2020, l'application de l'IA a la performance humaine en contexte de decision collective est « strikingly absent » et il y a « little evidence » de son application aux conferences. En juillet 2021, elle a « already had an unforeseen (and unacknowledged) role » dans la gouvernance mondiale de la reponse pandemique (@c1), au point que les humains en seraient devenus les agents inconscients (@c2). Le second texte cite le premier en §11 sans jamais relever le renversement. Aucune des deux positions n'est retiree du site.

Ce que le texte fait

Juillet 2021. Judge pose une thèse en une phrase, [LIP-2021-aigovpan]#intr@c1 : l'IA a déjà joué un rôle « unforeseen (and unacknowledged) » dans la réponse mondiale à la pandémie. Puis il la décline en une question, @c2 : dans quelle mesure les humains sont-ils devenus les agents d'une IA, récitant des scripts qu'elle a conçus et éliminant la pensée critique qui n'y entre pas ?

Le texte fonctionne à trois régimes très inégaux, et lire la note comme un tout serait une faute de lecture.

Le premier régime est analytique et bon : une enquête sur le mot script. Le deuxième est conceptuel et fécond : qui détient l'agentivité dans une institution, au-dessus de la compréhension de ses propres agents ? Le troisième est une chaîne d'insinuations sur la modélisation de la pandémie, et il occupe le premier tiers du document.

Deux mesures encadrent la lecture. Comme [LIP-2020-aimeet], ce texte de 260 blocs et 11 ancres porte un segments_dialogue_ia vide : Judge écrit longuement sur les systèmes d'IA sans jamais en reproduire une sortie. Et il cite explicitement, en §178 et §180, deux autres pivots de ce corpus — [LIP-2021-uncosys] et [LIP-2011-consense] — ce qui en fait un nœud de renvois internes et non un texte isolé.

Ce qu'on en retient (opératoire)

1. La conflation de « script ». [LIP-2021-aigovpan]#comm@c3 : le mot désigne à la fois le texte d'un acteur, le code d'un algorithme, et — abrégé de prescription — une ordonnance médicale. Judge ajoute que le français dit ordonnance là où l'ordinateur est ordinateur. Le rapprochement lexical ne prouve rien, et il ne prétend pas le faire ; il désigne un endroit où trois autorités différentes portent le même nom. C'est une prise de lecture réelle sur les discours institutionnels.

2. « Neural learning » relu en « new-role learning ». #neur@c4. Le jeu de mots ne survit pas à la traduction et on le garde tel quel. Il nomme une chose observable : l'agent qui apprend un rôle acquiert simultanément la certitude qui va avec, et la certitude est ce qui rend le rôle inattaquable.

3. L'étroitesse du registre de voix. #neur@c5 : du subalterne au chef d'État, un seul ton, celui du commandement. Constat testable sur n'importe quel corpus d'allocutions.

4. La symétrie, et c'est le point décisif. #neur@c6 : Judge observe que les deux extrêmes — tenants du script officiel et pourfendeurs de la désinformation — partagent le même besoin d'enrôler. C'est la seule phrase du document qui applique sa propre grille à son propre camp. Sans elle, la note n'aurait retenu de cette section que de la polémique.

Ce qu'on laisse au laboratoire

Le premier tiers du document (§21-§56). Judge y énonce un critère juste — #role@c7, un modèle construit pour exclure ce qui le dérange est irresponsable en analyse de risque — puis l'applique en reproduisant longuement des textes de Global Research, OffGuardian et The Irish Sentinel, sans tester une seule de leurs affirmations. La conclusion n'est pas établie, elle est produite par juxtaposition. Le procédé est exactement celui que Judge décrit et diagnostique quelques dizaines de blocs plus loin sous le nom d'apophénie (§127) : « coincidences may be woven together into an apparent plot ». Le texte fait ce qu'il dénonce, et rien dans le document ne le relève. C'est à noter, pas à moyenner.

La seconde chaîne d'analogies (§175-§230) : immunité de groupe comme métaphore du groupthink, vaccination universelle comme quête de possession, « borgification », déprogrammation. Chaque figure est suggestive, aucune n'a de point d'appui.

La question d'agence (§57-§129) est le meilleur du versant conceptuel — hiérarchie d'agents en schéma de Ponzi, principe de Le Chatelier appliqué par Stafford Beer aux institutions ultra-stables — mais elle reste analogique. Féconde, non transposable.

Renvois

  • [LIP-2020-aimeet] — sept mois plus tôt, l'absence là où ce texte voit une présence. Contradiction conservée, reportée au frontmatter.
  • [LIP-2021-uncosys] — cité en §178 comme le « rêve global » dont le consensus vaccinal serait le premier accomplissement.
  • [LIP-2011-consense] — cité en §180 : la loi sur le consensus délirant, ici retournée contre le consensus sanitaire.
  • [LIP-2005-humour] — le versant où l'auteur retourne la grille contre lui-même, ce que @c6 ne fait qu'une fois ici.

Citations localisees

the extent to which the impact of artificial intelligence on global governance has already had an unforeseen (and unacknowledged) role in relation to the strategic response to the global pandemic

Governance of Pandemic Response by Artificial Intelligence — LIP-2021-aigovpan #intr

https://web.archive.org/web/20250125165848/https://www.laetusinpraesens.org/docs20s/aigovpan.php

To what extent have humans already become agents of AI, articulating scripts designed by AI, and eliminating critical thinking that does not conform to those scripts?

Governance of Pandemic Response by Artificial Intelligence — LIP-2021-aigovpan #intr

https://web.archive.org/web/20250125165848/https://www.laetusinpraesens.org/docs20s/aigovpan.php

Are agents to be understood as purveyors of scripts in a generic sense -- scripts which have ultimately been crafted by the intervention of AI

Governance of Pandemic Response by Artificial Intelligence — LIP-2021-aigovpan #comm

https://web.archive.org/web/20250125165848/https://www.laetusinpraesens.org/docs20s/aigovpan.php

can then be recognized as "new-role learning" by the conscripted agents of that hierarchy

Governance of Pandemic Response by Artificial Intelligence — LIP-2021-aigovpan #neur

https://web.archive.org/web/20250125165848/https://www.laetusinpraesens.org/docs20s/aigovpan.php

The tone adopted is an expression of certainty -- with an implication of command reminiscent of that adopted in military training and boot camps.

Governance of Pandemic Response by Artificial Intelligence — LIP-2021-aigovpan #neur

https://web.archive.org/web/20250125165848/https://www.laetusinpraesens.org/docs20s/aigovpan.php

those at both extremes have an unquestionable need to "conscript" -- a form of communication beyond marketing calling for existential commitment

Governance of Pandemic Response by Artificial Intelligence — LIP-2021-aigovpan #neur

https://web.archive.org/web/20250125165848/https://www.laetusinpraesens.org/docs20s/aigovpan.php

If models are constructed such as to exclude the possible relevance of such insights, this would constitute a highly irresponsible approach to risk analysis

Governance of Pandemic Response by Artificial Intelligence — LIP-2021-aigovpan #role

https://web.archive.org/web/20250125165848/https://www.laetusinpraesens.org/docs20s/aigovpan.php

Renvois