Oh misère 😖
(à rapprocher de cette information : https://sebsauvage.net/links/?4guS9w)

Petit état des lieux de la monstruosité que sont les sites d'information de nos jours.

Encore une privatisation des services publiques rondement menée. 👌‍
(voir aussi https://sebsauvage.net/links/?KOSpfQ)

Encore un truc qui me semble une super super mauvaise idée : Faire ré-écrire par une IA ce que vous avez écrit dans un chat. Sans votre consentement.
Le prétexte : éviter les phrases et mots choquants (comme d'habitude "c'est pour protéger les enfants !")

Pourquoi c'est une pente glissante ? Parce que :
1) cela va faire entrer dans les habitudes de faire déformer votre discours par les IA (1️⃣).  
2) le critère de ce qui est "acceptable" est très (très) variable.
3) le curseur de la censure va descendre (Je rappelle qu'aux USA, Trump a pondu des lois pour considérer l'anti-capitalisme et l'anti-christianisme comme "anti-américain". Donc des lois pour empêcher la critique du capitalisme et des chrétiens.)

On se dirige doucement vers les manières de la dictature chinoise où vous êtes puni·e·s pour tout ce qui porte atteinte à l'«harmonie sociale».

( 1️⃣ Des utilisateurs de GMail ont déjà constaté la reformulation de certains mails par l'IA, sans le consentement de l'expéditeur. )

J'ajoute qu'il n'y aura aucune règle propre dans ces systèmes, vous ne ferez que subir l'arbitraire. (D'autant plus avec une IA qui n'a pas un fonctionnement déterministe.)
Je voudrais raconter une anecdote : Le jeu vidéo Borderlands 3 est littéralement *rempli* d'insultes, d'injures et de jurons (Exemple: "Putain de sa race, sa mère la pute!"). Quand j'ai voulu entrer dans le jeu avec mon pseudo "sebsauvage" il a été refusé. Trop violent. Parce qu'il contient le mot "sauvage" (qui n'est pas en soi une insulte). C'est absurde.

" Le PDG de Palantir, Alex Karp, pense que sa technologie d'IA réduira le pouvoir des « électeurs très éduqués, souvent des femmes, qui votent principalement démocrate », tout en augmentant le pouvoir des hommes de la classe ouvrière. "

Au moins il le dit clairement : Il préfère un peuple inculte. Inculte et masculin. Un peuple non éduqué est plus facile à manipuler et exploiter.

Encore une preuve que le projet de la Silicon Valley s'accorde avec le fascisme de Trump.
L'IA est un projet de société : Celui de l'asservissement et de la soumission aux puissants.
La technologie n'est pas neutre.

Les IAs ne sont pas des perroquets stochastiques.
Les *LLMs* sont des perroquets stochastiques.

Et l'article fait une remarque très intéressante : L'humain considère que le langage est *LA* marque de l'intelligence.
Donc quand une machine "parle" bien (les LLMs sont très fortes à ce jeu), on a naturellement tendance à 1️⃣ penser que la machine *EST* intelligente et 2️⃣ à lui attribuer des traits humains. Alors qu'elle n'est en réalité qu'un perroquet stochastique : Une machine qui pond statistiquement une suite de mot calculés à partir d'un ensemble de mots en entrée, sans réflexion et sans rien même comprendre aux mots qu'elle utilise.

Essayons une autre analogie des LLMs:
Imaginez que vous êtes une machine. On vous a donné à bouffer *TOUS* les textes en Chinois existants au monde. Vous ne comprenez rien au Chinois, mais vous avez créé un gigantesque modèle statistique de l'enchaînement des mots.
Quelqu'un vous soumet une question en chinois. C'est un enchaînement de mots.
Vous utilisez votre modèle statistique pour calculer la suite de mots la plus probable qui correspond aux mots en entrée.
Et vous répondez ces mots à la personne.

Notez que dans l'opération :
- Vous ne comprenez pas un traitre mot de la question qu'on vous a posée. (Vous ne comprenez pas le Chinois).
- Vous ne comprenez pas non plus un seul mot de la réponse que vous avez donnée.
- Vous n'avez pas compris la question, vous n'y avez pas "réfléchi" par rapport à une "base de connaissance" : Vous avez juste *calculé* statistiquement la suite de mots la plus probablement juste en utilisant les statistiques des *milliards* de textes que vous avez ingérés.

D'ailleurs dans le jargon, on ne parle pas de "mot" mais de "token". Littéralement des "jetons". Si on me donne cette suite de jetons en entrée, statistiquement voici la liste de jetons en sortie la plus probablement juste. Pour la machine, chacun de ces jetons est unique, mais n'a aucune signification en soi.
C'est comme cela que fonctionnent les LLMs comme ChatGPT et autres.

L'article mentionne tout de même que même si les LLMs sont des perroquets stochastiques, associées à d'autres types d'IA ou d'algorithmes elles peuvent rendre certains services.

Woao... dans un revirement surprenant, le parlement européen a voté *CONTRE* la surveillance de masse (dont la surveillance des communications chiffrées). C'est très bien.
Maintenant reste encore à le faire respecter dans les différents états.
(Et je ne me fais pas d'illusions : ils remettront ça sur le tapis, comme toujours.)

" Ainsi, en mettant l’accent sur des préoccupations tournées vers la santé des adolescents, le débat autour de l’interdiction des réseaux sociaux a contribué à détourner l’attention des enjeux démocratiques que soulève le modèle économique des plateformes dominantes. " (C'est à dire l'économie de l'attention.)

Et comme le souligne l'article, la mauvaise influence de ces médias sociaux sur les jeunes, c'est l'arbre qui cache la forêt : Ils menacent directement nos démocraties.
https://next.ink/228334/en-amont-des-municipales-x-et-tiktok-presentent-un-biais-vers-lextreme-droite/

CNews (et sa galaxie) suivi massivement par les vieux fait probablement plus de dégâts à nos démocraties et nos sociétés que les jeunes qui regardent TikTok.

Je pose ça là.