Rappel : Facebook va bientôt utiliser tout ce que vous avez posté (textes, images) pour entraîner ses I.A.

Une personne pense avoir trouvé des phrases qui font partir en vrille la *TOTALITÉ* des LLM du marché (OpenAI ChatGPT/Microsoft CoPilot, Google Gemini...). Ce qui implique des problèmes de sécurité pour toutes les entreprises qui les utliisent.

Bon résumons où on en est sur les I.A. de type LLM :
- Les entreprises qui entraînent les LLM volent littéralement le travail des autres (puisques les LLM ont été entraînées sur le travail d'autruis) et VENDENT ensuite l'accès à ces LLM.
- Utiliser ce que produisent les LLM peut légalement vous mettre en danger puisqu'elles vont potentiellement recracher le travail d'autres personnes (sans la source ni la licence).
- Les jeux de données sont foireux puisqu'ils ont gobé tout internet. Donc ça sort de la merde (comme conseiller de mettre de la colle sur les pizzas pour que le fromage coule moins).
- *MÊME* quand les jeux de données sont bons, les LLM inventent n'importe quoi quand elles n'ont pas l'information.
- étant donné qu'elles absorbent tout, elles se torchent avec le respect des données personnelles et avec le RGPD.
- pire : elles ne sont pas capable de se plier à une demande RGPD (on ne peut pas "retirer" simplement une donnée d'une IA : il faut recommencer *tout* son entraînement en retirant les données du jeu de données d'apprentissage, ce qui est très couteux).
- ça nécessite un matériel très couteux.
- ça consomme des quantités absolument énormes d'énergie.
- étant donnés les coûts, aucune de ces enteprises de LLM n'est actuellement rentable, pas même en faisant payer leurs clients. Ce n'est pas une technologie pérenne.
- il est impossible - structurellement - d'empêcher les LLM de dire de la merde. C'est dû à leur nature même.
- le seul moyen de réduire la quantité de merde que sortent les LLM, c'est de les corriger H24 en exploitant des armées de travailleurs sous-payés en Afrique (et c'est très exactement ce qui se passe).
- Cette "correction", c'est comme boucher le trou d'une passoire dès que vous en trouvez un. Une passoire qui a un nombre infini de trous.


Mais ça va bien se passer, hein, c'est l'avenir. C'est ce que disent tous les GAFAM.

Derrière la "magie" des I.A. des GAFAM, une sorte d'esclavage moderne à base d'employés sous-payés qui essaient de corriger H24 les merdes que peuvent sortir les I.A.

" L'IA n'est pas une course aux armements, c'est un concours de prestidigitateurs, face auquel le scepticisme par défaut devient la seule attitude saine. "
" Les hallucinations sont inévitables. Elles sont une propriété structurelle de ces systèmes. Ça-ne-se-répare-pas. L'industrie le sait très bien. "
Et tout le reste de l'article tape *FORT*.

Je note juste le lien vers cet article pour une information précise : Même si l'IA de Microsoft - CoPilot - tourne localement sur votre ordinateur, elle communique quand même avec les serveurs de Microsoft pour s'assurer que la demande faite à l'IA est "safe".
Ce qui confirme bien qu'on peut se torcher avec les promesses de Microsoft sur le fait que l'IA sera totalement locale et qu'elle respectera notre vie privée.

Donc voilà comment Microsoft va rendre CoPilot/ChatGPT rentable : Déporter le coût du matériel (CPU/GPU/NPU) et de l'énergie (électricité) sur le client au lieu de faire tourner ça sur leurs serveurs, puisque les frais de fonctionnement sont astronomiques (Rappel : 700 000 dollars PAR JOUR pour ChatGPT).

Et crotte Google va aussi nous faire chier avec son IA "Gemini" dans Android.

1990 : voici un logiciel qui permet de réaliser cette opération.

2000 : voici un site web qui permet de réaliser cette opération via un navigateur.

2023 : voici un serveur web à installer sur votre ordinateur qui permet de réaliser cette opération via un navigateur.

2024 : voici une I.A. qui consomme des tombereaux d'énergie et pourra éventuellement réaliser l'opération.

Vous n'en voulez pas de l'I.A.?  Pas grave, vous allez en bouffer quand même ! 😠
(Parce que c'est la mode.)

C'est joli : "There is not AI - Just other people's data".
Copie là : https://sebsauvage.net/galerie/photos/Bordel/there_is_no_ai.png

Avant les fonds verts et bleus pour le cinéma, Disney utilisait une autre technique à base de lampes à vapeur de sodium... et ça marchait très bien !

Encore une marque d'objets connectés à la con qui ne fonctionne pas sans le cloud dédié du constructeur : Tous les appareils Gigaset deviennent inutilisables, car la société met la clé sous la porte.
Et comme ces périphériques n'ont pas d'option pour tourner en "local" seulement, ils deviennent de couteux presse-papiers.

Non contents d'être des mouchards qui pillent votre vie privée, les objets connectés cessent de fonctionner au moindre problème (ou désaccord) avec le fabriquant.

Et sans grosse surprise : « ChatGPT reproduit, voire amplifie des biais existants dans le monde hors ligne. ».  Oui les LLM sont aussi racistes que ceux qui les ont entraînés.

Ce site recense tous les problèmes causés par les I.A.  Je sens qu'il n'a pas fini de se remplir.

Un article intéressant sur les LLM, mettant en lumière notre définition changeante d'intelligence. Et comme le dit l'article, savoir manipuler le langage à coup de modèles statistiques (les LLMs) est assez avancé pour passer le test de Turing, mais ce n'est pas pour cela que les LLM ont la moindre intelligence. Les LLM manipulent et produisent des expressions qu'elles ne comprennent fondamentalement pas. Une LLM ne comprend rien à l'expression "Il pleut comme vache qui pisse" même si elle est capable de vous la sortir.

La seconde partie de l'article parle de développement logiciel avec les LLM. J'extrais une citation de l'article : « La tâche fondamentale du développement de logiciels n'est pas d'écrire la syntaxe qui permettra d'exécuter un programme. Il s'agit de construire un modèle mental de ce système complexe, de lui donner un sens et de le gérer dans le temps. »
Les LLM n'ont aucun modèle mental. Ce sont juste de gigantesques générateurs statistiques de mots. Elles ne parviendront qu'à réaliser des tâches triviales ("Écris un bout de code en Python pour récupérer un bucket S3") mais ne sauront pas gérer la complexité de votre application. Et à moins d'entraîner votre propre IA sur votre code, elle ne saura rien de votre logiciel et de son architecture.

Si on ajoute à cela:
- que les LLM sont des monstruosités écologiques.
- qu'elles ne fonctionnent à peu près correctement que parce que des Kenyans payés 2 dollars de l'heure passent leur temps à la corriger.
- que malgré ces corrections elle continue à dire n'importe quoi.
- qu'utiliser du code produit par les LLM vous expose à des risques légaux (car les LLMs recrachent du code sans la licence originale)
- qu'à force d'utiliser les LLM pour coder, vos meilleurs codeurs - ceux qui connaissent *vraiment* l'application - se seront cassés (Passer son temps à relire du code pondu par des IA, ce n'est pas gratifiant, vous voyez ?)

Est-ce que c'est vraiment une bonne idée de les utiliser pour le développement logiciel ?

Jusqu'à présent les travaux pour limiter le baratinage des IA avaient toujours été empiriques (et souvent réalisés à coup de populations pauvres payées 2$ de l'heure : https://sebsauvage.net/links/?eaX_tQ, https://sebsauvage.net/links/?RZ7ziw), mais cette publication scientifique démontre que les "hallucinations" (aka le baratinage) des LLM n'est pas possible à éliminer.

EDIT: Article en français : https://intelligence-artificielle.developpez.com/actu/354600/L-hallucination-est-inevitable-et-serait-une-limitation-innee-des-grands-modeles-de-langage-en-intelligence-artificielle-selon-une-etude-sur-la-possibilite-d-eliminer-les-hallucinations-des-LLM/

Tiens, un ordinateur portable avec un écran transparent pas pratique et illisible, comme dans les films de Science-Fiction !
EDIT : https://bouletcorp.com/rogatons/2023/01/12

C'est trop drôle, y'a décidément rien qui va avec les I.A.
Là on a un problème avec les générateurs d'images : On sait depuis toujours qu'ils sont biaisés. Si vous leur demandez l'image d'un médecin, ça sera presque tout le temps un homme, et blanc.

Donc les différentes entreprises qui font de l'I.A. essaient de corriger les différents biais (raciste, sexiste...) et forcer l'I.A. dans la diversité.
Sauf que quand vous demandez des images de Nazis, il vous sort des Nazies femmes, asiatiques, noirs...  c'est trop drôle : Quel que soit le problème avec les I.A., aucune correction ne donne quelque chose de correct ! 😄

Apparemment depuis quelques temps, ChatGPT répond vraiment n'importe quoi. Du blabla sans aucun sens.
Voilà pourquoi il ne faut jamais utiliser ce type d'«I.A.» pour prendre des décisions.
OpenAI est en train d'investiguer.

EDIT: Article en français : https://intelligence-artificielle.developpez.com/actu/354502/ChatGPT-commence-a-envoyer-des-messages-alarmants-et-incoherents-aux-utilisateurs-ChatGPT-est-devenu-fou-estime-un-specialiste-de-l-IA-qui-decrit-ce-comportement-comme-un-avertissement/

La merdification de la vie quotidienne à cause des IA ne fait que commencer. Deux exemples :
- un conducteur s'est pris une amende par un radar automatique parceque ce dernier pensait qu'il était en train de téléphoner alors qu'il se grattait juste la tête : https://geeko.lesoir.be/2024/02/15/si-vous-vous-grattez-la-tete-vous-pourriez-recevoir-une-amende-pour-telephone-au-volant/
- une compagnie aérienne refusait de rembourser un voyageur car le chatbot/IA de la compagnie avait parlé au voyageur d'une réduction qui n'existait pas : https://www.wired.com/story/air-canada-chatbot-refund-policy/

Dans les temps qui viennent attendez vous à d'autres cas plus stupides les uns que les autres.

Une fiction de Ploum à propos des objets trop "intelligents" ou connectés.

Grâce aux merveilleux progrès de l'I.A., internet est entré dans l'ère de la Grande Merdification.

(Comme je ne veux pas faire remonter leur pagerank, je casse le lien : )
« SQL vs. CSS What’s the Difference? Which Is Better? » - httpx://history-computer.com/sql-vs-css-whats-the-difference-which-is-better/

Article suggérés dans cette page:
« C++ vs. CSS: What’s the Difference? Which Is Better? »
« Ruby vs CSS: What’s the Difference, and Which Is Better? »

Le plus drôle dans la Grande Merdification, c'est que les futures I.A. seront entraînées sur ces sites bidons que les I.A. de la génération précédente ont vomit.  Ça va se transformer en «The Human Centipede» de l'intelligence artificielle (déso pour ceux qui n'ont pas la ref. Vous feriez peut-être mieux de ne pas la chercher, d'ailleurs)

L'implant neural d'Elon Musk a été implanté chez un premier patient. J'ai peur pour lui/elle.
Comme disait un internaute: C'est con maintenant quand un fan d'Elon aura un accident avec une Tesla ou un Cybertruck on ne saura plus si c'est à cause de la conduite autonome ou à cause du NeuraLink.

Les règles robots.txt (et autres) pour éviter que les I.A. viennent indexer et utiliser le contenu de votre site web.

Oh no.

« les utilisateurs activant Bard sur Messages devront garder en tête que leurs messages seront susceptibles d’être vus par des examinateurs de Google. »
🍪 🍪 🍪 NOM NOM NOM DES DONNÉES UTILISATEURS 🍪 🍪 🍪 NOM NOM NOM