I stumbled upon LLM Kryptonite and no one wants to fix it âą The Register
Une personne pense avoir trouvĂ© des phrases qui font partir en vrille la *TOTALITĂ* des LLM du marchĂ© (OpenAI ChatGPT/Microsoft CoPilot, Google Gemini...). Ce qui implique des problĂšmes de sĂ©curitĂ© pour toutes les entreprises qui les utliisent.
Bon rĂ©sumons oĂč on en est sur les I.A. de type LLM :
- Les entreprises qui entraßnent les LLM volent littéralement le travail des autres (puisques les LLM ont été entraßnées sur le travail d'autruis) et VENDENT ensuite l'accÚs à ces LLM.
- Utiliser ce que produisent les LLM peut légalement vous mettre en danger puisqu'elles vont potentiellement recracher le travail d'autres personnes (sans la source ni la licence).
- Les jeux de données sont foireux puisqu'ils ont gobé tout internet. Donc ça sort de la merde (comme conseiller de mettre de la colle sur les pizzas pour que le fromage coule moins).
- *MĂME* quand les jeux de donnĂ©es sont bons, les LLM inventent n'importe quoi quand elles n'ont pas l'information.
- étant donné qu'elles absorbent tout, elles se torchent avec le respect des données personnelles et avec le RGPD.
- pire : elles ne sont pas capable de se plier à une demande RGPD (on ne peut pas "retirer" simplement une donnée d'une IA : il faut recommencer *tout* son entraßnement en retirant les données du jeu de données d'apprentissage, ce qui est trÚs couteux).
- ça nécessite un matériel trÚs couteux.
- ça consomme des quantités absolument énormes d'énergie.
- Ă©tant donnĂ©s les coĂ»ts, aucune de ces enteprises de LLM n'est actuellement rentable, pas mĂȘme en faisant payer leurs clients. Ce n'est pas une technologie pĂ©renne.
- il est impossible - structurellement - d'empĂȘcher les LLM de dire de la merde. C'est dĂ» Ă leur nature mĂȘme.
- le seul moyen de réduire la quantité de merde que sortent les LLM, c'est de les corriger H24 en exploitant des armées de travailleurs sous-payés en Afrique (et c'est trÚs exactement ce qui se passe).
- Cette "correction", c'est comme boucher le trou d'une passoire dĂšs que vous en trouvez un. Une passoire qui a un nombre infini de trous.
Mais ça va bien se passer, hein, c'est l'avenir. C'est ce que disent tous les GAFAM.
2024-05-27 08:27:27
https://www.theregister.com/2024/05/23/ai_untested_unstable/