Des gens de chez Apple se sont penchés sur les LLM (les "IA") : Elles ne sont pas capables de faire un raisonnement formel. Elles ne sont pas capables de "réfléchir" de manière logique. Oui les LLM ne sont que des générateurs de mots, comme les claviers Android, mais à une échelle largement supérieure.
Ou pour le dire autrement : Elles ne seront jamais fiables.

EDIT: Un autre article sur le même sujet : https://dynomight.net/data-wall/ (via https://nicolas-delsaux.hd.free.fr/Shaarli/shaare/yV0KRw)