Réflexions spontanées sur l'IA, l'énergie, le calcul, etc., que je ne m'attends pas à ce que quelqu'un lise, mais que je revisiterai dans quelques années pour voir si j'avais raison : - Les LLMs sont le pire que l'IA sera jamais en termes de consommation d'énergie, et ne sont pas la voie vers l'AGI. - La performance des LLMs peut stagner près des niveaux actuels mais continuer à apporter une valeur massive et réinventer de grandes parties de l'économie. - La construction d'énergie et de centres de données dépassera massivement la demande - dans 10 ans, une nouvelle architecture de modèle et des substrats de calcul remettront complètement en question les extrapolations de la demande énergétique de l'IA. Une infrastructure surdimensionnée subventionnera de nombreuses autres choses et sera toujours utilisée. - Quelque chose comme l'AGI peut fonctionner avec 100 watts avec la bonne architecture + substrat. Les humains utilisent 20W. - Quelque chose comme l'ASI provient plus facilement d'un grand nombre de petites AGI communiquant entre elles, tout comme la société humaine. Appelons cela le Techno-Cœur. - La consommation d'énergie à long terme sera dominée davantage par la robotique, la fabrication, le transport, que par l'IA. Ceci provient principalement de l'observation des cycles passés de frénésie d'investissement et de construction d'infrastructure, et de la réflexion sur le seuil énergétique fondamental du calcul, et notre seule AGI / ASI connue : les humains et la société.