Les modèles d’IA générative d’Anthropic impressionnent par leur efficacité. Pourtant, même leurs concepteurs admettent : personne ne comprend vraiment ce qui se passe à l’intérieur. Dario Amodei, patron d’Anthropic, le dit sans détour dans son dernier billet.
Depuis 2021, Anthropic développe des modèles d’IA générative, comme Claude, qui impressionnent par leurs capacités. Pourtant, même leurs concepteurs admettent qu’ils ne comprennent pas vraiment comment ces systèmes fonctionnent à l’intérieur. Dario Amodei, le patron d’Anthropic, l’explique clairement dans un billet récent. Il rappelle que les mécanismes internes des IA ne sont pas conçus de manière explicite, mais émergent au fil de l’entraînement, un peu comme la croissance d’une plante. Cette opacité complique la détection des erreurs ou comportements inattendus, ce qui pose un vrai problème pour la sécurité et la fiabilité. Anthropic travaille donc à mieux comprendre ces modèles, en développant des outils d’interprétabilité. Mais la tâche reste immense.
