Quand l’IA se nourrit de l’IA, le risque est réel, mais il n’est pas automatique

L’affirmation selon laquelle « le taux d’erreur des IA risque encore d’empirer dans les années à venir parce que les sources elles-mêmes seront de plus en plus générées par l’IA » repose sur une inquiétude sérieuse. Elle ne doit pas être balayée comme une peur technophobe. Mais elle ne doit pas non plus être transformée en certitude absolue. Le sujet appelle une analyse nuancée, car il touche à la qualité de l’information, à la manière dont les modèles sont entraînés, et à la responsabilité de ceux qui les utilisent.
Thèse

L’argument principal est simple : une IA générative ne « sait » pas au sens humain du terme. Elle produit une réponse à partir de régularités apprises dans d’immenses ensembles de textes, d’images ou de données. Si ces ensembles contiennent de plus en plus de contenus eux-mêmes générés par des IA, parfois faux, approximatifs, répétitifs ou sans source identifiable, le risque est que les modèles futurs apprennent à partir d’un matériau dégradé.

Ce phénomène est souvent rapproché du (vous en avez lu 12%, il reste à lire 88%, de cet article.)

…

Cet article est réservée aux abonnés à RiskAssur-hebdo Privilège

Vous êtes déjà abonné, pour vous identifier, cliquez ici

Abonnement en ligne
Abonnement 12 mois pour 504 euros ttc, en cliquant ici
Abonnement 1 mois pour 56,40 euros ttc, en cliquant ici
vous donnant acces a l’integralite des archives (plus de 40 000 articles) : cliquez ICI