Microsoft : un outil IA détecte et corrige automatiquement les erreurs

Microsoft a récemment annoncé une nouvelle fonctionnalité de son outil de sécurité pour l’intelligence artificielle (IA) : la correction automatique des erreurs. Intégrée dans Microsoft Azure, cette nouveauté permet de détecter les erreurs dans les réponses générées par l’IA. De plus, elle les corrige avant qu’elles ne parviennent à l’utilisateur.

Une réponse aux dérives des modèles IA

L’un des problèmes majeurs avec les modèles d’IA actuels est qu’ils peuvent produire des réponses incorrectes. Ces dernières sont souvent appelées « hallucinations » par les experts. Il s’agit de réponses fausses, mais qui paraissent tout à fait plausibles. Pour y remédier, Microsoft a lancé la fonctionnalité « correction », accessible via Azure AI Studio. Elle permet de détecter ces erreurs et de réécrire le contenu fautif automatiquement, en se basant sur les données sources d’une entreprise.

Par exemple, si votre IA propose une réponse incorrecte à partir de votre base de données, la fonctionnalité de correction s’assurera de vérifier et corriger cette réponse avant qu’elle ne vous parvienne. Cela peut grandement limiter la diffusion d’informations fausses ou trompeuses, un enjeu crucial à l’ère de l’IA générative.

Comment ça marche ?

L’outil de correction fonctionne en comparant les réponses de l’IA avec les documents de référence fournis par l’entreprise. Si une divergence est détectée, le système met en évidence l’erreur, explique pourquoi la réponse est erronée, et réécrit automatiquement la partie concernée. Cette correction intervient avant même que l’utilisateur ne voie la réponse initiale, garantissant ainsi une information plus précise.

Attention, cette fonctionnalité de Microsoft présente des limites

Même si cette fonctionnalité semble être un atout considérable pour améliorer la précision des systèmes d’IA, elle n’est pas parfaite. Microsoft a admis que, malgré ses avancées, « Correction » n’est pas infaillible. L’outil utilise à la fois des petits et grands modèles de langage pour comparer les résultats aux documents de base. Néanmoins, cette comparaison n’élimine pas totalement le risque d’erreurs. Microsoft souligne que l’alignement des résultats IA avec des sources fiables ne garantit pas toujours une précision absolue.

Une compétition avec Google

Microsoft n’est pas la seule entreprise à s’attaquer aux problèmes d’inexactitude dans les systèmes IA. Google propose déjà une fonctionnalité similaire dans sa plateforme Vertex AI. Leur système vérifie les résultats IA en les comparant aux données Google et à celles fournies par les entreprises. Une compétition s’installe donc entre les géants de la tech sur qui proposera les outils d’IA les plus fiables.