DeepSeek ajuste son IA pour l’Italie après une enquête sur les hallucinations
Une entreprise d’intelligence artificielle a annoncé le lancement de la première version nationale de son chatbot, spécifiquement adaptée aux besoins italiens, sous réserve de respecter les exigences réglementaires. Cette annonce intervient alors que l’autorité de régulation italienne devient plus stricte dans la régulation de l’intelligence artificielle (IA) pour éliminer les hallucinations.
Contexte réglementaire en Italie
L’Italie est l’un des pays les plus stricts de l’UE en matière de régulation de l’IA, comme en témoignent ses enquêtes régulières sur des entreprises, souvent suivies de sanctions. Des problèmes plus subtils émergent, notamment l’interprétation du terme « moteur de recherche », qui englobe désormais les chatbots IA capables d’extraire des informations de plusieurs sources, souvent en créant des narrations fabriquées.
Engagements de DeepSeek
L’entreprise a reconnu que le phénomène des hallucinations des modèles d’IA est un défi mondial qui ne peut être totalement éliminé. Cependant, elle s’est engagée à réduire ces hallucinations, un effort salué par les régulateurs. Bien que les modalités de mesure de cet engagement restent floues, l’entreprise a prévu des ateliers pour former son personnel aux lois italiennes.
DeepSeek doit soumettre un rapport à l’autorité de régulation pour formaliser ses engagements, sous peine d’une amende de 10 millions d’euros en cas de non-conformité.
Défis techniques et implications
Selon un porte-parole, les modifications de l’interface utilisateur et des conditions générales sont relativement faciles à mettre en œuvre, tandis que les améliorations techniques sont plus difficiles à garantir. Les hallucinations touchent toutes les IA génératives, et des chercheurs déplorent les pratiques actuelles de formation qui favorisent les conjectures plutôt que l’acceptation de l’incertitude.
Les régulateurs ont insisté sur la nécessité pour DeepSeek de rendre ses divulgations concernant le risque d’hallucinations plus transparentes et intelligibles.
Conclusion
Ces engagements marquent un potentiel retour en Italie pour DeepSeek, après que son chatbot a été retiré des magasins d’applications l’année dernière en raison de préoccupations relatives à la gestion des données. Ce retour dépendra de la satisfaction des régulateurs concernant les mesures de transparence et de la classification finale du service sous la loi sur les services numériques de l’UE.
