
Mozilla plaide pour une IA digne de confiance, basée sur le pragmatisme et les écosystèmes ouverts
- Mozilla publie un état des lieux de son approche de l’IA et des prochaines étapes pour concrétiser sa vision d’une IA digne de confiance.
- L’organisation à but non lucratif met en garde contre l’approche « boîte noire » des grandes entreprises technologiques, qui restreignent l’accès à leurs systèmes d’IA tout en faisant pression sur les régulateurs pour que les innovations en matière d’IA restent opaques.
- Mozilla s’inquiète du fait que le discours dominant sur l’IA est plus biaisé que pragmatique
Aujourd’hui, Mozilla appelle à une nouvelle voie pour assurer le développement d’une IA plus digne de confiance, comme le souligne son dernier rapport Trustworthy AI. Ce rapport fait le point sur la dernière position de l’entreprise en matière de développement de l’IA afin de garantir que cette technologie soit construite et déployée de manière à favoriser la responsabilité et l’action, ainsi qu’à faire progresser le bien-être individuel et collectif.
Depuis des années, Mozilla finance, développe et défend activement des approches d’IA dignes de confiance – ce travail est devenu de plus en plus important ces derniers temps avec la généralisation de l’IA. Cette édition souligne les domaines dans lesquels Mozilla a réalisé les avancées les plus positives et ceux dans lesquels il reste encore du travail à faire.
Mark Surman, président, directeur exécutif et membre du conseil d’administration de la Fondation Mozilla, a déclaré : « La construction d’une IA digne de confiance est à la fois urgente et compliquée, et aucune personne ou organisation ne peut s’attaquer seule à tous ces risques. Chez Mozilla, nous sommes convaincus que les approches open source et un large accès au marché sont des ingrédients clés pour promouvoir l’agence et la responsabilité dans l’ère de l’IA. À l’heure où l’IA a un impact sur la société dans son ensemble, nous ne pouvons pas continuer à accepter une approche « boîte noire » réservée à quelques entreprises. Nous avons besoin d’un plus grand nombre de voix impliquées dans sa conception et son déploiement pour garantir que les systèmes d’IA sont dignes de confiance »
Défis, progrès et opportunités
Au cours des dernières années, l’écosystème de l’IA s’est radicalement orienté vers une technologie fermée, ce qui a entravé la concurrence, la recherche indépendante et l’examen public de ces systèmes d’IA. Il est absolument nécessaire et urgent de généraliser l’IA générative open source afin d’améliorer la confiance dans cette technologie. Lécideurs politiques doivent également prendre plus fermement position afin de suivre le rythme de la croissance rapide des développements de l’IA.
« La plupart des conversations sont trop optimistes ou trop fatalistes, ce qui a détourné l’attention des discours plus pragmatiques et réalistes qui devraient être davantage mis en avant », ajoute Mark Surman.
La diversité dans la technologie et l’IA est l’un des principaux domaines où, même s’il reste un long chemin à parcourir, nous devons reconnaître les améliorations apportées. Parmi les initiatives clés, citons la création du Distributed AI Research Institute par l’ancienne codirectrice de l’équipe d’IA éthique de Google, le Dr Timnit Gebru, ainsi que l’évolution de la conférence de l’ACM sur l’équité, la responsabilité et la transparence. L’IA ayant un impact mondial sur tous les aspects de nos vies, il est essentiel qu’un plus grand nombre de voix participent à sa conception et à son déploiement.
Un autre progrès positif à souligner est le fait que, même si les modèles propriétaires ont pris une longueur d’avance dans la dernière phase de la course à l’IA, une série de LLM et de ressources open source émergent pour les contrer – Mozilla ne fait pas exception, ayant notamment investi dans la création de Mozilla.ai, une startup et une communauté dédiées à rendre ce domaine en pleine expansion des modèles d’IA open source plus fiables et plus utiles.
Afin de continuer sur cette lancée et de s’appuyer sur le travail accompli jusqu’à présent, le rapport de Mozilla propose quelques lignes directrices pour les prochaines étapes vers une IA digne de confiance. Il s’agit notamment de modifier le discours public pour le rendre plus raisonnable, de généraliser les modèles d’IA générative open source, de responsabiliser les consommateurs en leur donnant le choix et le contrôle de leur expérience de l’IA, d’investir financièrement dans l’écosystème de l’IA digne de confiance et open source, ainsi que de soutenir les régulateurs et les décideurs politiques dans l’élaboration et le déploiement d’une réglementation pragmatique en matière d’IA (dans le sillage du AI Act européen, par exemple).
Pour en savoir plus, vous pouvez télécharger le rapport complet au lien suivant.