La Fondation Mozilla s’est donné pour mission de garantir qu’Internet soit une ressource publique mondiale, ouverte et accessible à tous. En 2017, elle a lancé une initiative open source : « The Internet Health Report », visant à documenter et à analyser l’état de santé d’Internet à partir de différentes études provenant de multiples sources. Cette année, le rapport se concentre sur un seul sujet critique pour Internet et l’humanité : l’intelligence artificielle.
L’IA fait partie de notre quotidien mais, comme cela s’est produit pour Internet, les GAFAM ainsi que certaines personnes riches et puissantes resserrent leur emprise sur l’IA pour augmenter leurs profits.
La fondation rappelle les dangers de discrimination et de surveillance qu’entraîne l’automatisation et une dépendance excessive à celle-ci pour des décisions aux conséquences énormes, mais aussi le fait que des champions assurent qu’il existe une meilleure façon de construire, de déployer et de comprendre le potentiel de l’IA.
« Qui a le pouvoir sur l’IA? », « Qui transfère ce pouvoir ? » sont les questions centrales de ce rapport auquel ont contribué plus de 150 personnes pendant plusieurs mois. Ils se sont appuyés sur de nombreux travaux du personnel, de boursiers et de bénéficiaires de la Fondation Mozilla pour rechercher une IA plus fiable dans les produits, les politiques et le codage.
Les podcasts
En parallèle au rapport 2022, Mozilla explore un large éventail de sujets, notamment la surveillance, le travail, les soins de santé, les données géospatiales ou la désinformation dans les médias sociaux lors de cinq podcasts bihebdomadaires, 19 personnes d’une douzaine de pays différents y interviendront.
Qui a le pouvoir sur l’IA ?
Dans tous les secteurs, les entreprises se tournent vers l’IA pour collecter et analyser des données afin d’adapter leurs offres. Celles disposant de suffisamment de ressources pour investir dans l’IA ont un avantage concurrentiel. Les pays ayant accès à de grandes quantités de données et à une forte puissance de calcul, quant à eux, consolident leur domination des logiciels et du matériel, ce qui a un impact sur la façon dont l’IA est déployée dans le monde.
En matière d’investissements privés dans l’IA, les Etats-Unis prédominent. Viennent ensuite la Chine, le Royaume-Uni, Israël, l’Allemagne, le Canada, la France puis l’Inde.
Utiliser différents jeux de données
Le coût de la formation des systèmes d’apprentissage automatique a diminué et la disponibilité des données est plus grande. Cependant, les auteurs du rapport ont pu constater que ce sont les mêmes ensembles de données provenant de quelques pays seulement qui sont le plus souvent utilisés pour évaluer les performances des modèles d’apprentissage automatique partout dans le monde.
Ainsi, plus de la moitié des ensembles de données utilisés pour l’analyse comparative des performances de l’IA dans plus de 26 000 articles de recherche provenaient de seulement 12 institutions reconnues et entreprises technologiques aux États-Unis, en Allemagne et à Hong Kong (Chine).
Le rapport souligne qu’un ensemble de données volumineux et fréquemment réutilisé ne garantit pas un meilleur apprentissage automatique qu’un ensemble plus petit conçu spécifiquement. Bien au contraire, il reflète souvent les stéréotypes racistes, sexistes des contenus internet avec lesquels il a été entraîné.
Les entreprises qui ont le plus à gagner de l’IA sont sans aucun doute les plus grandes entreprises technologiques du monde. Leurs revenus ont d’ailleurs grimpé en flèche durant la pandémie de COVID-19, notamment ceux de Microsoft en 2021, et plusieurs d’entre elles figurent aujourd’hui parmi les entreprises les plus riches au monde.
Elles influencent les internautes en recommandant des publications, l’achat de produits…
Plus de transparence
Selon Ranking Digital Rights, « il y a peu ou pas de transparence sur la façon dont les entreprises testent et déploient des systèmes algorithmiques et utilisent nos données personnelles, y compris en ce qui concerne la conservation, la recommandation et le classement ».
Les systèmes de recommandation déterminent les flux de médias sociaux auxquels les internautes vont avoir accès et quel contenu sera récompensé par des revenus publicitaires. Dans une étude participative de YouTube réalisée par Mozilla, 71 % des vidéos que les gens ont déclaré avoir « regretté » d’avoir regardées, leur avait été recommandées par algorithme.
Les publicités et les réseaux de médias sociaux peuvent être utilisés pour diffuser de la propagande et de la désinformation. En l’absence de transparence et d’une collaboration avec les chercheurs, une industrie mondiale d’entreprises et d’organisations engagées dans la messagerie secrète est en plein essor.
Comment établir la confiance?
De nouvelles méthodes et techniques pour préserver la vie privée, enregistrer l’origine des données, garantir l’éthique de l’IA, auditer les algorithmes et donner plus de pouvoir aux utilisateurs, font partie des nombreuses pites envisagées.
Pour y parvenir, une coopération est nécessaire. Avec ce rapport, les podcasts et les histoires qui l’accompagnent, Mozilla appelle les constructeurs de technologies et les responsables politiques à engager la conversation et à agir.
Sources de l’article :
The Internet Health Report 2022. https://2022.internethealthreport.org
