Les enjeux de la régulation de l’IA
Le sommet international sur les risques de l’intelligence artificielle, organisé à Londres les 1er et 2 novembre 2023, a réuni des dirigeants de vingt-huit pays, des PDG de grandes entreprises technologiques et des experts de la société civile. L’objectif était de discuter des défis posés par l’IA, en particulier en matière de régulation.
Les participants ont souligné que l’IA est un outil puissant qui peut être utilisé à des fins bénéfiques, comme la santé, l’éducation ou l’environnement. Cependant, ils ont également averti que l’IA présente des risques potentiels, tels que les biais, la discrimination et la manipulation.
Les biais
L’IA est entraînée sur des données qui reflètent les biais présents dans la société. Cela peut conduire à des systèmes qui sont discriminatoires envers certains groupes de personnes. Par exemple, un algorithme de reconnaissance faciale peut être plus susceptible d’identifier de manière erronée les personnes de couleur comme des suspects.
La discrimination
L’IA peut être utilisée pour discriminer les personnes dans l’accès à l’emploi, au crédit ou aux services publics. Par exemple, un algorithme d’évaluation des risques de crédit peut être plus susceptible de refuser un prêt à une personne d’origine ethnique minoritaire.
La manipulation
L’IA peut être utilisée pour manipuler les gens, par exemple pour diffuser de fausses informations ou pour influencer leurs comportements. Un algorithme de ciblage publicitaire peut être utilisé pour diffuser des publicités trompeuses à des personnes vulnérables.
Les mesures de régulation
Les participants au sommet de Londres ont discuté de différentes mesures de régulation qui pourraient être mises en place afin d’atténuer les risques de l’IA. Ces mesures devraient inclure :
- La transparence : les systèmes d’IA devraient être transparents sur leur fonctionnement et leurs données d’entraînement.
- L’auditabilité : les systèmes d’IA devraient être auditables pour identifier et corriger les biais.
- La responsabilité : les développeurs et les utilisateurs d’IA devraient être responsables des dommages causés par leurs systèmes.
Les débats autour de la publication de modèles en open source
L’un des débats les plus importants du sommet portait sur la publication de modèles d’IA en open source. La publication d’un modèle en open source signifie que le code source du modèle est rendu public, ce qui permet à quiconque de l’utiliser, de le modifier ou de le redistribuer.
Les partisans de la publication en open source affirment qu’elle a plusieurs avantages. Elle permet :
- D’accélérer le développement de l’IA : les chercheurs peuvent partager leurs idées et leurs travaux, ce qui permet de faire progresser l’IA plus rapidement.
- D’améliorer la sécurité : les développeurs peuvent identifier et corriger les vulnérabilités des modèles.
- De promouvoir la transparence : les utilisateurs peuvent comprendre comment fonctionnent les modèles.
Les opposants à la publication en open source disent toutefois qu’elle présente des risques tels que :
- Permettre la propagation de biais : les modèles d’IA peuvent être biaisés, et la publication en open source peut permettre à ces biais de se propager.
- Favoriser la surveillance : les modèles d’IA peuvent être utilisés pour la surveillance des populations, et la publication en open source peut faciliter cette procédure.
- Développer des armes autonomes : les modèles d’IA peuvent être utilisés pour développer des armes autonomes, tandis que la publication en open source peut faciliter le développement de ces armes.
Conclusion
Le sommet de Londres a été un événement important qui a mis en lumière les défis de la régulation de l’IA. Les participants ont discuté de différentes mesures qui pourraient être mises en place pour atténuer les risques de l’IA, mais il n’y a pas encore de consensus sur la meilleure approche. La publication de modèles d’IA en open source est un débat complexe qui soulève des enjeux éthiques, sécuritaires et économiques. Ainsi, il est important de poursuivre ce débat et de trouver des solutions qui répondent aux besoins de tous.
