Avec quelles limites légales les systèmes qui utilisent l’intelligence artificielle (IA) peuvent-ils être appliqués et développés ? Dans quels domaines et comment éviter leur influence manipulatrice sur un individu ou une société ? Voilà deux questions essentielles auxquelles doit répondre le projet de directives éthiques du gouvernement de Serbie. Ce texte, qui est à l’étude, devrait être adopté début 2023, et servira de point de départ à la future loi sur l’IA, dont aucune date n’est pour le moment annoncée.
Les applications de l’IA sont multiples (assistants virtuels, logiciels d’analyse de photos, systèmes de reconnaissance vocale et faciale, etc.) ou être intégrés dans des dispositifs matériels (robots avancés, drones, véhicules autonomes, etc.). Or, pour être précis, les algorithmes se basent sur l’analyse d’une vaste quantité de données personnelles.
Le document de 40 pages, préparé par un groupe de travail d’une trentaine de membres, issus principalement du secteur public serbe, doit donc permettre de définir les principes qui devraient guider ceux qui conçoivent et introduisent des solutions basées sur cette technologie du futur. L’IA doit respecter des principes clés : transparence du développement, des tests, de la mise en service, de la surveillance du fonctionnement du système, ainsi que de son arrêt, préservation de l’intégrité et de la dignité de tous les utilisateurs, et respect du principe de non-discrimination.
La directive serbe travaille sur une dizaine de systèmes à haut risque qui peuvent avoir un impact plus important sur les libertés individuelles et doivent par conséquent être analysés et contrôlés plus avant. Ces systèmes comprennent l’identification biométrique et la catégorisation des individus, la gestion des infrastructures (trafic routier, eau, gaz, etc.), les algorithmes utilisés dans l’éducation lors de la sélection, de la planification ou de l’évaluation des candidats, les algorithmes qui sélectionnent les candidats à un emploi, les systèmes qui analysent les données sociales ou de santé.
La question de l’usage de l’IA dans des domaines sensibles est aussi censée être encadrée : signalement d’infractions, surveillance des frontières et gestion des migrations, etc. Or, dans le projet actuel, nulle mention n’est faite des services de sécurité. Pour Ljubiša Bojić, membre du groupe de travail et également chercheur au Laboratoire pour la société numérique de l’Institut de philosophie et de théorie sociale, cette question devrait être abordée dans le cadre de la future loi sur l’IA.
La société civile s’inquiète
Ana Toskić Cvetinović, de l’organisation Partners Serbia, souligne que la manière dont l’IA est utilisée dans le secteur public en Serbie aujourd’hui n’est pas transparente. Et la directive semble présenter de nombreuses lacunes dans ce domaine, sans parler de la problématique de sa mise en œuvre. « Je ne suis pas sûre des effets que ce texte aura. D’autant que les institutions compétentes n’ont pas la capacité d’agir dans le cas où les droits sont violés par l’application de l’IA. » C’est pour cela Partners Serbia s’apprête à développer une base de données répertoriant les systèmes d’IA que l’État envisage ou développe déjà pour les besoins des pouvoirs publics.
Sans attendre la mise en place d’une régulation, le gouvernement serbe investit dans l’IA à grand pas. La Stratégie 2020-2025 a été adoptée dès 2019. Un super-calculateur a démarré en 2021 au State Data Center de Kragujevac, tandis qu’a été lancée en décembre 2021 la Plateforme nationale d’intelligence artificielle. Selon le Président Aleksandar Vučić, un total de 55 millions d’euros ont été investis dans ce centre de données, dont deux millions d’euros pour le seul super-calculateur.
