IA et vidéo : Quelle doctrine ?
Après un article de Disclose sur l’utilisation supposée illégale du logiciel de BriefCam par la police, le ministère de l’Intérieur avait demandé à une mission d’inspection, en novembre 2023, de faire le point sur l’usage dudit logiciel. Le rapport de cette mission d’inspection, cosigné par l'inspection générale de la police nationale, l'inspection générale de l'administration et l'inspection générale de la gendarmerie nationale, a été publié fin octobre.
Premier enseignement : Dans un pays où plus de 1,110 million de caméras de surveillance sont déployées dans l’espace public (60 % en zone police, 40 % en zone gendarmerie, dans plus de 6 000 communes), ce rapport considère comme utile le recours aux logiciels d'analyse d'images puisque que les forces de l’ordre doivent gérer des flux de données toujours plus importants. Par exemple, « toutes les caméras installées dans les communes produisent chaque jour des millions d'heures d'images », qu’il est impossible d’exploiter sans recourir à des logiciels…
Un logiciel sous-utilisé
Par ailleurs, en ce qui concerne BriefCam, la commission insiste sur son usage limité puisque que seules 57 licences sont opérationnelles dans les services d'enquête de la police nationale et de la gendarmerie, pour un coût total de 1,3 million d'euros. Le rapport « recense, dans la police nationale, 177 utilisations déclarées du logiciel entre 2015 et 2023, soit 8 utilisations par an en moyenne pour l’ensemble des services affectataires, et 5,5 utilisations par licence sur l’ensemble de la période. Trois services totalisent plus de 57 % des utilisations, l’un d’entre eux comptant à lui seul 31 % des utilisations. Dans la gendarmerie nationale, 386 utilisations ont été déclarées, ce chiffre correspondant toutefois aux deux seules dernières années (2023 et 2022). »
Cette sous-utilisation s’expliquerait, d’une part, le fait que « le logiciel BriefCam est mal connu des enquêteurs de terrain, du fait de l’absence de toute information institutionnelle sur son existence, sa disponibilité et ses fonctionnalités ». BriefCam est ainsi « resté confidentiel, le plus souvent cantonné aux services affectataires, et lorsqu’il a été employé par certains enquêteurs, c’était le plus souvent à la faveur d’un rapport de proximité ou au bénéfice de relations personnelles avec le service affectataire. » D’autre part, la commission explique cette sous-utilisation par l’absence d’un dispositif de formation des utilisateurs car, selon elle, bien que « relativement intuitif, BriefCam nécessite néanmoins une formation-utilisateurs que n’offrait pas, de son côté, le distributeur du logiciel. La formation s’est donc faite le plus souvent sur le tas. »
Définir une doctrine d’usage
Comme le souligne le rapport, le logiciel BriefCam est « resté pendant 8 ans "un objet juridique non identifié" ». Pour les membres de la commission il est donc nécessaire d’améliorer le contrôle interne, la cohérence de doctrine et la sécurisation de l'utilisation des nouvelles technologies numériques. Par ailleurs, elle appelle de ses vœux la mise en place « d’un dispositif-cadre législatif, innovant et ambitieux, d'expérimentation des nouvelles technologies » et insiste sur le fait que l’entrée en vigueur du règlement européen sur l’IA devrait être l’occasion de faire évoluer notre droit réglementant les usages de l’IA. Enfin, le rapport souligne qu’il serait souhaitable de privilégier, en la matière, des solutions souveraines…
Photo d’illustration © Getty Images