Apparu il y a près de 60 ans, l’intelligence artificielle (IA) est passée de mythe robotique à réalité discrète. La technologie permet, à partir de données, de procéder à des déductions à la manière d’un cerveau humain, ainsi que d’apprendre de lui-même. La multiplication récente des systèmes de vidéosurveillance permet l’exploitation intelligente des flux vidéo : l’IA peut alors extraire des informations très variées depuis une image vidéo, ce qui permet d’automatiser son analyse au service des entreprises.
Afin de traquer les automobilistes non respectueux du code de la route, la mairie de Paris annonçait en octobre dernier, le déploiement de 1 200 nouvelles caméras de surveillance. Cette décision s’appuie sur le développement technologique basée sur la reconnaissance vidéo. Feu grillé, carrefour bloqué ou priorité piéton refusée, devant l’objectif, les automobilistes ne pourront plus échapper à la sanction. Chaque infraction détectée sera présentée à un agent qui procèdera à l’établissement d’un procès-verbal. Aussi avancée soit-elle, la technologie est pour le moment opérée par un agent bien humain. Tout comme dans la plupart des projets IA, l’Homme n’a pas vocation à laisser la machine prendre toutes les décisions. Il s’agit là plutôt d’une collaboration avec un système neuronal qui offre une capacité de calcul inégalable et un employé qui peut alors prendre les décisions adéquates.
Si le processus n’est pas complètement automatisé, la technique le permet déjà. En toile de fond, une IA de surveillance avec des yeux quasi infaillibles. D’un point de vue purement géographique, la surveillance et sa possible ubiquité en France ne fait pas de doute. Vie privée, données personnelles et éthique de la démarche sont autant de critères à considérer par les parties prenantes avant de se lancer dans l’adoption de la reconnaissance vidéo.
Comment alors travailler à une vision IA éthique, respectueuse de tous ? Quelles garanties doivent-être mises à disposition pour justifier que ces données récoltées œuvrent pour le bien commun?

Questionnement éthique

Axel Mery, directeur technique chez Fujitsu

Si l’IA est un terme employé depuis plusieurs décennies, les questionnements quant à l’éthique de son application sont relativement récents. Alors que l’Europe est vigilante, d’autres pays ont opté pour une utilisation sans précédent. En Chine, la vidéo est exploitée, comme en France, davantage pour la prévention et la sécurité routière. L’approche adoptée est beaucoup plus directe mais se justifie avant tout par une perception de la vie privée historiquement opposée de nos standards européens. Par exemple, en cas d’infraction d’un piéton qui traverse au feu rouge, les autorités chinoises ont récemment opté pour l’affiche de son visage sur écrans, et ce, jusqu’au paiement de l’amende .
Pourtant, bien loin d’usages controversés, la responsabilité en cas d’incident avec un tiers est un enjeu central. Selon son article 22, le Règlement Général européen sur la Protection des Données (RGPD) oblige les acteurs à « une information renforcée » auprès de leurs utilisateurs lorsqu’un algorithme mène à une décision automatisée. Cela va dans le sens de chercheurs qui préconisent l’instauration d’un « droit à l’explication ». Dans ce contexte, la loi permettrait à un individu de pouvoir accéder aux données, et aux systèmes d’algorithme, à l’origine de la décision automatique pour en vérifier la validité. Ce principe pourrait notamment venir en aide aux citoyens floués par une décision de justice questionnant la responsabilité de chacune des parties lorsque l’intelligence artificielle en est le centre névralgique.
L’Union Européenne est également impliquée dans la protection de la vie privée et des données personnelles. Pour preuve, le RGPD a fait trembler le monde de la Tech avec des règles strictes quant à leur exploitation. Dans le cadre de la reconnaissance vidéo, le risque de dérive est flagrant. A partir d’un flux, chaque individu, véhicule, comportement, déplacement, localisation peut être enregistré et analysé.

IA : des possibilités infinies

L’aspect technologique n’est pas à blâmer pour autant et, même si la responsabilité est un enjeu central autant juridiquement qu’humainement, le développement de ces initiatives, de plus en plus souvent françaises, ayant pour cœur l’IA doit rester une priorité. Dans la majorité des cas, l’intelligence artificielle a pour but d’augmenter l’efficacité des processus ou la performance des collaborateurs. In fine, il s’agit d’un revenu accru et d’une meilleure productivité pour les entreprises. Une innovation vertueuse est possible, et celle-ci doit être l’objectif de l’ensemble des acteurs engagés dans son développement. Car les données récupérées sont autant de datas qui permettent d’accompagner les individus, plutôt que de les surveiller. Ainsi, l’expérience du Machine Learning appliqué au monde de l’entreprise peut prévenir des accidents du travail sur un chantier et même dans une usine. A partir de cette approche, les possibilités de l’IA sont illimitées : prévention des agressions aux distributeurs automatique de billets, gestion des flux dans les points de vente physiques et mêmes sur les routes. Au centre de toutes ses innovations : une expérience humaine nouvelle, plus agréable.
L’IA moderne s’appuie en grande partie sur la reconnaissance vidéo pour les applications multiples qu’elle permet. Si elle apparaît menaçante pour certains, devenant un exutoire des passions anti-technologiques, elle reste par-dessus tout assez neutre. Comme pour toutes les inventions, c’est à l’Homme d’en impulser l’usage. Il nous appartient de façonner l’intelligence artificielle selon un code éthique, durable et structurel, qui devra prendre en compte de multiples paramètres.
Dans le cas de la reconnaissance vidéo au service de la société, il convient donc de ne plus parler de "vidéo surveillance", mais de "vidéo assistance".