‍

‍

Le 20 novembre dernier, j'ai été invité par Hub France IA à un événement organisé par BPI avec Martin Ulbricht de la DG CONNECT de la Commission européenne. C'était une excellente occasion de discuter avec lui et d'autres entreprises des règles harmonisées sur l'IA.  Dans les mois à venir, cette proposition aura un impact énorme sur l'industrie.

Je vais partager avec vous mon point de vue sur les questions suivantes :

• Qui est impacté ?
• Devons-nous ajouter des contrôles sur l'utilisation des technologies ?
• S'appliquera-t-elle aux technologies créées en dehors de l'Europe ?
• Quel sera le coût pour les entreprises de se conformer à cette nouvelle réglementation ?

Qui est concerné ?

L'idée de cette proposition est basée sur une approche basée sur le risque décrite ici.  

‍

‍

‍

La classe de risque inacceptable comprend "les systèmes d'IA considérés comme une menace claire pour la sécurité, les moyens de subsistance et les droits des personnes seront interdits, depuis le scoring social par les gouvernements jusqu'aux jouets utilisant une assistance vocale qui encourage les comportements dangereux".

Les systèmes à haut risque sont considérés comme des systèmes tels que "les services privés et publics essentiels (par exemple, le scoring de crédit qui prive les citoyens de la possibilité d'obtenir un prêt)".  Cela signifie qu'elle a un impact énorme sur le secteur financier, y compris les banques, mais aussi les vendeurs de logiciels et les fournisseurs de services comme Bleckwen. 

En outre, cela signifie que beaucoup d'acteurs seront touchés, donc nous devons tous comprendre l'impact d'une telle réglementation. En attendant, l'UE doit discuter et nous consulter (les vendeurs) afin de concevoir une réglementation applicable. 

‍

Faut-il ajouter des contrôles sur l'utilisation des technologies ?

La question concerne ici l'utilisation de la technologie ou du service fourni. Alors, qui doit s'assurer que la technologie est conforme à la réglementation ? À mon avis, il devrait incomber au consommateur de la technologie de veiller au respect des réglementations respectives. Bien entendu, le consommateur de la technologie peut exiger des fournisseurs de technologie qu'ils proposent des fonctions d'aide et de contrôle de la conformité du système. La réponse est donc oui. Nous devons trouver le niveau de contrôle proportionné et doter l'utilisateur final des outils adéquats pour démontrer qu'il respecte la réglementation.

‍

S'applique-t-elle aux technologies créées en dehors de l'UE ?

C'est une évidence : oui ! Si le fournisseur de la technologie se trouve en dehors de l'UE et que la responsabilité a été reportée par le consommateur de technologie sur le fournisseur, comment s'assurer que ce dernier se conformera aux règles harmonisées ? C'est une autre raison pour laquelle il doit être de la responsabilité du consommateur de technologie de vérifier la conformité avec les réglementations sur l'IA. Sinon, cela pourrait signifier qu'un fournisseur basé dans d'autres régions géographiques pourrait vendre un service utilisant l'IA sans contrôle de l'UE et l'utilisateur final soutiendrait que c'est la responsabilité du fournisseur.

‍

Quel serait le coût pour les entreprises de se conformer au règlement de l'UE ?

Différentes organisations, dont la Direction générale des réseaux de communication, du contenu et de la technologie (DG Connect) de la Commission européenne, ont fait des estimations et, pour être honnête, il est difficile de se prononcer. La fourchette d'estimations va de 5 000 à 250 000 euros. Pour les entreprises, et en particulier pour les jeunes startups qui utilisent beaucoup de technologies d'IA dans leurs systèmes, l'impact sera énorme, et cela pourrait être un frein à l'innovation et à l'écosystème des startups de l'UE.

‍

Takeaway

Cette réglementation aura certainement un impact important sur le secteur financier en raison de la prévalence de l'IA déjà en production. Il est important de se préparer dès maintenant à cette réglementation. Les éléments à prendre en compte lors du déploiement de votre projet d'IA sont les suivants : gouvernance des données, traçabilité, auditabilité, documentation, transparence, contrôle humain et robustesse de la cybersécurité.

‍

‍Chez Bleckwen, nous n'avons pas attendu ce projet de règlement européen pour aborder ces sujets car ils étaient déjà importants pour nous.Vous voulez discuter de votre projet de détection de la fraude au crédit ?‍‍ Demandez une démo aujourd'hui.

‍