Informations fausses ou exagérées, manque de transparence dans l’utilisation de l’intelligence artificielle et fraude pré-typée. Dans la Silicon Valley, berceau de l’IA, quelques nœuds commencent à se défaire… Le procureur californien Ismail Ramsey enquête sur des start-up qui auraient trompé des investisseurs. Mais ce n’est pas tout : lundi 18 mars, la Security and Exchange Commission (SEC) a annoncé qu’elle avait infligé une amende à deux sociétés de conseil financier pour utilisation incorrecte de l’intelligence artificielle.

Fraude par les start-ups

Selon les explications du procureur Ramsey à l’agence de presse Reuters, certaines start-up de la Silicon Valley auraient triché avec des investisseurs pour les convaincre de les soutenir en vue d’une future cotation. Comment ? En amplifiant les informations sur leur clientèle, leur chiffre d’affaires et la puissance de leur technologie.

“Ces fraudes préalables à la cotation érodent l’intégrité des marchés financiers publics et privés”, a déclaré M. Ramsey à Reuters. “Comme toutes les technologies émergentes, l’IA est un terrain propice aux fraudeurs, qui peuvent faire des déclarations fausses et exagérées.”

Parmi les affaires déjà établies figurent celles des startups Theranos, qui propose une technologie d’IA pour les analyses de sang, et uBiome, qui propose un système d’analyse des intestins. Les deux entreprises ont été condamnées pour fraude.

Amende de la SEC

Entre-temps, la Securities and Exchange Commission (SEC) des États-Unis a infligé des amendes d’un montant total de 400 000 euros à deux sociétés de conseil financier – Delphia et Global Predictions – pour de fausses affirmations concernant l’utilisation de l’intelligence artificielle.

“Nous avons constaté que Delphia et Global Predictions ont annoncé à leurs clients et clients potentiels qu’ils utilisaient l’intelligence artificielle de certaines manières, alors qu’en fait ils ne le faisaient pas”, a déclaré Gary Gensler, président de la SEC, dans une note. Global Predictions, par exemple, prétendait être le “premier conseiller financier réglementé basé sur l’IA” et fournir des “prédictions expertes basées sur l’IA”, des informations que la SEC a jugées fausses et trompeuses pour les investisseurs.

La diffusion de l’intelligence artificielle dans la finance ouvre un certain nombre de questions et d’enjeux qui devront être traités par les régulateurs aux États-Unis comme en Europe, où le cadre est l’AI Act, la réglementation qui entrera progressivement en vigueur à partir de fin 2024. En ce qui concerne la finance, cependant, la loi sur l’IA délègue beaucoup aux autorités de surveillance individuelles.