Le centre de recherche de l’État vérifiera le travail des entreprises d’IA plutôt que de se fier à leur parole.
Alors que le gouvernement fédéral nous laisse essentiellement à la merci de l’industrie de l’IA, l’État de New York prend les choses en main. Mardi, la gouverneure Kathy Hochul a lancé le premier programme de test d’IA dirigé par l’État du pays. Plutôt que de faire confiance aux entreprises d’IA pour s’autoréguler, le système de New York confiera à des chercheurs indépendants la vérification de leur travail. « Les enjeux sont trop élevés pour se fier à ce que disent les entreprises d’IA », a déclaré Hochul dans un communiqué de presse.
Le travail sera assuré par le New York Center for AI Responsibility and Research à l’Université de Binghamton. Plus de 80 scientifiques de New York contribueront. Ils utiliseront la puissance de calcul fournie par Empire AI, le partenariat public-privé de l’État dans le domaine de l’IA, d’une valeur de 500 millions de dollars.
Le bureau de Hochul a déclaré que le centre testerait des systèmes d’IA avancés, étudierait leurs risques et fournirait des preuves pour éclairer les décisions des responsables publics. Il examinera également comment l’IA peut être utilisée de manière responsable dans des domaines tels que la médecine et la découverte scientifique.
Un défaut potentiel du programme est qu’il ne peut étudier que ce que les entreprises d’IA divulguent publiquement. La RAISE Act de New York, signée par Hochul l’année dernière, exige que les grands développeurs d’IA s’enregistrent auprès de l’État d’ici le 1er janvier 2027. À partir de cette date, les entreprises devront publier des cadres de sécurité et des rapports de transparence et signaler les incidents de sécurité critiques dans les 72 heures. La RAISE Act ne comblera pas le vide concernant les modèles non publiés, mais elle obligera au moins les entreprises à divulguer davantage d’informations.
