La régulation des systèmes d’intelligence artificielle repoussée en Californie

Le veto porté par le gouverneur californien à la bill sur la sécurité des systèmes d’intelligence artificielle, reçu comme une demi-surprise

La proposition de loi SB 1047 pour la sécurité de certains systèmes d’intelligence artificielle, présentée par le Sénateur Wiener le 7 février, a fait couler beaucoup d’encre et n’a pas créé l’unanimité au sein de la Silicon Valley puisque certains dirigeants des grandes entreprises technologiques, y compris Elon Musk, étaient pour, et d’autres comme Mark Zuckerberg ou encore Sam Altman, absolument contre. La proposition de loi avait pour objectif d’engager la responsabilité des modèles d’IA en cas de dommages graves et extrêmement graves. L’une des mesures phares de cette proposition était pour les développeurs de modèles d’IA de prévoir un système d’arrêt immédiat en cas de défaillance grave. Les principaux risques évoqués étaient la création et la prolifération d’armes de destruction de masse – y compris biochimiques et nucléaires – et de cyberattaques. Autre mesure clé de la proposition, rejoignant une approche européanisée, la responsabilité des développeurs et de certains systèmes d’IA était envisagée en cas de dommage grave causé par une IA, tels que décès ou dégâts matériels et permettait des poursuites par le procureur. Ces mesures ne verront donc pas le jour puisque le 30 septembre, le gouverneur démocrate de Californie, Gavin Newsom, a tranché : veto de la proposition de loi. Le coup porté à l’innovation était trop cher au regard des risques envisagés, la probabilité de ces risques étant elle-même sujette à débat (C. Lesnes, En Californie, bataille sur la réglementation de l’IA, lemonde.fr, 17 sept. 2024). Ce coup d’arrêt peut surprendre compte tenu du fait que la loi avait été adoptée par le Parlement californien, mais les dés n’étaient pas joués et le véto du gouverneur restait un scénario envisagé. La Californie ne sera donc pas (ou du moins pas tout de suite) l’État pionnier de régulation de l’IA aux États-Unis. Néanmoins, il ne faut pas s’y méprendre, le gouverneur de Californie n’est pas anti-régulation et encore moins lorsqu’il s’agit d’intelligence artificielle. En effet, il a signé, entre autres, une loi exigeant la présence d’un filigrane pour les images crées...