L’UE met la dernière main à une nouvelle réglementation sur l’IA, mais le PDG d’OpenAI, Sam Altman, se dit « très préoccupé » par la loi. La loi européenne sur l’IA exigerait que l’entreprise divulgue les détails de ses méthodes d’entrainement (training methods) et de ses sources de données.
Le PDG d’OpenAI, Sam Altman, a averti que l’entreprise pourrait retirer ses services du marché européen en réponse à la réglementation sur l’IA élaborée par l’UE.
S’adressant aux journalistes après une conférence à Londres, Sam Altman a déclaré qu’il avait « de nombreuses inquiétudes » concernant la loi européenne sur l’IA, qui est actuellement en cours de finalisation par les législateurs. Les termes de la loi ont été élargis ces derniers mois pour inclure de nouvelles obligations pour les fabricants de « modèles de base » – des systèmes d’IA à grande échelle qui alimentent des services tels que ChatGPT et DALL-E d’OpenAI.
« Les détails sont vraiment importants », a déclaré Sam Altman, selon un rapport du Financial Times. « Nous essaierons de nous conformer, mais si nous ne pouvons pas le faire, nous cesserons nos activités.
Un jour plus tard, Sam Altman a tenté de tempérer ses premiers commentaires, affirmant qu’OpenAI avait eu des conversations productives liées à la réglementation de l’IA en Europe et « bien sûr, n’a pas l’intention de partir ».
Néanmoins, dans des commentaires rapportés plus tôt par le Time, Sam Altman a déclaré que la préoccupation était que les systèmes tels que ChatGPT seraient désignés comme étant « à haut risque » en vertu de la législation de l’UE. Cela signifie qu’OpenAI devrait répondre à un certain nombre d’exigences en matière de sécurité et de transparence. « Soit nous serons en mesure de répondre à ces exigences, soit nous ne le pourrons pas », a déclaré M. Altman. « Il y a des limites techniques à ce qui est possible.
Outre les défis techniques, les divulgations requises en vertu de la loi européenne sur l’IA présentent également des menaces commerciales potentielles pour OpenAI. L’une des dispositions du projet actuel exige que les créateurs de modèles de fondation divulguent des détails sur la conception de leur système (y compris « la puissance de calcul requise, le temps d’entraînement et d’autres informations pertinentes liées à la taille et à la puissance du modèle ») et fournissent des « résumés des données protégées par le droit d’auteur utilisées pour l’entraînement ».
OpenAI avait l’habitude de partager ce type d’informations, mais a cessé de le faire à mesure que ses outils prenaient de la valeur sur le plan commercial. En mars, le cofondateur d’Open AI, Ilya Sutskever, a déclaré à The Verge que l’entreprise avait eu tort de divulguer autant d’informations par le passé, et qu’il était nécessaire de garder secrètes des informations telles que les méthodes d’entraînement et les sources de données pour éviter que son travail ne soit copié par des rivaux.
Outre la menace commerciale éventuelle, obliger OpenAI à identifier son utilisation de données protégées par le droit d’auteur exposerait l’entreprise à des poursuites potentielles. Les systèmes d’IA générative tels que ChatGPT et DALL-E sont entraînés à l’aide de grandes quantités de données extraites du web, dont la plupart sont protégées par des droits d’auteur. Lorsque les entreprises divulguent ces sources de données, elles s’exposent à des poursuites judiciaires. Stability AI, par exemple, un concurrent d’OpenAI, est actuellement poursuivi par le fabricant d’images Getty Images pour avoir utilisé ses données protégées par le droit d’auteur afin d’entraîner son générateur d’images IA.
Les récents commentaires de M. Altman contribuent à nuancer le désir de réglementation de l’entreprise. Sam Altman a déclaré aux responsables politiques américains que la réglementation devrait surtout s’appliquer aux futurs systèmes d’IA, plus puissants. En revanche, la loi européenne sur l’IA est beaucoup plus axée sur les capacités actuelles des logiciels d’IA.
https://www.theverge.com/2023/5/25/23737116/openai-ai-regulation-eu-ai-act-cease-operating
