Le Delaware muscle la gouvernance d’OpenAI pour sécuriser l’avenir de l’IA. La procureure générale de l’État, Kathy Jennings, a donné son feu vert à une réorganisation structurelle majeure du leader mondial de l’intelligence artificielle, assortie d’engagements renforcés en matière de sécurité.
Après plus d’un an d’examen minutieux, le bureau de la procureure générale du Delaware a officiellement émis une déclaration de non-objection concernant la proposition de restructuration d’OpenAI, Inc. Cette transaction vise à assurer que l’organisation à but non lucratif (NFP) conserve un contrôle prépondérant sur ses activités, notamment face à la création d’une entité à but lucratif (PBC – Public Benefit Corporation).
Initialement, OpenAI envisageait une scission qui aurait détaché la supervision des activités lucratives de sa structure à but non lucratif. Cependant, sous l’impulsion de Kathy Jennings et de son homologue californien, Rob Bonta, le géant de l’IA a revu sa copie. La nouvelle approche, annoncée plus tôt cette année, consiste à intégrer une société d’intérêt public distincte au sein de la structure non lucrative existante.
« OpenAI, en tant que société à but non lucratif du Delaware, est le leader mondial du secteur de l’intelligence artificielle », a déclaré la procureure générale Kathy Jennings. « Les engagements pris dans le cadre de cette transaction lui permettent de demeurer un innovateur mondial et l’une des plus grandes organisations à but non lucratif au monde, tout en renforçant les garde-fous qui guideront cette technologie puissante au profit de l’humanité. »
Ces réformes visent à garantir que le développement de l’IA serve le bien commun, que ce soit pour améliorer l’accès à l’information pour les communautés défavorisées ou pour accélérer la recherche scientifique et médicale. « Ce fut une négociation longue et intensive », a-t-elle ajouté, se félicitant qu’OpenAI s’engage désormais à adopter une structure de gouvernance qui privilégie la sûreté et la sécurité, et à utiliser la technologie et les ressources de l’entreprise dans l’intérêt du public. Elle a également salué le partenariat essentiel de la procureure générale Rob Bonta.
Contexte
Fondée en 2015, OpenAI, Inc. a été constituée en Delaware avec pour mission de garantir que l’intelligence artificielle générale profite à l’ensemble de l’humanité, en mettant l’accent sur un développement et une distribution sécurisés. En vertu du droit du Delaware, le procureur général agit en tant que représentant des bénéficiaires des entités à but non lucratif, qui, dans le cas d’OpenAI, est « l’humanité tout entière ».
L’examen approfondi a débuté le 9 octobre 2024, suite à l’annonce par OpenAI de sa volonté de transformer son entité à but non lucratif (NFP) en une société d’intérêt public (PBC) à but lucratif. Le bureau du procureur général a diligemment analysé la proposition, s’adjoignant les services d’un conseiller juridique indépendant et d’un conseiller financier spécialisé, Moelis & Company LLC. Une coordination étroite a également été maintenue avec le bureau du procureur général de Californie.
Les préoccupations principales de Kathy Jennings lors de cet examen portaient sur trois axes : garantir la primauté de la mission de sécurité publique d’OpenAI face aux intérêts financiers de la PBC, maintenir le contrôle du NFP sur la PBC, et assurer un traitement équitable du NFP dans le cadre de la recapitalisation, tant sur le plan financier que pour son accès à la technologie d’OpenAI.
Ce qui change
Pour accorder sa déclaration de non-objection, la procureure générale Jennings a obtenu plusieurs engagements clés de la part d’OpenAI :
- Le NFP conservera le contrôle exclusif de la nouvelle PBC, incluant la nomination et la révocation de ses administrateurs.
- La mission de la PBC sera alignée sur celle du NFP, en s’appuyant sur les principes de la « Charte OpenAI » pour son exécution.
- Les administrateurs de la PBC devront prioriser la mission de l’entreprise et non les intérêts financiers des actionnaires lors de décisions relatives à la sûreté et à la sécurité.
- Le comité de sûreté et de sécurité au niveau du NFP, organe décisionnel clé, restera une composante du NFP. Ce comité aura le pouvoir de superviser les pratiques de sécurité et de prendre des mesures allant jusqu’à l’arrêt du déploiement de modèles ou de systèmes d’IA, même si les seuils de risque autoriseraient autrement leur diffusion.
- Le président de ce comité de sûreté et de sécurité sera un administrateur du NFP, sans siéger au conseil de la PBC. Dans un premier temps, il s’agira de M. Zico Kolter. Il bénéficiera de droits d’observation et d’accès à toutes les informations pertinentes du conseil de la PBC concernant la sûreté et la sécurité.
- Afin de faire progresser sa mission, le NFP bénéficiera d’un accès privilégié aux recherches avancées, à la propriété intellectuelle, aux produits et aux plateformes de la PBC, y compris les modèles d’IA, les API et les technologies associées, ainsi qu’à un soutien opérationnel et un accès aux employés de la PBC.
- Dans l’année suivant la recapitalisation, au moins deux administrateurs du conseil du NFP (dont le président du comité de sûreté et de sécurité) ne siégeront pas au conseil de la PBC.
- Le procureur général sera informé à l’avance de tout changement majeur dans la gouvernance d’entreprise.
Ces engagements garantissent la primauté de la mission de sécurité publique d’OpenAI et renforcent la structure de gouvernance de l’entreprise pour un développement responsable de l’IA.