OpenAI lance une équipe dont l'inquiétude affichée est qu'une entreprise comme OpenAI finisse par détenir trop de pouvoir

Le 20 août, OpenAI a publié le premier billet d'AI Futures, à la fois un blog et le nom d'une équipe nouvellement constituée, Strategic Futures, dirigée par Dean Ball, spécialiste des politiques de l'IA arrivé dans l'entreprise en juin après un passage à Washington. Le cadrage est inhabituel pour un laboratoire de pointe. Il soutient que la catégorie de risque la plus vaste et la moins résolue n'est pas un modèle qui se comporte mal, mais la concentration du pouvoir : quelques entreprises, gouvernements ou institutions devenant démesurément puissants grâce à l'IA. L'équipe se donne pour question la manière dont une société libre devrait être réorganisée afin de préserver les droits et l'autonomie des individus à mesure que la technologie s'installe. Ball esquisse des principes directeurs, dont la préférence pour la responsabilité individuelle plutôt que l'intervention collective et des limites à la visibilité qu'un acteur unique devrait pouvoir obtenir. Il s'agit d'un travail de recherche et de publication, non d'un engagement de gouvernance : rien de ce qui a été annoncé ne modifie ce que construit OpenAI, à qui elle appartient ou comment elle est supervisée.

✓ Vérifié · 3 sources

Actus liées