OpenAI создала команду, чья заявленная тревога — что компания вроде OpenAI в итоге получит слишком много власти

20 августа OpenAI опубликовала первую запись AI Futures — это и блог, и название новой команды Strategic Futures во главе с Дином Боллом, исследователем политики в области ИИ, который пришёл в компанию в июне после работы в Вашингтоне. Постановка вопроса необычна для передовой лаборатории. В тексте утверждается, что крупнейшая и наименее решённая категория рисков ИИ — это не плохое поведение модели, а концентрация власти: небольшое число компаний, правительств или институтов становится непропорционально сильным благодаря ИИ. Команда ставит перед собой вопрос, как следует перестроить свободное общество, чтобы права и самостоятельность человека остались невредимы по мере прихода технологии. Болл намечает принципы, среди них — предпочтение индивидуальной ответственности перед коллективным вмешательством и ограничения на то, какую видимость может получить один субъект. Это исследовательская и издательская работа, а не обязательство в области управления: ничто из объявленного не меняет того, что OpenAI строит, кому она принадлежит и как за ней надзирают.

✓ Проверено · 3 источников

Похожие новости