OpenAI vs человечество? Бывшие сотрудники и нобелевские лауреаты требуют остановить коммерциализацию компании

25.04.2025 21:08:00 | iXBT.com

Группа экс-сотрудников OpenAI, нобелевских лауреатов и экспертов по ИИ потребовала от властей Калифорнии и Делавэра заблокировать переход компании на коммерческую модель. В открытом письме от 21 апреля, направленном генеральным прокурорам штатов Робу Бонте и Кэти Дженнингс, авторы предупредили: реструктуризация OpenAI грозит подорвать миссию по защите человечества от рисков, связанных с искусственным общим интеллектом (AGI).

Инициативу подписали 10 бывших сотрудников компании, включая экс-советника по этике Пейдж Хедли, трёх лауреатов Нобелевской премии и ведущих исследователей в области ИИ. Они раскритиковали планы OpenAI передать операционный контроль коммерческому подразделению — публичной корпорации (Public Benefit Corporation, PBC). По их мнению, это ликвидирует ключевые механизмы безопасности, такие как независимый совет директоров и ограничение прибыли инвесторов до 100-кратной суммы вложений.

Источник: Carlos Barria, Reuters

«Сейчас в уставе OpenAI есть обязательство делиться технологиями с конкурентами, если те близки к созданию AGI. Но при переходе на коммерческие рельсы эти гарантии исчезнут за один день», — заявил в интервью Associated Press экс-инженер OpenAI Аниш Тондвалкар.

Основанная в 2015 году как некоммерческая организация, OpenAI с 2019 года управляется гибридной структурой: коммерческое подразделение OpenAI LP работает под надзором некоммерческого совета. Новая реструктуризация, по данным подписантов, фактически передаст всю власть PBC, оставив некоммерческому крылу лишь второстепенные проекты.

«Меня тревожит вопрос: кто будет владеть и контролировать AGI, когда он будет создан? — отметила Пейдж Хедли. — Приоритет прибыли может вытеснить безопасность, особенно по мере роста возможностей ИИ». Экс-инженер Низан Стиннон выразился жёстче: «OpenAI способна разработать технологию, которая уничтожит человечество. Только некоммерческая структура, чья обязанность — служить обществу, может этому противостоять. Передача контроля коммерческому юрлицу — предательство миссии».

В компании настаивают, что изменения необходимы для конкуренции с такими игроками, как Anthropic и xAI Илона Маска. «Любые структурные корректировки направлены на то, чтобы как можно больше людей получили доступ к преимуществам ИИ», — говорится в официальном заявлении OpenAI.

Однако критики уверены: стремление обогнать конкурентов вынуждает компанию спешить с выпуском продуктов, жертвуя безопасностью. «Цена ошибок будет катастрофически расти по мере развития ИИ», — подчеркнула Хедли.

Ситуацию осложняет иск Илона Маска, поданный в 2024 году. Соучредитель OpenAI, покинувший совет директоров в 2018-м, обвинил компанию в отходе от изначальных принципов. Но текущее письмо — первый случай, когда против планов OpenAI выступили её бывшие сотрудники и авторитетные учёные, детально понимающие риски AGI.

Генеральный прокурор Делавэра Кэти Дженнингс уже пообещала провести «тщательный анализ планов OpenAI для защиты общественных интересов». Её калифорнийский коллега Роб Бонта пока воздерживается от комментариев из-за продолжающегося расследования. Решение регуляторов определит судьбу реструктуризации, сроки которой привязаны к привлечению миллиардных инвестиций до конца 2025 года.

Подробнее