Газета The New York Times (NYT) сообщила, что в начале 2023 года хакер получил доступ к внутренним системам обмена сообщениями OpenAI и украл информацию о технологиях искусственного интеллекта (ИИ) компании. Компания сообщила об инциденте сотрудникам, но не общественности или правоохранительным органам.

Хакеру удалось украсть информацию из обсуждений на онлайн-форуме сотрудников OpenAI, где они рассказывали о новейших технологиях. К счастью для компании, хакеру не удалось проникнуть в системы, где хранятся и обучаются модели GPT.

Два источника, которые предоставили эту информацию NYT, сообщили, что некоторые сотрудники OpenAI выразили обеспокоенность тем, что такие атаки могут быть использованы такими странами, как Китай, для кражи технологий ИИ. В конечном итоге это может поставить под угрозу национальную безопасность США.

Узнав об инциденте, некоторые сотрудники также задали вопросы о том, насколько серьёзно компания относится к безопасности. Сообщается также, что среди сотрудников возникли разногласия по поводу рисков, связанных с ИИ.

В связи с инцидентом бывший руководитель технической программы OpenAI написал совету директоров компании записку, в которой говорилось, что компания не делает достаточно, чтобы остановить кражу секретов иностранными противниками.

Менеджером был Леопольд Ашенбреннер, который упомянул о взломе безопасности в подкасте. OpenAI уволила его за утечку информации за пределы компании, и он утверждает, что это увольнение было политически мотивированным.

Обнаружение того, что OpenAI была взломана и что это вызвало разногласия среди сотрудников, лишь дополняет растущий список проблем в компании. Мы видели, как генеральный директор Сэм Альтман боролся с предыдущим советом директоров и одержал победу.

Совсем недавно несколько исследователей в области безопасности ИИ покинули компанию из-за разногласий по поводу суперсогласованности, где люди могут найти методы управления сверхразумным ИИ.

По мнению видных деятелей в области ИИ, таких как Даниэла Амодей, соосновательницы Anthropic, если бы новейшие разработки генеративного ИИ были украдены, это не стало бы серьёзной угрозой национальной безопасности. Однако по мере того, как эта технология станет более функциональной, ситуация может измениться.