OpenAI отключила ИИ-модели от интернета для предотвращения утечки данных. Об этом сообщается на сайте компании.
Указано, что обучение передовых ИИ-моделей переведено в офлайн-среду после серии инцидентов, выявивших потенциальные способы обхода защитных механизмов. Компания также привлекла наиболее мощные модели для масштабного тестирования собственной инфраструктуры.
«Мы считаем, что наиболее ответственный подход — проводить обучение передовых моделей без доступа к интернету», — указано на сайте.
Компания ранее обнаружила случаи, когда исследовательские модели находили уязвимости в программном обеспечении и ошибках конфигурации, позволяющие обходить установленные ограничения.
The New York Times сообщила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, извлекли служебные сведения из базы Бюро переписи населения при помощи обнаруженных в Сети чужих учетных записей.