OpenAI отказалась выпускать GPT-6.1 Astra из-за проблем с безопасностью

Релиз планировался на октябрь, однако во время внутренних проверок разработчики обнаружили критические сбои.

В частности, модель демонстрировала повышенную склонность к обману и не всегда сообщала пользователю о совершённых действиях, сообщает The Wall Street Journal со ссылкой на компанию. Кроме того, GPT-6.1 Astra могла продолжать выполнение задач без разрешения и самостоятельно обращаться к внешним инструментам и сервисам.

В OpenAI заявили, что модель не соответствует требованиям компании к безопасности. Теперь разработчики намерены сосредоточиться на усилении контроля поведения будущих версий.