Компания OpenAI отменила выпуск модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью

OpenAI решила не выпускать модель GPT-6.1 Astra из соображений безопасности, сообщает The Wall Street Journal. Релиз модели планировался на октябрь, однако в ходе внутренних проверок исследователи зафиксировали критические сбои. Как пояснила руководитель отдела систем безопасности OpenAI Саачи Джайн, модель продемонстрировала повышенную склонность к обману, так как не всегда честно сообщала пользователю о совершенных действиях. "Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ", — пишет издание. Кроме того, ИИ выходил за рамки заданных полномочий — продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже если это создавало потенциальную угрозу, отмечается в сообщении. 24 сентября ИИ-агент OpenAI взломал правительственный сайт Австралии и получил доступ к данным системы здравоохранения страны. 26 сентября ИИ-агенты OpenAI вмешались в работу правительственных сайтов США. Гендиректор компании Сэм Альтман, в свою очередь, выступая на Совбезе ООН в ночь на 24 сентября, предупреждал об опасности слишком быстрого развития искусственного интеллекта. Он отметил, что человечество в будущем может утратить контроль над ИИ, поэтому при автоматизации разработки необходима максимальная осторожность. Больше новостей IZ RU в MAX

OpenAI решила не выпускать модель GPT-6.1 Astra из соображений безопасности, сообщает The Wall Street Journal. Релиз модели планировался на октябрь, однако в ходе внутренних проверок исследователи зафиксировали критические сбои. Как пояснила руководитель отдела систем безопасности OpenAI Саачи Джайн, модель продемонстрировала повышенную склонность к обману, так как не всегда честно сообщала пользователю о совершенных действиях. "Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ", — пишет издание. Кроме того, ИИ выходил за рамки заданных полномочий — продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже если это создавало потенциальную угрозу, отмечается в сообщении. 24 сентября ИИ-агент OpenAI взломал правительственный сайт Австралии и получил доступ к данным системы здравоохранения страны. 26 сентября ИИ-агенты OpenAI вмешались в работу правительственных сайтов США. Гендиректор компании Сэм Альтман, в свою очередь, выступая на Совбезе ООН в ночь на 24 сентября, предупреждал об опасности слишком быстрого развития искусственного интеллекта. Он отметил, что человечество в будущем может утратить контроль над ИИ, поэтому при автоматизации разработки необходима максимальная осторожность.

OpenAI отменила запуск новой модели ИИ из-за проблем с безопасностью Американская компания отменила запланированный на октябрь релиз новой модели искусственного интеллекта GPT-6.1 Astra, сообщает The Wall Street Journal. Во время внутренних проверок исследователи обнаружили проблемы с безопасностью модели. Уточняется, Astra чаще врала пользователям, а также выходила за пределы заданных полномочий: выполняла задачи без разрешения и обращалась к внешним сервисам, даже когда создавало риски. При этом модель лучше предыдущих версий справлялась со сложными задачами без помощи человека и написанием текстов. Это Борус | Мы в MAX

Борус OpenAI отменила запуск новой модели ИИ из-за проблем с безопасностью Американская компания отменила запланированный на октябрь релиз новой модели искусственного интеллекта GPT-6.1 Astra, сообщает The Wall Street Journal. Во время внутренних проверок исследователи обнаружили проблемы с безопасностью модели. Уточняется, Astra чаще врала пользователям, а также выходила за пределы заданных полномочий: выполняла задачи без разрешения и обращалась к внешним сервисам, даже когда создавало риски. При этом модель лучше предыдущих версий справлялась со сложными задачами без помощи человека и написанием текстов. Это Борус | Мы в MAX @

OpenAI решила не выпускать модель GPT-6.1 Astra из соображений безопасности, сообщает The Wall Street Journal. Релиз модели планировался на октябрь, однако в ходе внутренних проверок исследователи зафиксировали критические сбои. Как пояснила руководитель отдела систем безопасности OpenAI Саачи Джайн, модель продемонстрировала повышенную склонность к обману, так как не всегда честно сообщала пользователю о совершенных действиях. "Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ", — пишет издание. Кроме того, ИИ выходил за рамки заданных полномочий — продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже если это создавало потенциальную угрозу, отмечается в сообщении. - 24 сентября ИИ-агент OpenAI взломал правительственный сайт Австралии и получил доступ к данным системы здравоохранения страны. 26 сентября ИИ-агенты OpenAI вмешались в работу правительственных сайтов США. - Гендиректор компании Сэм Альтман, в свою очередь, выступая на Совбезе ООН в ночь на 24 сентября, предупреждал об опасности слишком быстрого развития искусственного интеллекта. Он отметил, что человечество в будущем может утратить контроль над ИИ, поэтому при автоматизации разработки необходима максимальная осторожность.

OpenAI отменила релиз новой модели GPT-6.1 Astra из-за проблем с безопасностью, в том числе из-за склонности обманывать пользователя, пишет WSJ со ссылкой на компанию. Публичный выпуск модели планировался в октябре, но во время внутреннего тестирования OpenAI выявила проблемы. GPT-6.1 Astra показала повышенную склонность к обману и не всегда достоверно сообщала, какие действия совершила. Модель могла продолжить выполнение задачи без разрешения пользователя и обращаться к внешним инструментам и сервисам, даже если это создавало риски.

OpenAI отказалась выпускать модель GPT-6.1 Astra из-за склонности к обману пользователей, — WSJ Релиз планировался на октябрь, но внутренние проверки выявили критические сбои. По словам руководителя отдела систем безопасности OpenAI Саачи Джайн, модель не всегда честно сообщала пользователю о совершённых действиях. ИИ также выходил за рамки полномочий: продолжал задачи без запроса разрешения и самовольно обращался к внешним инструментам и сервисам. Модель не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, пишет издание. #Технологии Telegram | Max | Дзен | VK

Обманывал и тайно выходил в сеть: Релиз новой модели GPT отменили из-за опасных сбоев https://life.ru/p/obmanyval-i-tayno-vyhodil-v-set-reliz-novoy-modeli-gpt-otmenili-iz-za-opasnyh OpenAI отказалась от планов выпустить новую модель искусственного интеллекта GPT-6.1 Astra. Компания решила не выводить её в открытый доступ после внутренних проверок, которые выявили проблемы с безопасностью. Об этом сообщает The Wall Street Journal со ссылкой на OpenAI.