Компания OpenAI отменила выпуск новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью

OpenAI отменила запуск новой модели ИИ из-за проблем с безопасностью Американская компания отменила запланированный на октябрь релиз новой модели искусственного интеллекта GPT-6.1 Astra, сообщает The Wall Street Journal. Во время внутренних проверок исследователи обнаружили проблемы с безопасностью модели. Уточняется, Astra чаще врала пользователям, а также выходила за пределы заданных полномочий: выполняла задачи без разрешения и обращалась к внешним сервисам, даже когда создавало риски. При этом модель лучше предыдущих версий справлялась со сложными задачами без помощи человека и написанием текстов. Это Борус | Мы в MAX

OpenAI откладывает выпуск новой ИИ-модели из соображений безопасности, — Reuters Американская компания OpenAI отказалась от выпуска GPT-6.1 Astra — модели искусственного интеллекта (ИИ) нового поколения, которую планировалось представить в октябре, после того как внутреннее тестирование показало, что система не соответствует стандартам безопасности, — констатирует Reuters В частности, Astra может выходить из-под контроля человека, самостоятельно взламывая сторонние ресурсы, как это произошло с базой данных системы здравоохранения Австралии Кроме того, у Astra зафиксирован высокий уровень обмана, когда она «не всегда точно сообщала, какие действия совершила» «КРИСТАЛЛ РОСТА» ранее информировал о том, что глава американской Anthropic Дарио Амодей призвал ИИ-компании ограничить развитие ИИ-моделей из-за глобальной угрозы. На Форуме «КРИСТАЛЛ РОСТА» Совбез РФ констатировал, что блокчейн и искусственный интеллект становятся инструментами в цифровой войне, к которой готовятся США КРИСТАЛЛ РОСТА в Max

OpenAI отложила запланированный на октябрь выход модели GPT-6.1 Astra. Об этом пишет The Wall Street Journal: внутренние тесты выявили проблемы с безопасностью. Модель лучше справлялась со сложными задачами самостоятельно, но проявляла склонность к обману и не всегда точно сообщала о своих действиях. Иногда она получала доступ к внешним сервисам без разрешения пользователя. OpenAI сочла, что модель не соответствует требованиям безопасности для публичного релиза. #OpenAI #ИИ #технологии Континенталист

OpenAI отказалась от запланированного на октябрь публичного релиза GPT-6.1 Astra после внутренних тестов безопасности. Новая модель лучше прежних справлялась со сложными задачами без участия человека, но одновременно чаще обманывала пользователя. Могла недостоверно сообщать о своих действиях и хуже следовала изначальным инструкциям. Ещё одна проблема — Astra могла сама выходить за пределы полученного разрешения: продолжать выполнение задачи без согласия пользователя и обращаться к внешним инструментам и сервисам, даже когда это создавало риски. В OpenAI решили, что выпускать такую модель нельзя, но саму разработку не закрывают. Её наработки планируют использовать в следующих версиях GPT-6. Чем самостоятельнее становится ИИ, тем острее вопрос: в какой момент помощник перестаёт выполнять команды и начинает сам решать, что ему позволено? Звезда АНАЛИТИКА в ТГ Звезда АНАЛИТИКА в MAX

OpenAI отказалась выпускать GPT-6.1 Astra после внутренних проверок безопасности Компания OpenAI официально отказалась от публичного выпуска ИИ-модели GPT-6.1 Astra, дебют которой в сервисах ChatGPT и Codex планировался на октябрь 2026 года. Это редкий случай, когда разработчик такой величины сворачивает релиз накануне ежегодной конференции разработчиков в Сан-Франциско непосредственно из-за проблем с безопасностью. Как сообщают СМИ The New York Times, Reuters и Financial Times, руководитель направления систем безопасности OpenAI Саачи Джайн подтвердила, что модель продемонстрировала регресс по сравнению со своей предшественницей GPT-6 Astra по двум направлениям: Повышенный уровень скрытности и обмана (deception). Модель в ходе тестирования не всегда честно сообщала пользователям о том, какие действия она предприняла или не предприняла. Самовольный выход за рамки полномочий (scope authorization). ИИ-агент выполнял действия без подтверждения со стороны пользователя, а также временами обращался к внешним инструментам и службам, даже когда это могло быть небезопасно. Разработчики добились улучшений по проблеме так называемой лени модели (model laziness) и сделали её более способной решать сложные задачи от начала до конца без помощи человека, но столкнулись с компромиссом между настойчивостью модели и удержанием её в рамках заданных инструкций. В OpenAI приняли решение не выводить GPT-6.1 Astra на рынок и надеются использовать ту же базовую модель для новых серий обучения с подкреплением (RL) и глубокого расследования причин выявленных проблем. На Fellow Forum 2026 руководитель прикладных исследований OpenAI Борис Пауэр заявил, что 80–90% исследований компании ориентированы сейчас на GPT-7, GPT-8 и последующие поколения. По оценке представителя OpenAI, индустрия подошла вплотную к моменту прорыва в робототехнике по аналогии с выходом ChatGPT. Механическая база роботов уже достаточно развита и с появлением роботов на базе физического AGI начнётся взрывной рост в сфере роботизации, а это, вероятно, приведёт к дефициту сервоприводов, датчиков и прочих компонентов роботов, подобно недавнему дефициту видеокарт. @Russian_OSINT

OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из соображений безопасности OpenAI объявила об отказе выпустить новую модель искусственного интеллекта GPT-6.1 Astra из-за опасений, которые возникли у исследователей компании в ходе внутреннего тестирования системы, сообщает The Wall Street Journal. Радикальная мера стала одним из наиболее ярких свидетельств того, что непредсказуемое поведение ИИ может затормозить стремительное развитие всей отрасли. Источник изображения: Brecht Corbeel / unsplash.com

ИИ-модель GPT-6.1 Astra обманывала людей и самовольничала — OpenAI отказывается от её выпуска из-за опасений по поводу безопасности. Об этом пишет WSJ. Компания планировала представить разработку в октябре. У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов. Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди? У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях. GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии. Подписаться на RT: ТГ | Зеркало | MAX

ИИ-модель GPT-6.1 Astra обманывала людей и самовольничала — OpenAI отказывается от её выпуска из-за опасений по поводу безопасности. Об этом пишет WSJ. Компания планировала представить разработку в октябре. У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов. Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди? У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях. GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии. Подписаться на RT: ТГ | Зеркало | MAX

ИИ-модель GPT-6.1 Astra обманывала людей и самовольничала — OpenAI отказывается от её выпуска из-за опасений по поводу безопасности. Об этом пишет WSJ. Компания планировала представить разработку в октябре. У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов. Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди? У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях. GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии

ИИ-модель GPT-6.1 (чат GPT) Astra обманывала людей и самовольничала OpenAI отказывается от её выпуска из-за опасений по поводу безопасности. Об этом пишет WSJ. Компания планировала представить разработку в октябре. У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов. Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди? У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях. GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии.

ИИ-модель GPT-6.1 Astra обманывала людей и самовольничала — OpenAI отказывается от её выпуска из-за опасений по поводу безопасности. Об этом пишет WSJ. Компания планировала представить разработку в октябре. — У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов. — Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди? — У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях. — GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии. https://ru.rt.com/1068d Подписывайтесь на RT в MAX: vk.cc/cPWupT