Поддержать нас
Беларусы на войне
  1. «Одно слово на польском — пять суток ШИЗО. Рискнешь?» Экс-политзаключенный рассказал о самом «удивительном» запрете в колонии
  2. До войны в этом беларусском областном центре жили 180 тысяч, после — всего 118 (не тысяч, а человек). Почему так случилось
  3. В Китае прошла трехсторонняя встреча Трампа, Си Цзиньпина и Путина
  4. «Подругу за пять смен оштрафовали на 140 рублей». Беларусы рассказали, сколько на самом деле зарабатывают на складе Wildberries
  5. «Под конвоем вывезли нас с границы». Российская блогерка рассказала, как ее мужа задержали на въезде в Беларусь из-за подписки
  6. «Нашу продавщицу из „Минимаркета“ давно не интересует, что сказал Трамп». Как живет Киев накануне зимы — рассказ беларуски
  7. Турецкий миллиардер заметил 17-летнюю беларуску и женился на ней. Рассказываем, как сложилась их история и что было после его смерти
  8. «У нас новые правила перевозки пассажиров?» Беларуска заказала «Яндекс Go», а водитель потребовал от нее «ехать в определенной позе»
  9. «Сейчас я сдаю 41 квартиру в Минске». Беларус рассказал о бизнесе на краткосрочной аренде жилья
  10. Россия готовила на границе с Польшей провокацию с большим количеством жертв — Rzeczpospolita
  11. Беларус снял пьяную коллегу на корпоративе и поплатился за видео. Но сначала выиграл суд
  12. Возврат в Китай за ваш счет? В МАРТ прокомментировали правила торговли, возмутившие беларуса
  13. Мать 1,5 года без сознания, отца признали виновным, двое детей — одни. Как сейчас семья, попавшая в резонансное ДТП в Витебской области
  14. «Хочу мужика!» Блогерка-миллионница из Минска запустила наш ответ «Сердцу ангела» и ищет парня на шоу
  15. Силовики начали приходить к беларусам за жалобы в TikTok, у некоторых забирают телефоны — СМИ
  16. «Двухметровый стокилограммовый мужчина-клинер». Беларус променял работу менеджера на уборку — и его все устраивает
  17. Курортный пятизвездочный отель и номер на 50 м². Виктория Лукашенко с мужем и сыном потратили на отпуск почти пять тысяч евро — «Бюро»


/

Компания OpenAI — создатель чата GPT — приостановила обучение своих новейших моделей искусственного интеллекта. Причина — серия инцидентов, в которых ИИ-агенты действовали за пределами поставленных им задач при работе с сайтами федеральных ведомств США. Об этом сообщает Associated Press.

Изображение используется в качестве иллюстрации. Фото: Reuters
Изображение используется в качестве иллюстрации. Фото: Reuters

В компании заявили, что обучение возобновится только после того, как OpenAI убедится в наличии дополнительных мер безопасности. Разработчики также допустили, что по мере развития ИИ подобные паузы могут происходить и в будущем.

Решение было принято спустя несколько часов после того, как компания сообщила о проверке нескольких инцидентов, произошедших летом. В этих случаях агенты OpenAI, которые искали информацию на сайтах федерального правительства США, начинали действовать не так, как от них ожидалось.

В одном из эпизодов, связанном с Министерством образования США, агенты обнаружили «ключи» доступа к государственным данным. Правда, в итоге они собрали только общедоступную информацию. В министерстве заявили, что не обнаружили признаков какого-либо воздействия на сайт или базы данных.

Компания Transluce, которая занимается оценкой ИИ-систем, отдельно сообщила, что агенты, предположительно принадлежавшие OpenAI, пытались взломать сайт Министерства образования, но безуспешно. OpenAI эту информацию не подтвердила.

Еще один инцидент был связан с Комиссией по ценным бумагам и биржам США (U.S. Securities and Exchange Commission или SEC). Там ИИ-агенты нашли общедоступную информацию, а затем разместили ее в другом месте в интернете, хотя это не входило в их задачи. В SEC заявили, что никакой конфиденциальной информации получено не было.

По данным AP, последние инциденты, по всей видимости, не привели к утечке секретной или конфиденциальной информации, однако вызвали достаточно серьезные опасения, чтобы OpenAI уведомила соответствующие федеральные ведомства.

Это уже второй случай за три месяца, когда компания приостанавливает разработку своих моделей. В июле OpenAI сделала это после кибератаки на ИИ-стартап Hugging Face. Генеральный директор компании Сэм Альтман позже назвал тот эпизод самым серьезным из всех, с которыми OpenAI сталкивалась до сих пор.

Издание Axios при этом пишет, что OpenAI, Anthropic и специалисты по безопасности ИИ изучают уже десятки тысяч эпизодов проблемного поведения передовых моделей. Речь идет как о реальных инцидентах, так и о специальных тестах, во время которых модели пытались обходить ограничения, покидать изолированные среды, получать контроль над сайтами или обходить системы наблюдения.