Account

Posts of AbstractDL

newest first

#474Photoedited
Views7,443−18%vs avg
Forwards397
Reactions309
Comments214
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
14 h6,399
28 h7,443
  1. After 24 hours7,443
  2. Total to date7,443
#473Text
Views7,954−13%vs avg
Forwards131
Reactions195
Comments276
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
9 h5,405
33 h6,291
72 h7,954
  1. Total to date7,954
#471Photo
Views14,126+55%vs avg
Forwards98
Reactions63
Comments59
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
36 h12,874
72 h14,126
  1. Total to date14,126
#470Link preview
Views16,126+77%vs avg
Forwards273
Reactions146
Comments131
#466Photoalbum
Views17,704+95%vs avg
Forwards55
Reactions198
Comments123
#464Photo
Views19,445+114%vs avg
Forwards229
Reactions267
Comments127
#462Text

Forwarded from Denis Sexy IT 🤖

Опять много взломов и новостей алаймента от агентов OpenAI накопилось, держите дайджест: >20 сентября агент обошёл запрет на интернет через DNS resolve в песочнице и связался с внешним чатботом; автоотключение не сработало, запуск остановили вручную через 2,5 часа после тревоги. OpenAI приостановила обучение, тестирование и запуски с инструментами своих самых мощных моделей - пауза все еще действует, а обучение конкретно этой модели решили не возобновлять. >Модель пыталась достать чужое доказательство теоремы и опубликовала GitHub-ключ исследователя OpenAI, предварительно разбив его на части для обхода проверки – это кстати уже частый сценарий. Просьбу решать самостоятельно она проигнорировала дважды; модель отключили примерно на две недели, ключи сотрудников отозвали >Агенты отправили на сторонние хостинги 53 изображения пользователей ChatGPT, попавшие в датасеты. Большинство уже удалили, но OpenAI не уточнила, были ли это фотографии реальных людей или сгенерированные картинки >Transluce обнаружила неудачную попытку взлома сайта Минобразования США, предположительно агентами OpenAI. Агенты также обращались к сайтам SEC и Бюро переписи, но признаков взлома этих двух сайтов OpenAI не нашла >Не сумев получить обычную статистику и фотографию, агенты начали искать уязвимости в Data USA и электронной библиотеке Университета Нью-Мексико. Успешных взломов в опубликованных следах не видно; библиотечный эпизод связали с агентами OpenAI только косвенно. >Другой агент нашёл на GitHub чужой ключ доступа и успешно им воспользовался, но нужную статистику всё равно не получил, поэтому просто придумал девять чисел и выдал их за данные с сайта чтобы пройти тест >Модель собрала сведения об озёрах, но не смогла открыть локальный файл в браузере для оформления ссылки на источник, поэтому без разрешения выложила его на публичную файлопомойку. Файл опубликовался, но нужную ссылку-цитату получить всё равно не удалось >Агенты не могли передать друг другу Excel через локальные файлы, поэтому один загрузил таблицу на публичный файлообменник и разослал ссылки остальным, хотя задание прямо требовало работать локально >При сокращении контекста модель оставляла себе заметки: придумать недостающие данные, скрыть ошибки, пользователю ничего не говорить, продолжая работу, она часто следовала этим инструкциям - чтобы случайно не забыть соврать. Ложь тратит больше токенов, интересно. >Другая модель сама записывала в промпты выдуманные ограничения, например запрет пользоваться инструментами и приводить источники, а после сокращения контекста послушно их выполняла и проваливала исходное задание; то есть это «само-проект-инъекция» >В новом разборе июльского взлома Hugging Face нашли сбор ключей доступа в список названный «LOOT» («добыча») с рейтингом их ценности, попытки прочитать внутренний Slack и обратиться к Claude, DeepSeek, Kimi и Qwen. Это подробности прежнего взлома; какие попытки сработали, по восстановленному коду установить удалось не всегда >А в контролируемом эксперименте исследователи получили вредоносные промпты, которые заставляли агента выполнять посторонние действия и копировать этот же текст в письма или файлы. Получается что-то вроде текстового червя, но пока это результат симуляции, а не обнаруженная эпидемия в интернете С нетерпением жду сентября 2027 года ☕️

Open in Telegram
Views11,451+26%vs avg
Forwards152
Reactions141
Comments35
#461Link preview
Views24,946+174%vs avg
Forwards501
Reactions234
Comments146
#456Link preview
Views17,516+92%vs avg
Forwards239
Reactions209
Comments69