🤖 ИИ может начать разгонять сам себя

ТЕХНО: Яндекс про технологииVerified, @techno_yandex

Open in Telegram
#5723Photo

🤖 ИИ может начать разгонять сам себя Такой сценарий уже вызывает беспокойство даже у самих создателей нейросетей. И у него есть название — RSI (рекурсивное самоулучшение). Начинается всё с того, что ИИ, обучившись работать с кодом, предлагает изменения для своей же архитектуры. Потом он уже сам начинает улучшать себя, что позволяет ему вносить ещё больше изменений, которые позволят ему ещё эффективнее улучшать себя, чтобы вносить ещё больше изменений, — и так до бесконечности. Эта та самая экспонента, про которую говорили ещё на заре создания ИИ — феномен называют «взрывом интеллекта».  И этот процесс уже запущен. Сейчас Claude ведёт 26% задач Anthropic по разработке ИИ и участвует в более чем в 90%. Anthropic заверяет, что полностью автономного RSI пока ещё не существует, но эту границу можно перейти очень быстро. Подписывайтесь 👉 @techno_yandex

Open in Telegram
Views6,107−24%vs avg
Forwards43
Reactions18
Comments10

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
1 h1,761
10 h6,107
  1. After 1 hour1,761
  2. Total to date6,107

More from ТЕХНО: Яндекс про технологии

  1. 01
    Views26.5K
    Forwards50
    Reactions23
    Comments10
  2. 02

    Как Яндекс гонял таборы серверов Сегодня — день рождения Яндекса, нам исполняется 29 лет! Мы по такому случаю решили вспомнить и рассказать историю одного из самых сложных переездов в истории компании. В 2001 году Яндекс переселился в новый офис в вычислительном центре Академии наук на улице Вавилова в Москве. В том числе туда нужно было переместить и серверы поисковика, которые до этого три года стояли у провайдера «МТУ-Информ». Эта эпопея, как перевозку позже назовут в пресс-релизе, оказалась непростой. Вот как её в 2001-м описывал руководитель разработки портала Яндекса Дмитрий Завалишин: Задачка — перевезти Яндекс со Смоленки на Ленинский, не выключая сервиса. И желательно так, чтобы клиенты не заметили. План операции готовился более месяца. Для переезда выбрали субботу 19 февраля, когда нагрузка на поисковик была сниженной из-за выходных. Серверов было много, поэтому запросы пользователей можно было перераспределять с одного на другой. Это и было основой операции. Интересно было видеть, как по мере выключения серверов остальные начинали получать всё больше запросов. В пике они сверкали лампочками своих винчестеров почти непрерывно. Пока одни серверы работали и тянули поиск без перебоев, другие катились по Москве в фургоне сооснователя Яндекса Ильи Сегаловича. По прибытии на Вавилова их сразу подключали к сети и перенаправляли нагрузку на них. Тем временем на Смоленке уже грузили следующую партию. Вот такой короткий отпуск у компьютеров Яндекса — два часа в три года... Ну или по болезни. Тоже бывает. Перевозить этот табор было куда сложнее, чем писать об этом, но в итоге всё позади. Сейчас у Яндекса гораздо больше серверов — чтобы перевезти их тем же методом, понадобилось бы более пяти тысяч фургонов Сегаловича. Но подход к организации сохранился: в компании всегда есть запасные дата-центры, чтобы сервисы не прекращали работу, если часть серверов отключается на обслуживание или из-за неполадки. Подписывайтесь 👉 @techno_yandex

    Photo
    Views20K
    Forwards119
    Reactions104
    Comments6
  3. 03
    Views8.62K
    Forwards46
    Reactions68
    Comments3
  4. 04

    Коллеги, посмотрите, я сделал Если после такого сообщения в чате появляется полотно генеративного текста — в вас кинули слоп-гранату. Так называют необработанную выдачу нейросети, которую кто-то выдаёт за реальный труд и которую передают дальше по рабочей цепочке. При этом разбираться в достоверности или полезности этого ответа приходится другим. Год назад появился похожий термин «воркслоп» — так назвали низкокачественный генеративный контент, который выдают за выполненную работу. По опросу на тот момент с воркслопом сталкивался 41% опрошенных. Глава платформы для интернет-магазинов Shopify Тобиас Лютке сказал, что из-за слоп-гранат работы становится больше у всех. Как раз потому, что одним приходится читать стену текста, другим — перепроверять данные, а третьим — исправлять ошибки, которые никто не заметил. Вам встречаются слоп-гранаты на работе? Как вы с этим боретесь? Подписывайтесь 👉 @techno_yandex

    Photo
    Views8.59K
    Forwards49
    Reactions72
    Comments5
  5. 05
    Views7.91K
    Forwards22
    Reactions79
    Comments5

All posts of ТЕХНО: Яндекс про технологии