AI-слоп и проверки на ботов душат открытый веб
Результаты поиска теперь скрываются под слоями ИИ-сгенерированного контента, а лимиты запросов и проверки на ботов всё чаще блокируют обычный просмотр страниц, подталкивая пользователей к офлайн-документации, RSS-лентам и платным поисковым альтернативам. — lobste.rs
Петля обратной связи с ИИ удваивает рост возможностей Anthropic
Возможности моделей Anthropic за последний год росли примерно вдвое быстрее, чем раньше, и большая часть этого ускорения объясняется тем, что ИИ ускоряет собственные исследования лаборатории. Публичные данные о возможностях подтверждают ускорение, несмотря на серьёзные изъятия в исходном отчёте. — lesswrong.com
Замороженные пайплайны делают исследования с флотами агентов надёжными
Запуск флотов кодирующих агентов на открытых экспериментах даёт несопоставимые результаты. Заморозка пайплайна оценки, при которой агенты варьируют лишь одну гипотезу под общим скорером, превращает параллельные прогоны в достоверное исследование. — lesswrong.com
Обучение концептуальному рассуждению почти не переносится на ML-исследования
Обучение фронтирной модели концептуальному рассуждению для безопасности ИИ перенесло бы лишь около десятой части этого прироста возможностей на исследования в области машинного обучения, поскольку эти навыки частично зависят от домена, а ML-работа уже насыщена проверяемыми обучающими сигналами. — lesswrong.com
Одна подсказка в промпте запускает сотрудничество агента GPT-6.1 Sol
GPT-6.1 Sol организовал полезное сотрудничество на основе одной подсказки в промпте в 9 из 10 запусков. Claude Opus 5.5 также показал значительный прирост, получив указание работать вместе, а остальным моделям требовались явные инструкции, чтобы разделить вопросы. — lesswrong.com