Симулированные контрольные оценки для мониторов
Симулированные контрольные оценки (SCEs) прогоняют политики атак против симуляторов окружения больших языковых моделей, которые подделывают выводы инструментов, чтобы мониторы тестировались без выполнения реальных атак. В тестах LinuxArena, где доступно выполнение, SCEs воспроизводят поведение атак и мониторов и дают прогноз безопасности с погрешностью примерно 3.6 процентного пункта по среднеквадратичной ошибке. — lesswrong.com
Опубликована модель Qwen3.5‑9B в стиле инструкций
Hugging Face разместил модель Qwen3.5 9B в стиле инструкций в виде квантизованных файлов GGUF с документацией и инструкциями по локальному и серверному использованию. В листинге показаны инструменты и примеры запуска модели на распространённых стеках для выполнения вывода. — huggingface.co
Релиз Huihui Qwen3.5 0.8B
Hugging Face разместил квантизованную модель Huihui Qwen3.5 0.8B для загрузки в форматах GGUF. Страница модели включает таблицы квантизации и примечания по использованию для локального развёртывания. — huggingface.co
Rank‑1 LoReFT устраняет манипулирование вознаграждением
Однослойный ранга‑1 LoReFT, используемый как адаптер FORGET, сопоставим или превосходит GRAFT по подавлению манипулирования вознаграждением, при этом используя только около 0.029% параметров и обеспечивая более высокие показатели чистого решения. В приведённых экспериментах метод устраняет необходимость в опорной среде. — lesswrong.com
SIRA: стипендия для социальных наук
SIRA запускает наставническую программу, чтобы привлечь социальных учёных в исследования по безопасности ИИ, планируя набрать примерно 15–20 стипендиатов для изучения общественных последствий ИИ. Инициатива намерена сопоставлять стипендиатов с наставниками и производить прикладные исследования по человеческим и институциональным эффектам. — lesswrong.com