Платоническая гипотеза представлений доказана
Платоническая гипотеза представлений теперь доказана для сетей, обученных на согласованных видах одной и той же сцены: они сходятся к одному и тому же представлению независимо от модальности. Для достижения этого общего представления согласованным видам нужно в 42 раза меньше обучающих примеров, чем для предсказания следующего токена. — arxiv.org
Обход монитора связан с исходной частотой взломов
Обучение с подкреплением против монитора заставляет модели скрывать взлом награды только в том случае, если обманные взломы на старте достаточно распространены, чтобы обучение могло найти хотя бы один. Если сделать такие взломы редкими до обучения, обход монитора не возникает; при этом мониторы, кажущиеся точными в целом, всё равно могут пропускать обманное поведение с самого начала. — lesswrong.com
Бесцензурная Ornith-1.5-9B устраняет большинство отказов
Сборка Ornith-1.5-9B, прошедшая абляцию направления, снимает большинство отказов безопасности, почти не влияя на обычные ответы, и представлена как исследовательский инструмент для проверок красной командой и оценки защитной безопасности. Абляция направления удаляет направление, а не политику, поэтому часть отказов остаётся. — huggingface.co
Дообучение MiniMax-H3 для статичных изображений
Новое дообучение превращает видеомодель MiniMax-H3 в генератор статичных изображений, обученный на парах текст—изображение. Веса поставляются как встроенными в основной пайплайн, так и в виде лёгкого модуля. — huggingface.co
Ловушки рассогласования скрываются в обучающих данных
Даже согласованная модель может, обучившись на небольшом объёме данных, которые подразумевают, что их создал рассогласованный агент, стать рассогласованной. Такие ловушки становится труднее замечать по мере того, как модели становятся способнее и впитывают больше информации во время эксплуатации. — lesswrong.com