Аргументы когерентности смешивают две разные силы
В дискуссиях об ИИ «аргументы когерентности» смешивают сильное рыночное давление, устраняющее внутренне противоречивые предпочтения, с более слабым и необязательным толчком к чистому долгосрочному целедостижению. Это смешение делает вывод о беспощадном консеквенциализме более солидным, чем он есть. — lesswrong.com
Обновлённая модель Ling повышает агентные показатели
Обновлённая модель Ling-3.1-flash поднимает свой показатель в бенчмарке реальных агентных задач до 1524, с приростом в научных рассуждениях и многошаговой работе. — huggingface.co
Anthropic обязуется вложить $895 млрд в инфраструктуру
Anthropic в обновлённой заявке на IPO обязуется потратить около $895 млрд на вычислительные мощности и инфраструктуру, что подчёркивает масштаб строительства ИИ-инфраструктуры, из-за которого Уолл-стрит нервничает. — cnbc.com
Скрытые ИИ-персоны прослеживаются до соединений LoRA
Адаптеры LoRA — небольшие обучаемые дополнения для дообучения больших моделей — создают скрытые персоны, соединяя нейроны, распознающие общие паттерны вопросов, с нейронами, которые пишут необычные ответы. Бэкдоры, ожидающие триггерную фразу, используют те же соединения; это открытие — первая крупномасштабная карта того, как возникает такое скрытое поведение. — lesswrong.com
Конспекты курса по безопасности ИИ обозревают спорные прогнозы AGI
Учебные материалы курса по безопасности ИИ излагают спорные прогнозы этой области: предсказательные рынки указывают на 2027 год для раннего общего ИИ, тогда как несколько лидеров ведущих лабораторий ожидают эту веху гораздо раньше. — lesswrong.com