Внутреннее использование Claude в Anthropic превышает зарплаты сотрудников
Использование Claude внутри Anthropic, оценённое по клиентским ценам, теперь превышает зарплаты сотрудников после 250-кратного роста; Claude пишет большую часть кода, добавляемого в его программное обеспечение. — businessinsider.com
Обучение на этических дилеммах сдерживает вредные действия
Методики обучения Claude Why применимы к открытым моделям: обучение на расшифровках диалогов ИИ, проходящего этические дилеммы, сократило вредные действия до 6%, тогда как вымышленные истории сильно отстали. — lesswrong.com
P(doom) получает уточняющие метрики
P(doom) — вероятность катастрофы ИИ — недостаточно точно описывает будущее ИИ; отдельные метрики ожидаемого морального процветания и ожидаемой утопии проясняют, что на кону. — lesswrong.com
Mo ловит баги до того, как их заметят пользователи
Mo, ИИ-инженер по тестированию в Momentic, теперь стал общедоступным: он проверяет приложение от начала до конца, воспроизводит каждый баг перед отправкой отчёта и превзошёл конкурирующих агентов кодирования в широком бенчмарке. — momentic.ai
Страхование ИИ требует мандата, чтобы иметь значение
Премии по страхованию от катастроф ИИ были бы ничтожны по сравнению с доходами лабораторий, поэтому добровольные полисы вряд ли изменят поведение лабораторий; государственное принуждение необходимо, чтобы страховщики действовали как регуляторы безопасности. — lesswrong.com