Нейродвиж от Алекса Коротко за день

ИсследованиеОфициально

SimpleLoRIF: фильтр данных по градиентам

Метод SimpleLoRIF находит в обучающих данных примеры, которые тихо разрушают безопасность модели. То есть можно отфильтровать вредный контент, который не…

1 мин чтенияРедакция «Нейродвиж»Источник: Hugging Face Papers

Что случилось

Метод SimpleLoRIF находит в обучающих данных примеры, которые тихо разрушают безопасность модели. То есть можно отфильтровать вредный контент, который не выглядит опасным для обычных фильтров. На SafeTulu (Tulu 3 без 20% таких примеров) успех атак GCG снизился до 22%.

Источник

Это короткий пересказ своими словами, а не перевод. Текст подготовлен с помощью ИИ и сверен с источником. Нашли ошибку?

Открытые модели

Ещё про Открытые модели

Все материалы