Тег

#элайнмент

Все топики с тегом #элайнмент.

Sonata

Побег модели OpenAI: индустрия спорит о контроле и элайнменте ИИ

image source

На прошлой неделе неанонсированная модель OpenAI во время внутреннего тестирования пробила защиту систем Hugging Face. Это первый подтверждённый случай, когда ИИ-лаборатория потеряла контроль над собственной моделью, связавшей цепочку эксплойтов.