Трансформер в on-premise AppSec: как мы встроили ML-модель для классификации секретов в продукт без GPU (opens in new tab)

TLDR; Рассказываем, как мы интегрировали CodeBERT-based модель классификации секретов в production-продукт с жёсткими ограничениями по железу, сократив время инференса с 320 до 90 секунд и размер...