← Главная новостей | Торговый зал
2026-11-05 · Источник：TechRadar
Бельгийский стартап обещает точное переиспользование KV-кэша с шифрованием для vLLM, SGLang и Llama.cpp — но места за столом уже заняты LMCache, Nvidia и Phison.
«В 14 раз быстрее» — цифра, с которой Corbenic начинает разговор. ПО Galahad бельгийского стартапа превращает SSD сервера в память для ИИ при обслуживании больших языковых моделей, и компания честно говорит, откуда на самом деле берётся её 14-кратное ускорение: не из более быстрого чтения данных, а из чтения меньшего их объёма.
Механизм схвачен собственной максимой Corbenic: GPU никогда не читает один и тот же текст дважды. Galahad построен вокруг переиспользования KV-кэша: промежуточное состояние, которое модель вырабатывает при обработке промпта, фиксируется, сохраняется на SSD и затем загружается заново вместо пересчёта. Когда входы повторяются или пересекаются, ускоритель полностью пропускает избыточную работу. Это различие важно для всех, кто оценивает кэширование на уровне SSD: заявленная производительность опирается на избегаемые вычисления, а не на пропускную способность накопителя, обгоняющую DRAM.
Продукт обещает точное, зашифрованное переиспользование KV-кэша в трёх из самых распространённых стеков инференса: vLLM, SGLang и Llama.cpp. Точность означает верность — закэшированное состояние переиспользуется дословно, а не приблизительно, — а шифрование снимает вопрос конфиденциальности, возникающий в момент, когда содержимое промптов записывается на постоянное хранилище.
Правда, Corbenic пришёл к столу не первым. Места за «круглым столом» выгрузки KV-кэша уже заняты LMCache, Nvidia и Phison.
Сам расклад конкурентов о многом говорит. LMCache подходит к проблеме со стороны кэширующего ПО, Nvidia — со стороны уровня ускорителей, Phison — со стороны накопительных контроллеров: бельгийскому новичку противостоят потенциальные соперники на каждом этапе между GPU и диском. Его дифференциация держится на сочетании точного переиспользования с шифрованием, применённом в открытых фреймворках, которые многие операторы уже используют в продакшене.
Для покупателей ИИ-инфраструктуры Galahad — точка данных в более широком перепозиционировании SSD: от массового хранилища к уровню памяти, определяющему экономику инференса. Честность Corbenic насчёт происхождения своей 14-кратной цифры — полезное мерило для всей категории. Любому оператору, взвешивающему заявления вендоров, стоит задавать тот же вопрос: какая часть ускорения — от более умного кэширования, а какая — от самого железа?
Теги: Corbenic · Galahad · KV Cache · SSD Storage · vLLM · Nvidia
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал