← Главная новостей | Торговый зал
2026-11-04 · Источник：InfoWorld
TypeSafe AI Диогу Алмейды заявляет, что новая модель Jev возвращает решения с вероятностями за 70–500 миллисекунд, минуя многословную генерацию токенов, раздувающую затраты в автоматизированных процессах.
TypeSafe AI — стартап, основанный бывшим исследователем OpenAI и соизобретателем RLHF Диогу Алмейдой (Diogo Almeida) — представил большую языковую модель, созданную, чтобы разговаривать с программами, а не с людьми. Модель под названием Jev принимает на вход текущее состояние задачи или процесса и возвращает одно определённое решение вместе с вероятностью, прикреплённой к этому решению. Согласно блогпосту Алмейды, анонсировавшего систему, такие решения покрывают случаи вроде того, какой инструмент вызвать, какое действие предпринять следующим, одобрять ли запрос или когда передать задачу другой модели. Выход спроектирован так, чтобы напрямую потребляться программными приложениями или другими ИИ-моделями внутри автоматизированных процессов.
Посыл в том, что многословие стало налогом на ИИ-бюджеты. Сегодняшние большие языковые модели потребляют или генерируют большой объём токенов, даже если исходный запрос требует простого совета, взвинчивая стоимость использования. Автоматизированные процессы обостряют проблему: поскольку конвейеры программных агентов принимают куда больше решений, чем процессы с участием человека, счёт за токены масштабируется вместе с числом решений. А там, где машина часто ищет лишь категоричный ответ, обёртка из естественного языка вокруг него — трата с малой отдачей.
Аргумент скорости Jev держится на пропуске последовательной генерации текста. Поскольку модели не нужно производить текстовые токены один за другим, она, как отметил Алмейда, отвечает быстрее обычных систем: латентность колеблется от 70 до 500 миллисекунд против нескольких секунд у протестированных TypeSafe LLM. Он добавил, что лаконичный формат ответа также делает модель дешевле в эксплуатации.
Для корпоративных команд, встраивающих ИИ в автоматизированные процессы, питч двойной: меньше токенов на решение и ответы на скоростях, совместимых с машинным темпом операций. TypeSafe нацеливается на долю ИИ-использования, где читатель — другая программа, а не человек: сегмент, где, по словам Алмейды, многословный вывод на естественном языке добавляет стоимость без ценности. В отчёте также сигналится, что экономия может выйти за пределы затрат на токены.
Теги: TypeSafe AI · Jev · Diogo Almeida · LLM · Automated Workflows · Inference Latency
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал