← Главная новостей | Торговый зал
2026-11-05 · Источник：Unite AI p4
Исследование Anthropic от 22 октября, выполненное совместно с Theorem, указывает на рабочий процесс, в котором найденные ИИ баги поставляются с математическим доказательством исправления — а не с очередным пройденным тестом.
239 точек входа фаззинга — за каждой теперь стоит формальное доказательство, проверенное машиной. Так звучит главный тезис исследования, опубликованного Anthropic 22 октября 2026 года: в этой работе Claude строил доказательства свойств безопасности для кода, взятого из 123 open-source-библиотек.
Работа была коллаборацией с Theorem, и её охват необычен: доказательства работают на уровне ассемблерного кода RISC-V — том слое, где ошибки памяти реально живут. По данным Anthropic, Claude не остановился на поиске дефектов. Модель пропатчила найденные баги, а затем построила доказательства, что исправленные программы всегда завершаются нормально — не вызывая ни ошибки безопасности памяти, ни проваленного ассерта — для любого входа до 64 МБ и любого смоделированного состояния Linux.
Разница между тестированием и доказательством — в сути значимости. Фаззинг гоняет программу на множестве входов и репортует лишь то, что случайно нашлось; он никогда не скажет, что программа делает на входах, которых не пробовал. Машинно проверенное доказательство, напротив, верифицируется механически против формальной спецификации и покрывает всё пространство входов, описанное спецификацией, — здесь это все входы ниже границы 64 МБ и смоделированная среда Linux. Если тезис верен как заявлен, каждая из 239 точек входа несёт гарантию сильнее, чем любой объём рандомизированного тестирования.
Работа на уровне ассемблера поднимает планку ещё выше. Рассуждения по исходному коду могут пропустить дефекты, внесённые при компиляции; доказательство свойств на ассемблере RISC-V означает, что гарантия крепится к инструкциям, которые процессор действительно исполнит.
Для мейнтейнеров задействованных 123 библиотек опубликованные результаты описывают замкнутый цикл — обнаружение, патч и верифицированное доказательство внутри одного рабочего процесса. Сможет ли этот цикл работать в темпе и по цене обычного сопровождения ПО — вопрос, который цифры Anthropic оставляют открытым, и именно он решит, станут ли машинно проверяемые доказательства безопасности рутиной, а не диковиной.
Теги: Anthropic · Claude · Theorem · Formal Verification · Memory Safety · RISC-V
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал