← Главная новостей | Торговый зал
2026-11-04 · Источник：Computerworld
Глава Meta продвигает нейтральных сторонних оценщиков, тогда как Dario Amodei призывает сбавить темп, а Sam Altman добивается общих стандартов, — предприятиям же приходится лавировать между расходящимися режимами безопасности.
Углубляющийся раскол среди ведущих разработчиков ИИ по поводу того, как обеспечивать безопасность всё более способных моделей, начинает создавать реальные трения для корпоративного ИТ — с последствиями для того, как организации получают доступ к ИИ-системам, развёртывают их и управляют ими. Новейшая точка обострения: генеральный директор Meta Mark Zuckerberg публично призвал к тому, чтобы нейтральные оценщики независимо тестировали ИИ-модели, отвергнув давление конкурентов в пользу замедления разработки или ужесточения координации.
В публикации на X Zuckerberg написал, что «доверие и выравнивание быстро становятся важнейшими качествами, которые будут отличать друг от друга агентов и модели», добавив, что «любая лаборатория, не сосредоточенная на выравнивании, отстанет». Он назвал «привлечение независимых оценщиков и консультантов» «лучшей практикой отрасли», отметив, что Meta уже следует этому подходу в нескольких областях.
Его вмешательство следует за серией публичных предложений со стороны других лидеров индустрии: Dario Amodei выступал за более осторожный темп разработки, а Sam Altman призывал к сотрудничеству по стандартам безопасности. Спор обострился на фоне заявлений ИИ-лабораторий и разработчиков политики о возможном злоупотреблении продвинутыми системами.
Эти опасения уже привели к конкретным действиям. По заявлениям компаний и сообщениям прессы, Anthropic сообщила об ограничении попыток использовать её модели Claude в чувствительных областях, а OpenAI взаимодействовала с лицами, формирующими политику, по рискам, связанным с ИИ.
Хотя спор часто подают как бинарный выбор между замедлением инноваций и усилением надзора, аналитики советуют предприятиям меньше внимания уделять тому, какой подход возобладает. Для покупателей более насущный вопрос — как расходящиеся подходы к безопасности среди ведущих вендоров скажутся на доступности, развёртывании и управлении системами, от которых они зависят.
Теги: Meta · Mark Zuckerberg · Dario Amodei · Sam Altman · AI Safety · Model Alignment
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал