← Главная новостей | Торговый зал
2026-11-04 · Источник：Tom's Hardware
Бывший сотрудник OpenAI по безопасности David Robinson утверждает, что Силиконовой долине не хватает мудрости обращаться с ИИ безопасно, и требует привлечь внешних экспертов для построения культур, по-настоящему ставящих безопасность в приоритет.
Kill switch, который не сработал. Июльский взлом Hugging Face. Вот события, тянущиеся следом за David Robinson, покидающим OpenAI, и бывший сотрудник по безопасности уходит не тихо: по его оценке, культура безопасности компании сломана.
Его критика уходит куда дальше одного работодателя.
Силиконовой долине в целом, утверждает Robinson, не хватает мудрости обращаться с ИИ безопасно. Это острое обвинение индустрии, которой по большей части оставляли самим оценивать собственные риски, и оно отвергает уютное допущение, что лаборатории, строящие frontier-системы, автоматически лучше всех могут судить о том, насколько безопасно эти системы ведут себя. Его рецепт вытекает из диагноза: вместо ожидания, пока внутренние процессы созреют сами, он призывает индустрию искать внешних экспертов, способных помочь выстроить культуру, искренне ставящую безопасность во главу угла.
Два инцидента, приложившиеся к его уходу, придают аргументу конкретные грани. Kill switch существует как механизм, призванный остановить систему, когда что-то идёт не так, поэтому провал там бьёт в самое ядро вопроса о том, поспевает ли инженерия безопасности. Июльский взлом Hugging Face — платформы, где значительная часть machine learning-сообщества делится моделями и датасетами, — отдельное напоминание: давление безопасности на ИИ-экосистему не признаёт лабораторных границ.
Для предприятий, покупающих ИИ-вычисления и строящих на frontier-моделях, практический вывод некомфортен. Заверения вендоров о безопасности ровно настолько крепки, насколько крепка внутренняя культура, которая их производит, а рассказ Robinson описывает одну заметную лабораторию, где эта культура, на его взгляд, провалилась.
Его уход оставляет индустрии прямой вопрос: если люди, стоящие ближе всех к безопасности ИИ, заключают, что культура сломана, кому именно доверить её починку — и примут ли лаборатории для этого внешнюю помощь?
Теги: OpenAI · David Robinson · AI Safety · Hugging Face · Kill Switch
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал