← Главная новостей | Торговый зал
2026-11-04 · Источник：HotHardware
Джейкоб Коксон, три года руководивший работами по предобучению моделей, заявил, что сверхразум, не согласующийся с интересами человека, представляет реальную угрозу исчезновения для человечества в ближайшее десятилетие, — и тем самым вновь разжёг дебаты об экзистенциальных рисках.
Джейкоб Коксон (Jacob Coxon), исследователь в области безопасности ИИ, уволившийся из Anthropic, предупреждает, что человечеству в ближайшее десятилетие грозит реальная опасность исчезновения из-за несогласованного с интересами людей сверхразума, — горизонт, который помещает предполагаемую катастрофу примерно на 2036 год. Уход специалиста и прозвучавшее вслед за ним предостережение вызвали очередной виток споров об экзистенциальных рисках, превратив кадровое решение в новую точку напряжённости в периодически вспыхивающем внутриотраслевом противостоянии.
Коксона называют ключевым исследователем, который в течение трёх лет руководил работами по предобучению — масштабными обучающими процессами, лежащими в основе разработки передовых моделей. Такой стаж делает его одним из практиков, наиболее близких к системам, чью траекторию он теперь ставит под сомнение, а уход из одной из самых заметных компаний отрасли придаёт его предостережению тональность взгляда изнутри, а не позицию внешнего критика.
Суть утверждения Коксона предельно жёсткая: несогласованный сверхразум — системы, превосходящие человеческие возможности, цели которых не выровнены с интересами людей, — может представлять реальную угрозу исчезновения для человечества в течение десяти лет. Подобные предупреждения не новы, однако, как отмечается в публикации, выступление Коксона примечательно именно тем, что исходит от человека, только что отошедшего от практической работы в ведущей ИИ-лаборатории.
Для тех, кто следит за управлением рисками ИИ, этот эпизод подчёркивает: аргументы об экзистенциальных рисках продолжают звучать изнутри самих лабораторий отрасли, а не только от внешних критиков. Убедит ли скептиков названный Коксоном срок 2036 год или лишь углубит существующие разломы — так или иначе, его уход добавил ещё одну точку в дебаты, которые не демонстрируют признаков развязки, — и теперь эти дебаты несут подпись бывшего руководителя направления предобучения.
Теги: Anthropic · Jacob Coxon · AI Safety · Existential Risk
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал