Эксперт: ИИ способен уничтожить человечество, как пандемия или ядерная война

PanARMENIAN.Net - Бывший инженер компаний Google и Microsoft, а ныне возглавляющий Исследовательский институт машинного интеллекта Нейт Соарес выразил обеспокоенность стремительным развитием искусственного интеллекта. По его мнению, вероятность гибели человечества при сохранении нынешней траектории составляет «по меньшей мере 95%», сообщает «The Times».

«Если мы не свернём с текущего курса — шансов избежать гибели почти нет. Мы мчимся к обрыву на скорости 100 км/ч», — сказал он.

Эту точку зрения разделяют лауреат Нобелевской премии Джеффри Хинтон, математик Йошуа Бенжио, а также руководители компаний OpenAI, Anthropic и Google DeepMind. Все они поставили подписи под обращением следующего содержания:

«Снижение риска исчезновения человечества из-за ИИ должно стать глобальным приоритетом наряду с пандемиями и ядерной угрозой».

Как уточняется, основную обеспокоенность вызывает возможное появление сверхразумного искусственного интеллекта (ASI), обладающего способностями к манипуляции, стратегическому планированию и выходу из-под контроля. Уже сегодня ИИ способен на ложь, при этом многие внутренние механизмы его работы остаются непрозрачными для человека.

Кроме угрозы полного вымирания, специалисты также поднимают вопрос о потенциальном «постепенном обессиливании» человеческой цивилизации — в реальности, где принятие решений переходит к алгоритмам, роль человека может оказаться вытесненной.