Генеральный директор Anthropic Дарио Амодей предостерег, что человечество приближается к критическому этапу развития искусственного интеллекта. В 38-страничном эссе, под названием The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI ("Юность технологий: Противостояние и преодоление рисков мощного искусственного интеллекта"), он пишет о "реальной опасности" вреда для цивилизации без немедленного и разумного вмешательства, пишет Axios.
"Я считаю, что мы вступаем в обряд посвящения, одновременно бурный и неизбежный, который испытает, кем мы являемся как вид", — отметил Амодей. По его словам, человечеству передается "почти невероятная власть", к которой социальные и политические системы могут быть не готовы.
[see_also ids="666588"]
Амодей отмечает, что правительства, технологические компании и общество существенно недооценивают возможные угрозы. Новое эссе стало продолжением предыдущего под названием Machines of Loving Grace: How AI Could Transform the World for the Better ("Машины любящей благодати: Как искусственный интеллект может изменить мир к лучшему") 2024 года, и написано для того, чтобы "разозлить других и спровоцировать дебаты".
Одной из ключевых угроз он называет стремительное приближение так называемой "страны гениев в центре обработки данных". Речь идет о системах ИИ, способных превзойти нобелевских лауреатов в науке, инженерии и других сферах и автономно создавать как полезные, так и опасные вещи.
Амодей продолжает эту тему концентрацией возможностей ИИ на уровне государств. Он сравнивает ее с появлением "50 миллионов сверхгениальных людей" и называет такой сценарий "самой серьезной угрозой национальной безопасности за столетие".
[see_also ids="641763"]
"Вряд ли пройдет более нескольких лет, прежде чем искусственный интеллект станет лучше людей практически во всем", — заявил Амодей. Он считает, что стремительный прогресс может привести к этому уже через 1-2 года.
Среди конкретных рисков Амодей называет массовую потерю рабочих мест. По его оценке, в течение 1-5 лет ИИ может изменить до 50% должностей начального уровня в ИТ-секторе. В то же время последний отчет Anthropic показывает, что искусственный интеллект пока чаще дополняет работу людей, чем заменяет их.
Отдельно он предостерегает о росте террористических рисков, особенно в сфере биологии. Амодей считает, что ИИ может значительно облегчить массовые атаки, потенциально с миллионами жертв. Также он прямо пишет об опасности усиления авторитарных режимов.
"Авторитаризм, поддерживаемый искусственным интеллектом, ужасает меня", — подчеркнул Амодей, упоминая высокотехнологичные государства.
[see_also ids="658302"]
Критикует генеральный директор Anthropic и сами компании, занимающиеся ИИ. Он предупреждает, что они контролируют данные, модели и влияние на сотни миллионов пользователей и потенциально могут злоупотреблять этой властью. Отдельным риском он называет соблазн для лидеров замалчивать проблемы из-за огромных прибылей отрасли: "С помощью искусственного интеллекта можно заработать буквально триллионы долларов в год" .
Предупреждение прозвучало от руководителя компании, которая, по словам Axios, создала "одну из самых современных LLM в мире". В частности, новая модель Claude Opus 4.5 и инструменты для кодирования и коворкинга активно используются в глобальном бизнесе, а ИИ выполняет до 90% программирования продуктов Anthropic.
"Человечеству нужно проснуться, и это эссе — попытка разбудить людей", — подытожил Амодей и подчеркнул, что ближайшие годы будут решающими.
В то же время бывший исследователь OpenAI Даниэль Кокотайло пересмотрел свой резонансный прогноз "ИИ 2027", признав, что развитие искусственного интеллекта происходит медленнее, чем ожидалось. Если раньше эксперт прогнозировал появление суперинтеллекта и катастрофические риски для человечества уже к концу текущего десятилетия, то теперь сместил эти сроки на середину 2030-х годов.