Глава Google DeepMind: AGI на горизонте, риск для человечества — «значительный»

Генеральный директор Google DeepMind Демис Хассабис заявил, что создание искусственного общего интеллекта (AGI) уже близко и это будет "вероятно, самый трансформативный момент в истории человечества". Об этом он сказал в интервью на саммите Axios AI+ в Сан-Франциско 4 декабря. В Axios напоминают, что ранее Хассабис не раз озвучивал, что AGI может появиться до 2030 года.

При этом на вопрос о личной оценке p(doom) — вероятности катастрофы из-за ИИ — Хассабис ответил, что она "точно не нулевая и, вероятно, значительная". "К этому стоит относиться очень серьезно и работать над снижением рисков", — добавил он.

Одну из главных угроз глава DeepMind видит уже сейчас: кибератаки с использованием ИИ против критической инфраструктуры — энергосетей и систем водоснабжения. По его словам, это "вероятно, уже происходит, пусть пока и без самых продвинутых моделей". Опасения не беспочвенны: в ноябре Anthropic сообщила о первой задокументированной кибератаке, почти полностью выполненной ИИ. Китайские хакеры использовали Claude Code для проникновения в 30 организаций — технологические компании, финансовые учреждения и госструктуры. По данным компании, 80–90% операций выполнял ИИ, а люди вмешивались лишь на нескольких критических этапах.

Хассабис отметил, что Нобелевская премия по химии, которую он получил в 2024 году за разработку AlphaFold, помогла ему достучаться до новых аудиторий. Теперь его предупреждения об ИИ воспринимают серьезнее.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.