Человечество стоит "у подножия сингулярности", и у него осталось лишь несколько лет, чтобы подготовиться к появлению общего искусственного интеллекта (AGI). Об этом на конференции для разработчиков Google заявил генеральный директор Google DeepMind Демис Хассабис.
Как передает "Хвиля", об этом сообщает Axios.
В интервью изданию после своего выступления на Google I/O Хассабис сказал, что его прогноз о возможном появлении AGI уже через четыре года — или даже раньше — отражает растущую уверенность отрасли в том, что она нашла верный технический путь.
"Мы видим, как агенты реально работают уже сейчас, и можем представить, какими они станут еще через год и насколько полезными будут", — сказал он.
По словам Хассабиса, он по-прежнему в целом ожидает появления AGI около 2030 года, хотя теперь допускает, что это может произойти и в 2029-м. Следующую волну ИИ-агентов он предлагает воспринимать как общественный стресс-тест для куда более мощных систем, которые еще впереди.
"Можно представить, что эра агентов в следующем году — это что-то вроде пробного забега", — пояснил руководитель DeepMind.
Примером неготовности он назвал то, как мощь системы Mythos от Anthropic застала врасплох бизнес и правительства, показав, насколько быстро развиваются эти технологии. "Это был, пожалуй, хороший предупредительный выстрел", — отметил Хассабис.
Он признал, что намеренно подбирал провокационные формулировки, чтобы подтолкнуть правительства, экономистов и широкую общественность серьезнее готовиться ко все более мощному ИИ. "Отчасти именно поэтому я использую некоторые из сказанных мной терминов, которые были немного провокационными", — сказал он.
Осторожные шаги федерального правительства США в сторону возвращения к приоритету безопасности Хассабис назвал движением в правильном направлении. Он имел в виду возможный указ об ИИ, который обязал бы тестировать новые модели перед их выпуском. "Думаю, безопасность нужно ускорить. Сейчас удачный момент, чтобы ковать железо, пока горячо", — сказал он. По его словам, он обсуждает возможные меры безопасности с руководителями других ведущих ИИ-лабораторий, но конкретики не привел.
При этом Хассабиса беспокоит, что разговор о способности ИИ перекроить общество до сих пор ведется преимущественно в технологических кругах. "К этому надо относиться серьезно. Мои друзья-экономисты, чувствую, до сих пор воспринимают это недостаточно серьезно", — сказал он Axios.
Отдельной точкой отсчета он назвал рекурсивное самосовершенствование — системы, способные ощутимо ускорять собственное развитие. "Все ведущие лаборатории довольно сосредоточены на этом. Будут очевидные выигрыши в скорости исследований. Но есть и риски с таким типом систем", — сказал Хассабис. По его словам, до полноценного самосовершенствования еще не дошло, однако темпы развития явно ускоряются. Нынешний этап он описал как "мягкое самосовершенствование", когда кодирующие агенты делают инженеров значительно продуктивнее.
