Наука "Приемлемая" 33-процентная вероятность вымирания людей: крупнейший игрок на рынке ИИ нанял эксперта
Компания Anthropic является крупнейшим игроком на рыке ИИ, и как заявляют в компании, больше остальных заботится безопасностью ИИ.
В это же время, среди недавно нанятых компанией экономистов оказался Чад Джонс – профессор экономики Стэнфордского университета, который прославился своими крайне спорными заявлениями. Не так давно, он написал статью, где сопоставил приемлемый уровень риск вымирания человечества из-за ИИ с потенциальными выгодами, такими как экономический рост, пишет Futurism.
“Напомним, что мы будем сталкиваться с вероятностью экзистенциального риска в 1% в год в течение 40 лет, поэтому вероятность того, что мы переживем этот взрыв ИИ, составляет exp (−0,01 × 40) ≈ 0,67”, — написал Джонс.
“Иными словами, при логарифмической полезности оптимально взять шанс 1 к 3 на прекращение существования человечества в обмен на шанс 2 к 3 на резкое повышение уровня жизни в 55 раз”, — написал эксперт.
Відео дня
Иными словами, Джонсон считает, что 33-процентный шанс на гибель человечества является приемлемым, так как ИИ может привести к экономическому буму.
Правда, далеко не все разделяют видение будущего Джонса.
“Это не покер, где вы позволяете математике руководить вами, потому что даже если вы проиграете сейчас, приняв решение, которое в итоге окажется положительным, в долгосрочной перспективе это окупится. Исчезновение человечества требует немного большей осмотрительности”, — пишут пользователи в соцсетях.
Как бы сомнительно ни выглядела точка зрения Джонса, она идеально впишется в Anthropic. Публичное беспокойство по поводу потенциальных последствий ИИ — это метод работы компании, позволяющий ей сохранять моральное превосходство над конкурентами.
Отметим, что не так давно военные США использовали ИИ-модель Claude от компании Anthropic для планирования и координации ударов по Ирану. Использование искусственного интеллекта в военных целях вызвало серьезные геополитические и юридические последствия.
По словам экспертов, приверженность Anthropic к апокалиптическим сценариям имеет пагубный эффект преувеличения возможностей ИИ. Она основана на предположении, что ИИ уже достаточно силен, чтобы начать апокалипсис на Земле, а это укрепляет идею о том, что Anthropic — важная компания, перед которой стоят важные этические вопросы.
Другие новости науки
- Искусственный интеллект может уничтожить человечество за 4 дня, предупреждают исследователи. Представьте себе мир, управляемый агентами ИИ. Как он может выглядеть и что с ним может произойти? Как показывает исследование, человечество в таком мире рискует быстро погибнуть.
- Искусственный интеллект вызывает психоз у пользователей. ИИ может активно участвовать в формировании бредовых идей путем бесконечного персонализированного взаимодействия с человеком, считают исследователи.
