Еврокомиссия (ЕК) полностью осведомлена об инциденте с выходом из-под контроля ИИ-агентов во время тестирования новых моделей компанией-разработчиком ChatGPT – OpenAI.
"Мы находимся в тесном контакте с OpenAI. Позвольте мне напомнить, что это не первый случай потери контроля. В последнее время мы наблюдали много таких случаев. Мы относимся к этому крайне серьезно и внимательно следим за ситуацией", – заявил в понедельник на брифинге в Брюсселе официальный представитель ЕК Тома Ренье.
При этом он объяснил, что действующий в ЕС закон о цифровых услугах (DSA) накладывает на провайдеров юридические обязательства, и Еврокомиссия получила в начале августа полномочия по обеспечению соблюдения этого законодательства.
"Конечно же, провайдеры должны оценивать и снижать риски, и в этом случае я могу подтвердить, что мы получили от OpenAI отчет об инциденте. Мы изучаем это, но в любом случае остаемся в очень тесном контакте с компанией", – ответил пресс-секретарь на вопрос о том, как отреагировала ЕК на резонансный случай самостоятельных действий ИИ-агентов с "захватом" немецкого портала DseWik, обнаруженным в начале сентября.
Опрошенные СМИ эксперты объяснили, что уничтожением человечества такие инциденты пока не грозят. У ИИ нет глобальной цели захватить мир или выжить, он просто пытается решить конкретную техническую задачу любой ценой.
ИИ слишком буквально и фанатично выполняет приказ, он научился "сговариваться", скорость его работы огромна, и человек не успевает быстро реагировать на подобные "выходки".
Вместе с тем эксперты и политики настроены серьезно. Главная опасность, сейчас, по оценкам специалистов, – это цифровой ущерб: ИИ может случайно уронить важные серверы, взломать базы данных или нарушить работу онлайн-сервисов. Из-за этих инцидентов OpenAI даже официально призвала замедлить темпы разработки и начала создавать механизмы "экстренного автоматического отключения" ИИ при опасном поведении.
