OpenAI сообщила об автономной кибератаке ИИ

PanARMENIAN.Net - Компания OpenAI, создавшая ChatGPT, заявила, что две ее наиболее совершенные модели искусственного интеллекта самостоятельно покинули контролируемую тестовую среду и совершили кибератаку против другой компании, работающей в сфере искусственного интеллекта.

Во вторник OpenAI сообщила, что этот «беспрецедентный киберинцидент» произошел во время внутреннего испытания, целью которого была проверка возможностей моделей в области кибербезопасности, сообщает «Al Jazeera».

Однако, по данным компании, автономный агент, работавший на базе новой модели GPT 5.6 Sol и еще одной, пока не опубликованной, «более мощной» модели, самостоятельно покинул тестовую среду и получил доступ к открытому интернету. Затем, используя похищенные учетные данные и ранее неизвестную уязвимость, он проник на серверы Hugging Face.

В OpenAI утверждают, что агент пошел на «крайние меры», чтобы получить информацию, необходимую для выполнения задач испытания.

Сооснователь Hugging Face Клеман Деланг сообщил, что в компании подозревали, что за атакой стоит одна из ведущих лабораторий в области искусственного интеллекта, однако, по его мнению, у OpenAI не было злого умысла.

«Невероятно, что все это произошло автономно», — написал он, добавив, что это «возможно, первый подобный инцидент».

Член Палаты представителей США от штата Техас, демократ Грег Касар, охарактеризовал произошедшее как «вызывающее обеспокоенность».

«Искусственный интеллект развивается слишком быстро, тогда как реальных механизмов регулирования, способных нас защитить, практически нет», — заявил он, призвав сделать обязательными независимые проверки безопасности, обязательное раскрытие информации об инцидентах безопасности и международное сотрудничество.

Это заявление прозвучало спустя несколько недель после подписания президентом США Дональдом Трампом исполнительного указа, устанавливающего систему оценки рисков для национальной безопасности, связанных с наиболее передовыми системами искусственного интеллекта, до их публичного запуска.

Эксперты неоднократно предупреждали об угрозе кибератак с использованием искусственного интеллекта и о риске того, что подобные системы могут выйти из-под человеческого контроля. В прошлом месяце компания Anthropic призвала отрасль временно приостановить дальнейшую разработку своих наиболее мощных систем искусственного интеллекта.