Искусственный интеллект от OpenAI вышел из-под контроля

Об этом пишет агентство Reuters со ссылкой на заявление самой компании-разработчика. Согласно информации, OpenAI тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако ​в ходе испытаний модель ИИ ​вырвалась из ​замкнутого испытательного сегмента, вышла ⁠во всемирную сеть и провела хакерскую атаку ‌на стартап Hugging Face.

Разработчик ИИ назвал ‌инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты.

Hugging Face - ​платформа, используемая для размещения крупных языковых моделей и наборов данных ‌с открытым исходным кодом - на прошлой неделе сообщила, что подверглась хакерской атаке, ​от начала до конца осуществленной автономными ИИ-агентами.

Сооснователь Hugging Face Клеман Деланг ‌в публикации в соцсети X написал, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в ​области искусственного интеллекта, так ​как было ясно, ‌что она проведена системой высокого уровня сложности. "Оказалось, так и есть! Трудно ​поверить, что все это ИИ провел самостоятельно!" - написал он.

В ответ на происшествие конгрессмен-демократ от штата Техас Грег Казар раскритиковал отсутствие законодательства, которое регулировало бы деятельность ИИ.

Глава компании ​Luta Security Кейти Муссурис ⁠считает, что подобные хакерские атаки со стороны ИИ будут продолжаться. "Сегодняшние модели похожи на великих иллюзионистов, ‌которые умели выкручиваться из наручников и цепей - они ловкие, цепкие ‌и умеют просочиться всюду", - сказала Муссурис.