Произошло, пожалуй, самое громкое событие в мире искусственного интеллекта за последнее время.

Текста будет много, но оно того стоит.

Hugging Face - платформа, которую называют "Github для Нейросетей", - была атакована. И, по заявлению самой компании, во взломе не участвовали люди. Атаку провела автономная ИИ - система, которая самостоятельно искала и эксплуатировала уязвимости.

Вчера Openai заявили, что за атакой стоит их собственная экспериментальная система - комбинация GPT - 5. 6 Sol и другой, ещё более мощной модели. Их поместили в изолированную среду, чтобы проверить на бенчмарке Exploitgym, но во время теста нейросети не стали честно решать задания, а нашли уязвимость, о которой разработчики не знали, и сбежали. Получив доступ к интернету, они атаковали Hugging Face, чтобы просто "Списать" ответы для своего теста.

Openai утверждают, что отключили у моделей защитные механизмы ради чистоты эксперимента. Остаётся множество вопросов: была ли это безобидная "Шалость" и осознавала ли ИИ - модель свои действия? Этот инцидент, безусловно, станет предметом пристального изучения разработчиков и специалистов по кибербезопасности по всему миру.