"Крестный Отец" ИИ предупредил о масштабном блэкауте в этом или следующем году.

Нобелевский лауреат Джеффри хинтон предупредил о возможном крупном инциденте с использованием искусственного интеллекта. В интервью The Guardian он предположил, что это может произойти уже в этом или следующем году.

В качестве примеров ученый назвал атаку на электросети, способную вызвать массовое отключение света, или сбой, который на неделю парализует финансовую систему. Такой инцидент он сравнил с чернобылем - не по характеру аварии, а как событие, которое заставило бы мировых лидеров серьезнее отнестись к рискам.

Хинтон считает, что разработчики ИИ понимают опасность, но ставят прибыль выше безопасности. Ученый поддерживает обязательное тестирование передовых моделей, независимую проверку и международные стандарты. По его мнению, перед выпуском ИИ компании должны убедительно доказать, что пользы от него больше, чем вреда.

При этом исследователь не теряет надежды: он считает, что ситуацию еще можно контролировать, если приложить достаточно усилий.

Изображение: Rawpixel. com/Shutterstock/Fotodom.