Ученые придумали болезнь, а ИИ начал лечить людей от нее: эксперимент.

В 2024 году исследовательница гетеборгского университета Альмира Османович тунстрем провела эксперимент: создала несуществующее заболевание "Биксономания" (выдумала симптомы и причину - синий свет), загрузила фальшивые статьи в научные базы. ИИ - системы начали цитировать его как реальное, сообщает Nature.

Google Gemini и Microsoft Bing упоминали "Биксономанию" как редкое заболевание от синего света. Chatgpt отвечал пользователям, учитывая "Биксономанию" как настоящую болезнь. Поддельные статьи в научных журналах процитировали. Исследование в Cureus на фальшивые работы ссылалось. В результате статью отозвали, но это подчеркивает, как легко ложные данные могут попасть в научную среду.

Дезинформация в медицинских источниках через ИИ здоровью пользователей угрожает. Эксперты обеспокоены: ИИ не всегда фильтрует данные. Исследователи предлагают системы проверки достоверности и стандарты проверки информации в медицине. "Биксономания" - сигнал о необходимости совершенствования фильтрации данных.