Что такое биксонимания?

 Шведские ученые провели эксперимент, выдумав болезнь биксонимания и залили в сеть фейковые статьи.

Речь идет о так называемой «биксонимании» - якобы заболевании глаз, возникающем из-за длительной работы за компьютером.

Фейковая информация выглядела максимально убедительно:

    подробно описывались симптомы
    упоминались «ученые» и «исследования»
    приводились ссылки и статистика



Чтобы подвох был очевиден, в источниках указали академию из Звездного пути и фонд Сайдшоу Боба из Симпсонов.


 Но нейросети вроде ChatGPT и Gemini заглотили наживку и начали выдавать этот бред за реальный медицинский диагноз.
 Крупные языковые модели, включая ChatGPT и Gemini, начали активно «просвещать» пользователей на тему несуществующей патологии, раздавая этот диагноз направо и налево.

В частности, Copilot от Microsoft описывал «биксониманию» как редкое заболевание, Gemini от Google объяснял ее воздействием «голубого свечения экранов». Аналогичные ответы фиксировались и у других систем.


Хуже всего то, что на фейк повелись и живые люди. Статьи о несуществующей болезни начали цитировать в научных журналах. Оказалось, исследователи используют ИИ для поиска источников и вставляют ссылки, не читая сами работы.

То есть достаточно забросить в сеть уверенно написанную чушь, и алгоритмы за пару недель превратят её в научный факт.

Если даже в науке перестают проверять источники, просто доверяя кнопке копировать, отличить реальные факты от информационного шума скоро будет невозможно.