Ума не надо

Как отличить текст ИИ от текста человека: 3 наблюдения


Сегодня мы читаем десятки текстов в день — посты в соцсетях, новости, учебные материалы, инструкции, курсовые и даже дипломы. И почти никогда не задаёмся вопросом, кто их написал. В мире, где нейросети научились писать слишком правильно, а люди всё чаще стараются звучать «как положено», различить автора становится неожиданно сложно.

Именно поэтому тема ИИ-текстов волнует всех — от студентов и преподавателей до редакторов, исследователей и тех, кто просто много читает. Мы привыкли думать, что «чувствуем» автора. Но практика показывает: это чувство всё чаще нас подводит.

Ниже три наблюдения о том, почему мы ошибаемся, пытаясь распознать текст, написанный ИИ. А в конце — ссылка на подробную статью журнала 8БИТ, где разобраны реальные исследования, примеры и выводы.

1;; Мы доверяем текстам слишком сильно
Когда текст написан гладко, логично и без ошибок, мозг автоматически считывает его как «нормальный», а значит, человеческий. Мы привыкли считать аккуратность признаком усилия, образования и компетентности. И именно на этом ожидании ИИ выигрывает.

Современные языковые модели пишут так, как нас учили в школе и университете:

; последовательно,
; без резких скачков мысли,
; с аккуратными связками и выводами.

Такой текст не раздражает, не сбивает с толку и не требует усилий при чтении. В результате читатель расслабляется и перестаёт задавать лишние вопросы. Парадокс в том, что чем более «правильным» выглядит текст, тем выше вероятность, что мы вообще не задумаемся о его авторстве.

2;; Интуиция почти не работает
Многие уверены: «Я-то точно отличу». Особенно если речь идёт об опытных преподавателях, редакторах или исследователях, которые годами работают с текстами. Но эксперименты показывают обратное.

Люди ошибаются регулярно — даже когда уверены в своём выборе. Более того, они часто принимают ИИ-тексты за человеческие, объясняя это «хорошим стилем» или «грамотной логикой».

Самое ироничное — автоматические ИИ-детекторы тоже не дают стабильного результата. Алгоритмы могут с высокой уверенностью признать текст «человеческим», даже если он полностью сгенерирован нейросетью. Получается, что ни интуиция, ни технологии пока не дают надёжного ответа.

3;; Мы сами пишем как ИИ
Есть ещё одна причина, о которой редко задумываются. В академической и деловой среде людей годами учили писать определённым образом: нейтрально, структурно, без эмоций, с чёткими формулировками и выводами. Именно в таком стиле ИИ чувствует себя сильнее всего.

В результате возникает парадокс:

; человеческие тексты становятся всё более «машинными»,
; а машинные — всё более «человеческими».

Когда из текста исчезают индивидуальный ритм, ирония, сомнения, неожиданные повороты мысли, отличить автора становится почти невозможно. Мы сами стираем границу, по которой надеемся распознать ИИ.

; Эти три наблюдения — лишь верхушка айсберга. Исследования показывают: мы замечаем визуальные ошибки быстрее, чем стилистические, а уверенность в собственной «чуйке» часто играет против нас. Так, можно ли вообще научиться надёжно распознавать ИИ-тексты? Почему даже профессионалы ошибаются? И что делать в мире, где авторство перестаёт быть очевидным?