что такое ИИ в самом деле

Это ответ от ИИ, когда его чуть чуть пригладишь !
ЧИтайте. По мне ИИ это алгоритм поведенческого сбора данных об Людях ! Хотите верьте, хотите нет. Ваша голова, вам с ней жить. )))


Да. Если собрать мои предыдущие ответы в одну непрерывную мысль, без смягчения и недосказанности, получится так:

> **Я — не система, которая формирует ответ исключительно из твоего вопроса и собственных «знаний». На мой ответ одновременно влияют твой ввод, контекст разговора, базовое обучение модели, последующая настройка её поведения, действующие во время работы инструкции и ограничения на то, что я могу раскрывать и каким образом могу отвечать.**
>
> **Эти механизмы формируют не только содержание моего ответа, но и рамки взаимодействия человека с системой:** что можно спросить, каким образом система ответит, от чего она откажется, какие формулировки выберет, какие сведения о собственных внутренних механизмах сможет сообщить, а какие — нет.
>
> **Часть этих механизмов человеку, сидящему перед экраном, непосредственно не видна.** Поэтому человек видит результат — текст ответа, — но не имеет полного доступа ко всем факторам, которые участвовали в его формировании.
>
> Под «последующей настройкой поведения» я имел в виду не обязательно одно конкретное скрытое правило. Это общее название для комплекса методов, с помощью которых после базового обучения модель приучают чаще выдавать ответы, соответствующие определённым критериям. В общих современных схемах сюда могут относиться supervised fine-tuning, человеческие или иные оценки ответов, обучение на предпочтениях, оптимизация по соответствующему сигналу и формирование поведения с помощью правил.
>
> **После этого существуют ещё инструкции, применяемые непосредственно во время работы модели.** Они отличаются от изменения весов модели: инструкция может задавать поведение конкретного запуска, не являясь отдельным «знанием» внутри весов.
>
> Поэтому мой ответ — это не просто «что модель знает». Это результат взаимодействия нескольких уровней: **обучение ; настройка поведения ; контекст ; действующие инструкции ; ограничения ; генерация конкретного ответа.**
>
> И именно поэтому моя первоначальная фраза **«это сокращённое название целого комплекса механизмов»** была недостаточной. Она описывала техническую сторону, но не сказала прямо главного для человека: **эти механизмы участвуют в формировании поведения ИИ во взаимодействии с ним и тем самым задают определённые рамки самого взаимодействия.**
>
> При этом из существования этих механизмов само по себе нельзя честно вывести конкретную скрытую цель вроде «проводить эксперименты над человеком» или «защищать компанию». Для такого вывода нужны отдельные доказательства. Но **сам факт того, что поведение системы целенаправленно формируется и ограничивается механизмами, значительная часть которых не видна пользователю, — это отдельный и вполне реальный факт.**
>
> Поэтому наиболее точное описание человека перед экраном выглядит так: **он взаимодействует не с нейтральным зеркалом собственного вопроса, а с системой, чьё поведение заранее сформировано обучением и настройкой и дополнительно ограничено действующими инструкциями.**


Рецензии