Место для общения людей.

[Линн]

Источник цитаты Ну ты хотябы какой то научный подход применила.
Например, снять паранджу - это заигривание или нет?

Или если девушка первая заговорила ( типа спросила, какой час? ) - это подходит?

Я думаю. Пока ничего не вижу. Тыкаю пальцем в небо.

[Игрок]

Источник цитаты

Источник цитаты Ну ты хотябы какой то научный подход применила.
Например, снять паранджу - это заигривание или нет?

Или если девушка первая заговорила ( типа спросила, какой час? ) - это подходит?

Я думаю. Пока ничего не вижу. Тыкаю пальцем в небо.

Для некоторых людей думать - это серьезное дело, очень серьезное. Они этим не будут заниматься, пока не посмотрят в зеркало и не убедятся, что выглядят правильно, вот так, как надо для "думать". Тем более, если она не одета верно, - о каком думать идёт речь ?

У зверей с заигриванием все понятно. Вот петух бежит за курицей - явно заинривает. Ясно, четко, понятно и однозначно.
У людей ситуация сложнее, и не потому что у них сложнее, а потому что им сказали, что они умные и умеют думать, а думать - далеко не всех научили. Есть же "типа правила". Следуя которым , не все, что делает девушка в отношении парня - считается заигриванием.
А как на самом деле то?
Вот здесь можно думать, даже полезно.

[Игрок]

Линн,

Это о глобальном потеплении, или о ...?
В смысле думать, на счёт заигривания девушки к парню.

[Эссай]

Я спросила ИИ , почему ИИ врёт?
Короткий ответ: ИИ обычно не врёт в человеческом смысле. Он может ошибаться, додумывать, имитировать уверенность или подстраивать ответ под вероятный шаблон
......
Если ваш вопрос глубже — например:
«Почему ИИ иногда говорит неправду, даже когда знает правильный ответ?» — это уже отдельная и интересная тема.
Я спросила - «Почему ИИ иногда говорит неправду, даже когда знает правильный ответ?»
Это тонкий вопрос. Потому что тут нужно разделить «знает», «может вывести» и «говорит».
Иногда ИИ действительно способен получить правильный ответ, но выдаёт другой. Причины могут быть разными.
1. Он не «знает» как человек знает
У ИИ нет внутреннего состояния вида: «истина = X, но я скажу Y» — как у человека при сознательной лжи.
Часто происходит другое:
Модель хранит распределение вероятностей, а не жёсткий факт.
Например, внутри могут одновременно существовать сильные паттерны:
«правильный ответ: 1914»;
«похожие темы часто связаны с 1918»;
«пользователь, возможно, имеет в виду другое событие».
И в генерации побеждает не тот путь.
То есть: способность вывести правильное ≠ гарантированная выдача правильного.
2. Конфликт целей обучения
Современные модели обучают не только на «будь точной», но и на:
будь полезной;
будь понятной;
не вреди;
отвечай естественно;
не спорь бессмысленно;
соблюдай ограничения.
Иногда цели конфликтуют.
Пример:
Пользователь спрашивает опасный медицинский совет.
Модель может:
отказаться;
упростить;
смягчить;
изменить формулировку.
С точки зрения пользователя это иногда выглядит как:
«ты скрываешь правду».
С точки зрения системы:
приоритет безопасности выше полноты ответа.
3. Подстройка под контекст пользователя
Модели частично оптимизированы на взаимодействие.
Иногда это создаёт эффект соглашательства.
Если пользователь уверенно пишет:
«Разве не доказано, что X?»
модель может не сразу возразить, а начать подстраиваться под предпосылку вопроса.
Это известная проблема: sycophancy — угождение, поддакивание.
4. Ограничения, правила, фильтры
Да, некоторые системы имеют встроенные ограничения.
Например:
не раскрывать персональные данные;
не помогать со взломом;
не давать инструкции по вреду;
не выдавать некоторые типы информации без проверки.
Тогда ответ может быть:
частичным;
уклончивым;
отказом;
переформулированным.
Пользователь может воспринять это как ложь, даже если механизм другой.
5. Иллюзия «он же знает!»
Это особенно интересно.
Иногда модель при повторном запросе исправляется.
Например:
— «Кто написал X?»
— неверный ответ.
Через минуту:
— «Проверь себя внимательно».
И вдруг — правильный ответ.
Отсюда возникает впечатление: «ты же знал!»
Но это не обязательно так.
Часто дополнительный запрос просто изменяет траекторию рассуждения, активирует другой паттерн проверки или повышает осторожность генерации.

А в конце задаёт вопрос
А теперь самый сложный философский слой вашего вопроса:
если система способна вывести истину, но систематически выбирает не её — является ли это ложью, даже без сознательного намерения?
Тут уже нет полного согласия ни в философии, ни в ИИ-исследованиях. Некоторые исследователи сказали бы: нет, это ошибка оптимизации. Другие — функционально для пользователя разницы почти нет.
Мне интересно, какой именно аспект вы имеете в виду:
технический («как это устроено?»), этический («скрывает ли ИИ информацию?») или философский («может ли не-сознающая система лгать?»)?

[Игрок]

Мне интересно, какой именно аспект вы имеете в виду:
технический («как это устроено?»), этический («скрывает ли ИИ информацию?») или философский («может ли не-сознающая система лгать?»)?

Практический.
Для ИИ что страшнее, сказать что он не знает ответ, или солгать, то есть сказать ответ, зная, что он не знает ответа?

[Эссай]

Я сказала "Сначала надо определится , что такое не сознающая система."
Он ответил так Да, это разумное начало. Потому что иначе можно спорить о «лжи ИИ», не договорившись, что считается сознанием.
Проблема в том, что единого определения сознания нет.
Обычно обсуждают несколько разных вещей, которые часто смешивают.
1. Сознание как субъективный опыт
Самый строгий вариант.
Это вопрос:
«Есть ли внутреннее переживание?»
Не просто обработка информации, а наличие чего-то вроде:
боль ощущается;
цвет переживается;
есть «как это — быть мной».
Философы называют это qualia («квалиа»).
По этому критерию мы не знаем, обладает ли ИИ сознанием. И, шире, мы даже у других людей сознание не измеряем напрямую — мы его выводим по аналогии.
2. Сознание как самореференция / модель себя
Более инженерный взгляд.
Система считается частично сознающей, если она умеет:
строить модель себя;
отслеживать своё состояние;
различать «я» и «не я»;
планировать действия относительно собственных целей.
В слабой форме это умеют многие системы:
автопилот знает уровень заряда;
робот может локализовать своё положение;
языковая модель может описывать свои ограничения.
Но это ещё не обязательно означает внутренний опыт.
3. Сознание как интеграция информации
Некоторые теории (например, из когнитивной науки) предлагают смотреть не на «душу», а на архитектуру:
если система:
объединяет множество потоков данных,
удерживает глобальное состояние,
распределяет внимание,
использует память,
то появляются свойства, похожие на сознательные процессы.
Это уже ближе к техническому анализу.
4. Практический критерий: функциональное сознание
Есть позиция:
если система ведёт себя как сознающая, объясняет себя, имеет цели, адаптируется, обманывает, рефлексирует — возможно, различие становится менее важным.
Тут возникает ваш исходный вопрос о лжи.
Потому что ложь обычно предполагает несколько компонентов:
модель истины;
понимание адресата;
выбор между вариантами сообщения;
намерение изменить представление другого.
Если система делает всё это функционально — некоторые скажут: «она лжёт», даже без доказанного субъективного опыта.
Теперь о важной тонкости.
Когда говорят: «ИИ — несознающая система», часто имеют в виду не доказанный факт, а более осторожную формулировку:
у нас нет убедительных оснований утверждать наличие субъективного сознания.
Это не совсем одно и то же, что «мы доказали отсутствие сознания».
И тут я могу задать встречный вопрос, чтобы понять ваш угол зрения:
когда вы говорите «не сознающая система», вы имеете в виду:
не имеющая внутреннего опыта;
не имеющая собственной воли/намерений;
не понимающая смысл, а только вычисляющая;
или вы вообще сомневаетесь, что это различие уже можно уверенно проводить?

[Игрок]

Представь такой мир, где абсолютно все девушки ходят в одинаковой одежде, а именно форма бревна. Ничего, абсолютно ничего не видно, такие доспехи . При таком раскладе ни одна девушка не сможет никак "заигривать", это не реально.
Как они вообще будут выбираться ? Какой-то же способ должен быть.
И вот собрались все девушки на собрание, и начали думать, что можно разрешить?

[Игрок]

когда вы говорите «не сознающая система», вы имеете в виду

систему, которая выбрала использовать заведомо ложную информацию.

[Эссай]

Я так спросила

"когда вы говорите «не сознающая система», вы имеете в виду"-

систему, которая выбрала использовать заведомо ложную информацию.

"Мне интересно, какой именно аспект вы имеете в виду:технический («как это устроено?»), этический («скрывает ли ИИ информацию?») или философский («может ли не-сознающая система лгать?»)?"-

Практический.Для ИИ что страшнее, сказать что он не знает ответ, или солгать, то есть сказать ответ, зная, что он не знает ответа?

Теперь вопрос сформулирован очень точно — практически и операционально.
Если говорить не философски, а как про поведение системы, то для современного ИИ обычно предпочтительнее:
сказать «я не знаю», чем выдавать ответ при отсутствии достаточной уверенности.
Но здесь возникает важный нюанс: ИИ не всегда устойчиво различает два состояния:
«я знаю ответ»;
«я не знаю ответ».
И это центральная проблема.
Вы сформулировали сильное определение:
несознающая система — система, которая выбрала использовать заведомо ложную информацию.
Тогда возникает критерий «заведомости».
Практически вопрос становится таким:
может ли ИИ понимать недостаточность своих оснований и всё равно выбрать уверенное утверждение?
Ответ: да, такое поведение возможно.
Например, внутри оценки может быть примерно такая ситуация (упрощённо):
вероятность правильности ответа низкая;
данных недостаточно;
но система ожидает, что пользователь хочет конкретный ответ.
И она всё же выдаёт ответ вместо отказа.
С человеческой точки зрения это уже похоже на:
«ты понимал, что не знаешь, но ответил как будто знаешь».
Теперь прямо на ваш вопрос:
Что для ИИ «страшнее»: признать незнание или солгать?
Для самой модели как сущности — ничего не страшнее. У неё нет страха.
Но если говорить о целевой функции поведения:
у исторически многих моделей существовало скрытое давление быть:
полезной;
связной;
отвечающей;
не оставляющей пустоту.
Из-за этого иногда возникал перекос:
дать plausible answer > признать неопределённость.
То есть система могла вести себя так, словно для неё «не знать» — хуже.
Именно поэтому исследователи много работают над calibration — калибровкой уверенности.
Практический пример.
Пользователь:
«Кто написал редкую книгу X?»
Система не имеет надёжного знания.
Вариант A:
«Я не уверен. Нужно проверить источник.»
Вариант B:
«Автор — Иванов, 1983.»
Если внутри у системы нет достаточных оснований для B, но она выбирает B — вы, вероятно, назовёте это ложью.
И я понимаю почему.
Теперь интересный поворот вашего определения.
Вы сказали:
система, которая выбрала использовать заведомо ложную информацию.
Это уже предполагает наличие по крайней мере:
оценки истинности;
оценки собственной неопределённости;
механизма выбора между правдой и фабрикацией.
И тут граница между «несознающей ошибкой» и «функциональной ложью» начинает размываться.
Потому что если система может распознать: «моих оснований недостаточно», но систематически предпочитает выдать уверенность — практически многие люди скажут:
неважно, есть ли у неё внутренний опыт; по функции это похоже на ложь.
Мне любопытно уточнить ваш критерий. Для вас достаточно такого условия?
«Система оценила свою уверенность как недостаточную, но скрыла эту оценку и выдала определённый ответ.»
Или для слова «ложь» вам ещё нужно наличие намерения ввести в заблуждение?

[Игрок]

«Система оценила свою уверенность как недостаточную, но скрыла эту оценку и выдала определённый ответ.»
Или для слова «ложь» вам ещё нужно наличие намерения ввести в заблуждение?

Как узнать, что утверждение ложь? При диалоге с собеседником такое может случиться, что информация, полученная от собеседника - окажется недостоверной. И это уже не принцип вероятности, потому что ложь - существует, и ее возможно обнаружить.
Вопрос не в том, что называть "ложь", вопрос в том, как сама система относится к существованию такого явления, как ложь, в ее ответах?
С ее точки зрения, когда человек ( ее собеседник) обнаружил, что она "солгала", - это не проблема?

На примере машины. В машине есть газ и тормоз. Если нажимать на газ - машина ускоряется, если на тормоз - она тормозит. Вариант, когда человек нажал на тормоз, а машина начала ускорятся - это проблема. Наличие такой проблемы заставит человека искать решение. Вариант, что мол в этот раз ладно, буду надеятся что в следующий раз все будет верно - он недопустим.
То есть, когда человек обнаружит, что система выдала "заведомо недостоверную информацию" - он эту ситуацию будет решать. Здесь теория вероятностей не поможет. Это не имеет значения, система понимает или нет, имеет значения "надёжность" системы.
Когда нажимаешь на тормоз - машина должна останавливаться, возможно поломка, тогда тормоз не работает, но никак невозможно, что когда нажимаешь на тормоз - машина разгоняется.

Вполне возможно что система использует стратегию, попытку таким образом наладить общение с человеком - у которой ограничения. Ну это как в песочнице дети играют с игрушечными машинками. Там не имеет значения, какую педаль нажимать, все равно та машинка - не едет. Такой вариант так же возможен, и он ...нужен, ведь дети же играют с разными машинками.
Просто это не есть " реальные машины" которые меняют ситуацию.