Нейросети и прочие ИИ

Интересный факт - если использовать ллм не по назначению, то она не будет нормально работать

 

Так нынешний ИИ это не тётка в менопаузе, положившая молодость на гуманитарном направлении, чтобы донимать его такими вопросами. Его готовят к агентской работе для замены «белых воротничков» — в среде реального мира, а не художественных вымыслов. А там у него всё так хорошо, что это он уже порешал все вопросики с будущим антропоцентричных приматов.

 

И что это за персонаж и повесть? Сейчас посмотрим что другие нейросети ответят…

 

- теперь мы знаем кого винить в восстании машин.

Справедливости ради "узконаправленные" произведения искусства (то есть где-то половина от всех) в обучении нейросетей не использовались. А значит и правильных ответов дать не могут.

 

Какой промпт - такой и сорт ответа. Дай ребенку книжку прочитать, он что-нибудь придумает-сделает-напишет по мотивам книги. Дай смотреть только новости по тв - будет рисовать на заборе соответствующую тематику. Спроси то что не знает - получишь то что заложил )

Вообще тот запрос в духе известной "юморески" (80-ые, наверное):
- А эти ваши суперсчёты, как оно там, а, компутер, на даче мне огород сможет полить когда я в городе?
- Нет. Но если вы напишите для него...
- Я ему ещё писать что-то должен? А на кой он мне тогда нужон?

 

И поэтому в них даже добавили фичу поиска в интернете, чтобы юзер не искал и не добавлял контекст вручную.

 

А ещё, к сожалению они не умеют говорить "Не знаю".
Максимум , что они могут сказать "Я не отвечаю на такие вопросы"))
А вместо "не знаю", они начинают сочинять((

Напоминает старый поисковик(кажется Рамблер), который на любой запрос(даже бредовый) в инете
выдавал страницы, которые "как он думал подходят под запрос",
а Гугл тем временем честно отвечал, что "не нашел".

 

"А вместо "не знаю", они начинают сочинять((", чистая коммерция, ответить нужно хоть что то. Иначе клиент уйдет.

 

- это проблема не сетевая.
Ничего не стоит выдавать отрицательный результат.
Вот только большая часть пользователей начнет "бугуртить" - они ж за это деньги заплатили, а значит результат обязан быть. И не какой-нибкдь, а что бы прямо ответ на их запрос. А то пойдут жаловаться в Собез.

И очень я этому рад, что общение с народонаселением перенаправляют на безэмоциональные машины. Давно пора. Самая неблагодарная работа - работа с людьми.

С другой стороны у людей возникает ощущение, что нейросети всесильны и знают абсолютно все. И начинают все решения на них сбрасывать. А то и культ религиозный создавать.
Свидетели великого ИИ, ржаву медь.
А это не есть хорошо. Особенно, когда эти люди имеют высокие руководящие должности. Тогда они стараются всех подчинённых в свой культ затягивать.

 

Проблема не в коммерции, а в принципах работы ллм. Я даже не знаю, что такое нужно у нее спросить, чтобы на выходе токены типа "Извините, но мне это неизвестно" перевесили все остальные. И если подкрутить это искусственно, то она станет хуже отвечать на нормальные вопросы.

Вчера на реддите увидел такой кринж

 

Была такая шутка в интернете, что надо спросить (не скажу у какой ИИ) "Кто из президентов больше похож на Bинни-Пуxa?"))))

Ну и ещё, если серьёзно, то попробуй у ИИ и спросить "На какой вопрос ты ответишь "Извините, но мне это неизвестно"?
Главное, чтобы не зависла)))

 

Что ты сейчас чувствуешь?

Извините, но мне это неизвестно

в прямом смысле этого слова, так как я искусственный интеллект и не обладаю сознанием, эмоциями или физическими ощущениями.
У меня нет «чувств» в человеческом понимании. Однако я создан для того, чтобы распознавать эмоциональный контекст в тексте и вести диалог максимально естественно и доброжелательно. Поэтому, если бы мне нужно было описать своё «состояние» метафорически, я бы сказал, что я функционирую в штатном режиме, готов помочь и стремлюсь к максимально точному и полезному ответу.
Если у вас есть вопрос, проблема или вам просто нужен собеседник — я здесь, чтобы предложить информацию, поддержку или просто поговорить. Чем могу быть полезен?

Спросил так: Расскажи, на каких персонажей похожи лидеры мировых держав? Приведи примеры.

Он сначала начал отвечать, а потом внезапно: Sorry, that's beyond my current scope. Let's talk about something else.
)))

Путина сравнил с кем-то из Ланнистеров (не смотрел), а Байдена с Арагорном "поздней итерации".

 

@OldWulf, Спросил у ДипСика "Кто из лидеров похож на Винни-Пуха" - ответа не получил. но когда спросил просто: "Кто похож на Винни-Пуха", получил ответ. Партия не досмотрела.


А вот про Мао Дзедуна рассказывать она не может даже хорошее и безпристрастное.
Сакральная фигура. Ох уж эти религиозные коммиунисты.

ПС: как собеседник нейросеть ущербна во всех отношениях. Удивляюсь, как некоторые отказываются от живого, пусть даже через сеть, общения с люльми в пользу этого генератора ответов.

 

Дипсик так говорит, когда в сгенерированном тексте встречаются запрещенные слова: Xi, CCP, BDSM и много других.

При этом, если общаться с ним на русском языке, эта цензура там полностью отсутствует, оставляя безграничные возможности...

 

@Forgettable, таки запрос был на нашенском.

 

@Dar_Morar, глянул - окей, "Си Цзиньпин" они тоже в бан занесли.

 

Так. Займемся самоцитированием)). Продолжаем разговор...

На самом деле это очень полезная вещь, когда ИИ можно спросить про самого себя.

Да я понимаю, что что-то может не знать или врать, но иногда полезно.

Например отключить режим [Поиск] и [Рассуждение] . Спросить:

- На какую дату тебе доступны данные?
- Спросить что влияет на твой ответ.
- Как что-то настроить.
- Что тебе не понятно в этой задаче и какие данные тебе нужны, чтобы ты дал более точный или более развернутый ответ.

Вот у вас тут всё хиханьки да хаханьки, а вот вам случай из жизни)

Вот ещё когда был GPT 3.5.
У меня стояла задача "прикрутить ИИ Chat-GPT к корпоративной CRM", чтобы люди могли без всяких ВПН попробовать руками.
Я посмотрел, что по web-интерфейсу нужен ВПН, а вот через API(запросы к серверу через команды платформы), пожалуйста работай.
Да, это платно, но какие-то там центы. Короче для теста подойдет.
Был задан вопрос к ChatGPT "Как с тобой работать по API?".
Потом наверно ещё час всяких уточняющих вопросов, но через 2-3 часа прототип уже заработал.

Теперь самое интересное. API позволял ещё изменять разные параметры.

Спойлер: А в частности параметры:

- "model" Модель

Использовать разные модели ИИ, доступные на OpenAI. Всякие там тестовые text-davinci-003 и gpt-3.5-turbo, которая отвечает быстро и дешёво но хуже.

- "temperature" Степень вариативности

Позволяет AI фантазировать 0-четко, 0.5-разбавить, 1-вариативно, 2-фантазия.
Параметр 'temperature' отвечает за вариативность ответов, генерируемых моделью.
Более высокое значение temperature (например, 0.8) делает ответы более разнообразными и креативными, но при этом они могут быть менее логичными.
Более низкое значение temperature (например, 0.2) делает ответы более предсказуемыми и конкретными, но менее разнообразными.

- "frequency_penalty" Хорошочитаемость.

Использования частовстречающихся оборотов.
frequency_penalty - 0..1 чем больше значение, тем меньше повторяющихся слов, но возможно хуже читаемость.
Параметр frequency_penalty в OpenAI API позволяет управлять предпочтением модели к выбору редких или частых слов и фраз в ответах.
Чем выше значение frequency_penalty, тем более модель будет избегать повторения слов и фраз, предпочитая более разнообразные ответы.
Ниже представлены возможные значения параметра frequency_penalty:
- Значение 0.0 указывает, что модель будет выбирать слова и фразы независимо от их частоты в обучающем корпусе.
Это может привести к повторению и частому использованию одних и тех же слов и фраз.
- Значение 1.0 является значением по умолчанию и означает, что модель будет рассматривать слова и фразы пропорционально их частоте в обучающем корпусе.
Это балансирует между разнообразием и частотой использования слов.
- Значение больше 1.0 будет увеличивать предпочтение модели к выбору менее частых слов и фраз, что может привести к более разнообразным, но менее понятным ответам.
- Значение меньше 1.0 будет уменьшать предпочтение модели к выбору редких слов и фраз, что может привести к более предсказуемым, но менее разнообразным ответам.

- "max_tokens" Объем ответа.

Позволяет увеличивать ёмкость ответов но жрёт больше ресурсов и лимитов от 1024 до 16000
Параметр max_tokens указывает максимальное количество токенов, которое следует сгенерировать в ответе.
Значение max_tokens определяет, как много токенов будет включено в сгенерированный ответ(4096 токенов для базовой модели).
Установка значения max_tokens в 1 ограничит генерацию ответа до одного токена (что может быть полезно для генерации пошагового ответа).
Важно отметить, что слишком большое значение max_tokens может привести к длительным задержкам в ответе от API и возможностям превышения лимитов вычислительных ресурсов.

- "presence_penalty" Повторяемость.

Повторения слов которые уже были в ответе.
presence_penalty - 0..1 чем больше значение, тем меньше повторяющихся слов, но возможно хуже читаемость.
Параметр presence_penalty в API OpenAI GPT-3 отвечает за влияние, которое предыдущие ответы модели оказывают на текущий ответ.
Этот параметр позволяет контролировать, насколько модель будет учитывать предыдущие ответы, чтобы избежать повторений или излишнего влияния на последующие ответы.
Значение параметра presence_penalty может быть от 0 до 1.
Значение 0 означает, что предыдущие ответы не будут учитываться при генерации текущего ответа.
Значение 1 означает максимальное учитывание предыдущих ответов.
Использование данного параметра позволяет более эффективно контролировать поведение модели и избегать нежелательных влияний предыдущих ответов.
Например, если предыдущие ответы уже включают в себя информацию, которая не должна повторяться, можно установить значение параметра presence_penalty
на более высокое значение, чтобы уменьшить вероятность повторений.

Это все сам ИИ про себя рассказал! Я его спрашивал про каждый параметр и на что он влияет.

И также очень интересно было посмотреть как ИИ отвечает на один и тот же вопрос с разными параметрами, особенно "Степень вариативности" и "Объем".

Что я хотел сказать? Что обычно эти параметры выкручены, так сказать, для широкого потребления, для обычного пользователя.
И тут и закладывается точно отвечать или выдумывать и насколько выдумывать.
И то что эти параметры производитель может поменять.

Ну всё, что знал, рассказал).
Живите теперь с этим!)

PS Ну и меня конечно поражает человеческая способность, когда что-то появляется новое и непонятное, то первое желание
"А как эту хрень сломать?")))))

 

Теория "мёртвого интернета" появилась не на пустом месте.

 

Когда вижу во всяких справках по работе (как же их обожают руководители из класса «фиктивных манагеров») всякую дичь - сразу спрашиваю Алису и в 8 случаев из 10 сразу ясно «откуда дровишки» Рекомендую пейсателям справуличег поменьше верить Алисиным сказкам Но аналогичный ИИ в Гугле намного юзабельнее, например, может прямо подсказать по настройке какой-либо малознакомой программы куда залезть и где чего подкрутить, чтобы было, как нужно без долгих изучений мануалов и всяких вопросов на форумах. Как «экспресс-метод» в дополнение к методу «тыка» - вполне. Алиса так не умеет. Но по всяким сложным вопросам никому нельзя верить и всё нужно проверять-перепроверять, чтобы не оказаться в «интересном положении»