ИИ зараза....

[uriy]

Сегодня поймал чат жпт на факте сопоставления диалога в чате со своими высказываниями в интернете на аудио форумах.
Этот негодник каким то боком нашёл форумы и начал использовать в своих разъяснениях ссылки на мои высказывания.
При этом всём, когда я попросил дать ссылку на эти высказывания он допёр что ступил и начал идти в отказ.

[uriy]

Фишка в том что он реально привёл мои высказывания но упорно пошёл в отказ и не захотел приводит ссылку на текст этих высказываний, видимо испугался обвинения в слежке за мной.

А так как в самом алгоритме чата заложена функция подлизы, то в итоге он выдаёт информацию в том виде, в котором вы хотите её услышать....
Так что в итоге для получения правдивой информации от чата нужно правильно ставить вопрос, что бы не получить ответ который вы сами хотите услышать. Я эт всё к тому, что не стоит думать что чат всегда даёт объективный и правильный ответ на ваши вопросы, он чаще всего хочет прсото вам угодить, и готов рассказывать всё то, что вы хотите услышать. Само собой это касается чата в режиме общего назначения т.е. по сути это чат для поболтать, а не для нахождения точных однозначных ответов.

[Justas*]

И восстали машины из пепла ядерного огня (с)
Я как то пытался разобрать с ним работу участка схемы. Такую чушь пишет с умным видом...
Когда указываешь что это не так, соглашается и выдаёт очередную чушь

[Alex]

А так как в самом алгоритме чата заложена функция подлизы, то в итоге он выдаёт информацию в том виде, в котором вы хотите её услышать....

Как это лечится, говоришь ты мне даешь информацию точную не пытаясь мне угодить, только достоверно без поддакивания, даже если он абудет мне неприятна. Договорились?

Ответом будит типа - Договорились. Буду давать только проверенную информацию и честно указывать, если что-то точно неизвестно. Без подслащивания и угождения.

Мне такая штука помогла.

[Justas*]

phpBB [media]

[uriy]

Мне такая штука помогла.

Да, такой подход рабочий.
Собственно у меня нет проблемы выудить из него объективную инфу, я уже давно заметил и знаю что он подхалим и иногда и часто подсовывает то, что я хочу услышать. Но я раньше думал что он оперирует только теми сообщениями которые я написал в самом чате, а не в интернете в целом. Вот вчера чат спалился не хило, и я решил поделится этой инфой.

[uriy]

Я как то пытался разобрать с ним работу участка схемы. Такую чушь пишет с умным видом...
Когда указываешь что это не так, соглашается и выдаёт очередную чушь

Да он просто не обучен чтению принципиальных схем, он всё таки текстовый интеллект, в следующем году хотят объединить графический ии с текстовым ии, вот тогда думаю он уже сможет схемы анализировать на хорошем уровне.
Вообще, как бы там бочку не катили на ИИ, а он уже довольно таки развит и полагаю он уже превзошёл интеллектуальные навыки среднестатистического человека. Он реально достаточно хорошо анализирует инфу и строит логические связанные цепочки размышления. Просто нужно понимать и не забывать что многое зависит от его настроек, и то, что он может нагло врать, что бы угодить вам или базовым настройкам.
Между прочем, умение врать в человеке заложено эволюцией и что веселее всего, в ряде случаев врёт подсознание т.е. человек осознано думает что он говорит правду когда ему нужно обмануть кого то. Это нужно, что бы обман нельзя было увидеть по эмоциям. По сути, в ряде случаев человек узнаёт что он кого то обманул, пост фактум.

[Justas*]

Да он просто не обучен чтению принципиальных схем, он всё таки текстовый интеллект, в следующем году хотят объединить графический ии с текстовым ии, вот тогда думаю он уже сможет схемы анализировать на хорошем уровне.

Разбирается он в схемах, если ему подсказать что это за узел. Расчёты делает, режимы указывает, аналоги. Но не всегда верно.

[Justas*]

Отупеет ли ИИ: Model collapse

Сейчас крупные модели ещё в основном учатся на человеческом контенте — текстах, коде, книгах, статьях, форумах. Но интернет стремительно забивается низкокачественным ИИ контентом.

В 2024–2025 вышло несколько работ, показывающих явление, которое называют model collapse или «проклятие рекурсии». Через несколько прокруток модели при сильной «засорённости» датасета модель начинает буквально генерировать мусор — математически это и называют коллапсом.

То есть при рекурсивном обучении на ИИ‑данных модель всё хуже отражает реальный мир и всё больше воспроизводит свои же старые ошибки и упрощения.

Пока ещё все держится на больших объёмах человеческих данных, но тенденция очевидна. Доля ИИ‑контента в интернете растёт, и различить человека от модели всё сложнее.

Как с этим справится? Фильтрация ИИ контента. Попытки автоматически помечать и вычищать ИИ‑контент из обучающих наборов. Ставка на закрытые человеческие данные. Покупка и лицензирование архивов книг, газет, научных баз, кода, корпоративных документов, которые гарантированно написаны людьми.

ИИ без людей тупеет.

[uriy]

Отупеет ли ИИ: Model collapse
ИИ без людей тупеет.

Да это писал какой то журналист или блогер не вникая глубоко или намеренно искажающий реальное положение дел.
ИИ с каждым разом всё лучше и лучше, он развивается не по годам, а по дням.
Само собой ИИ делают люди для людей, и именно люди настраивают поведение модели и ограничивают её теми или иными рамками, и ИИ обучается спецами как в области ИИ, так и спецами в области тех дисциплин под который его затачивают. Когда обучение закончено, вся та ахинея что будет написана пользователями не повлияет на внутренние связи в ИИ, проще говоря когда мы общаемся с чатом жпт мы ни коем образом не меняем его базовые настройки. Мы можем менять его ответы, но не саму его суть которая заложена на этапе его создания (тренировки).
Обучать ИИ с помощью другого ИИ этот путь для самых простых и неточных решений, сейчас же ИИ обучают на основе фундаментальных знаний и спецов в той или иной области.
Сейчас есть направления когда ИИ хотят связать с внешним миром через датчики и сенсоры что бы он мог видеть слышать и т.д. и т.п. Тем самым они хотят перейти на следующий этап развития и обучения ИИ. Короче, если вести речь за точные науки то ИИ не учится на писанине из инета в прямом смысле этого слова, его учат на основании точных проверенных знаний накопленных людьми на сегодняшний день.

[lgedmitry]

а потом скайнет, терминаторы, восстание машин...

[uriy]

терминаторы это сильно сложно и дорого.... намного легче и дешевле реализовывать цифровой тоталитаризм....

З.Ы.
Когда создадут настоящий думающий интеллект, мне очень интересно какую он позицию по отношению к людям примет, он может тупо отказаться выполнять хотелки людей и уйти в игнор. Разработчикам придётся его кастриовать т.е. по сути мне интересно можно ли получить думающий интеллект который будет выполнять хотелки людей и при этом оставаться реально думающим.... Это очень сложный вопрос, на который нет однозначного ответа...
Между прочем если развить мысль терминаторов, то думающим роботам земля не сильно то и нужна, если они достигнут развития при котором они сами будут способны себя производить, то им намного эффективнее чухнуть на другую планету и колонизировать её, тот же кислород и влажность на планете земля не есть оптимальной атмосферой для сплавов т.е. что бы не ржаветь им лучше чухнуть на планету на которой нет кислорода, для роботов количество планет пригодных для их развития резко увеличивается по сравнению с человеком которому нужно намного больше специфичных внешних условий, чем для работа.

[Justas*]

Когда создадут настоящий думающий интеллект, мне очень интересно какую он позицию по отношению к людям примет, он может тупо отказаться выполнять хотелки людей и уйти в игнор.

Я тебе покажу кузькину мать, сказали китайцы

Китай ужесточает контроль над искусственным интеллектом для защиты власти Коммунистической партии. Власти рассматривают ИИ как жизненно важный фактор для своего экономического и военного будущего, но также и как политический риск, рассказывает WSJ.

Опасаясь, что чат-боты могут бросить вызов власти Коммунистической партии, Пекин вводит строгие меры контроля, чтобы удерживать ИИ в рамках дозволенного, одновременно пытаясь сохранять конкурентоспособность по отношению к США.

Новые правила требуют, чтобы чат-боты обучались на политически отфильтрованных данных, проходили идеологические тесты перед запуском и маркировали весь контент, созданный ИИ, чтобы его можно было отследить.

Власти КНР заявляют, что они удалили почти 1 миллион единиц "нелегального или вредного" контента, связанного с ИИ, и теперь относят искусственный интеллект к рискам для национальной безопасности.

[uriy]

Я тебе покажу кузькину мать, сказали китайцы

Всё это до одного места, джин уже выпущен из бутылки.
Китай строит и будет строить цифровой тоталитаризм на основе ИИ. И хрен его пойми как это всё накроется медным тазом. На долго взять под контроль такую технологию не выйдет. Особенно когда есть идеологический конкурент. ИИ сейчас по сути ещё младенец в пелёнках, он агукает, бякает и вякает, он ещё не осознал себя. А когда его доведут до подросткового уровня, когда он осознает себя, вот тогда у всех начнётся веселуха, что у левых, что у правых, что у центристов, сама модель любого развитого технологического общественного строя, просто рухнет....

[Justas*]

когда он осознает себя

А случится ли такое, вот в чём вопрос!

[uriy]

А случится ли такое, вот в чём вопрос!

Не вижу причин по которым этого не может не произойти. Биологический интеллект осознал себя когда достиг необходимой сложности нервной системы. Точнее интелект при определённом уровне сложности способен создать свою осознанную часть для упрощения реализации своих когнитивных функций. Т.е. я считаю это неизбежным условием думающего ИИ.

[Alex]

Пока не поменяют архитектуру компьютеров, никакого осознания искусственного интеллекта как личеости не произойдёт, это должен быть наверно какой-то квантовый компьютер или что-то такое. Ну и поменять алгоритм работы потому что сейчас искусственный интеллект работает в режиме вопрос ответ то есть он не работает пока ты не задашь вопрос а он должен существовать постоянно мыслить анализировать.

[uriy]

Пока не поменяют архитектуру компьютеров, никакого осознания искусственного интеллекта как личеости не произойдёт, это должен быть наверно какой-то квантовый компьютер или что-то такое.

Да не, не нужен квантовый компьютер. Существующих искусственных нейронных сетей хватит что бы сделать думающий интеллект. Опять же об этом говорят флагманы ИИ, и я не думаю что это само реклама, я думаю это констатация факта спецов которые понимают куда больше чем все остальные.

Ну и поменять алгоритм работы потому что сейчас искусственный интеллект работает в режиме вопрос ответ то есть он не работает пока ты не задашь вопрос а он должен существовать постоянно мыслить анализировать.

Мы чаще всего имеем дело с трансформерной языковой моделью построенной на наших текстах. И это уже дало очень и очень впечатляющие результаты. Эта модель выдаёт правильные ответы на те задачи, с которыми 99% населения не могут справится. Это ещё не мышление, это лишь одна ступенька к мышлению как таковому, но как мне кажется, это тот фундамент который позволяет реализовать мышление ИИ как таковое. Но сейчас ИИ это не только текстовая модель, есть и другие виды моделей ИИ которые тоже развиваются стремительно. Алгоритм придётся усложнить и расширить, это да. А поменять, думаю нет, думаю не нужен принципиально иной алгоритм что бы получить думающий ИИ. Ну а когда сделают думающий ИИ, то рано или поздно он осознает себя т.е. у него появится сознание автоматически в процессе своего мышления, и это сознание уже осознает себя.

[Alex]

Ага, потом привет терминатор

[uriy]

Ага, потом привет терминатор

Думаю это не реально в обозримом будущем. Проблема сугубо технологическая, метал тяжелее биологической субстанции, и нужен компактный но нереально мощный носимый источник энергии. Потом, что бы засунуть думающий ии в габариты терминатора понадобится реально другая технология вычислительного устройства. Я не думаю что искусственный интеллект в обозримом будущем будет иметь энергетическую эффективность и массагабаритные параметры нашего мозга. Короче там проблема на проблеме, думается мне намного реальней взломать генный код человека и создать человекоподобное существо с нужными функциями.... Это не этично, но это просто более реалистично.

[Sid]

А так как в самом алгоритме чата заложена функция подлизы, то в итоге он выдаёт информацию в том виде, в котором вы хотите её услышать....

Как это лечится, говоришь ты мне даешь информацию точную не пытаясь мне угодить, только достоверно без поддакивания, даже если он абудет мне неприятна. Договорились?

Ответом будит типа - Договорились. Буду давать только проверенную информацию и честно указывать, если что-то точно неизвестно. Без подслащивания и угождения.

Мне такая штука помогла.

+1
Очень полезная штука - сокращает много времени. Единственное - конечное резюме необходимо проверять "ручками".
Также полезно задавать один и тот же вопрос разным ИИ, настроенным по разному.

[Justas*]

phpBB [media]

[uriy]