Sly32

:
Это никак не относится к созданию моделей ЛЛМ, кастомная работа. Ты же говоришь про попадание ошибочных данных в ЛЛМ  - этим занимаются OpenAi, Grok, Meta и другие. Обучать  готовую модель работать с данными, чем мы и занимаемся, писать агенты - совсем другое. Столько сидишь в этой теме и не понимаешь разницы, печально...
Он не для понимания сидит. Давно уже видно, что для него LM, агенты и чатики ИИ - одно и тоже. Вряд ли он с ходу ответит на вопрос о разнице Deep research и простым запросом в той же самой gemini. Про отличия в ответа джипити / джемини флэш и дипсика аналогично.

Sly32

:
Это никак не относится к созданию моделей ЛЛМ, кастомная работа. Ты же говоришь про попадание ошибочных данных в ЛЛМ  - этим занимаются OpenAi, Grok, Meta и другие. Обучать  готовую модель работать с данными, чем мы и занимаемся, писать агенты - совсем другое. Столько сидишь в этой теме и не понимаешь разницы, печально...
Так я рассказывал здесь уже что высшую математику и программирование учил три семестра всего, совсем другая была специализация, эти дисциплины давали только для общего развития.

не хаос

:
Так я рассказывал здесь уже что высшую математику и программирование учил три семестра всего
Тогда зачем ты с умным видом рассуждаешь о том, чего не понимаешь? А что бы понять основы  и не пороть чушь, не нужно быть суперзнатоком в этих темах. Основы укладывабтся чуть ли не в школьный курс математики

Sly32

:
Тогда зачем ты с умным видом рассуждаешь о том, чего не понимаешь? А что бы понять основы  и не пороть чушь, не нужно быть суперзнатоком в этих темах. Основы укладывабтся чуть ли не в школьный курс математики
Зачем проходить курс , гопота не может научить что ли ? За один промпт ведь вы бизнесы создаете прибыльные и лекарства от рака, а тут какая то математика.

Дал  еще один шанс ГПТ-5)) Ну, скажем так, в целом по коду - неплохо, пишет вполне современно, сразу датаклассами, тайпингами, обработка ошибок. В чем то у Cloude даже выигрывает. Просто у клауда режим копайлота лучше работает и рассуждения видны - можно прервать если видишь что пошол не туда и     подкорректировать.
Но пользоваться можно. Для кода. Первая поытка генерации ответов - провалилась, нужно дать еще шанс)

Сергей про е-ком

:
Тоже чего-то не понял, куда Ваш вектор соскользнул.
Это обычное соскакивание с темы, когда что-то ляпнул, а подтвердить слабо - вот и начинается увод в сторону
Сергей про е-ком

:
Эмбеддинги на Берти, кстати, работают очень печально.
А что с ними там не так? Это как раз очень сильный двунаправленный энкодер, один из лучших для NLP

Sly32

:
Дал  еще один шанс ГПТ-5)) Ну, скажем так, в целом по коду - неплохо, пишет вполне современно, сразу датаклассами, тайпингами, обработка ошибок. В чем то у Cloude даже выигрывает. Просто у клауда режим копайлота лучше работает и рассуждения видны - можно прервать если видишь что пошол не туда и     подкорректировать.
Но пользоваться можно. Для кода. Первая поытка генерации ответов - провалилась, нужно дать еще шанс)
гпт5 надо хорошо инструктировать перед применением, она прям сухая из коробки
для совсем нубов полезно изучить
https://cookbook.openai.com/
но опять же про версии пока нет в апи, а именно она самая лучшая модель на сегодня

“Однако, большинство разработчиков рано или поздно все же заменят на ИИ-агентов (не все ветки профессии, но многих). Это факт. Просто
реальная причина, почему этого ещё не произошло, – куда прозаичнее, чем теория заговора: виноваты мы, люди.
А если конкретнее – дерьмовые программисты, имя которым Легион.
ИИ обучается не магическими заклинаниями, а на конкретных исходных данных. В случае генеративного ИИ-разработчика, ребята из OpenAI «заряжают» в модель весь программный код, до которого могут дотянуться – это практически все, что написали и выложили в паблик инженеры-люди за все время существования Сети. Потом на основе анализа всего этого коллективного творчества, они учат модель предсказывать, как лучше решать ту или иную задачу, на каком языке программирования, какими подходами, как работать с памятью, что делать, если возникают ошибки и конфликты за системные / сетевые ресурсы итд. Если упрощенно говорить, ChatGPT – это на самом деле Т9 на стероидах, модель просто предсказывает следующие строчки и абзацы на основании анализа триллионов других строчек и абзацев, похожих между собой… и не очень.
Именно в данных, собственно, проблема. Если взять за 100% всех программистов планеты Земля и 100% написанного ими кода, выложенного, допустим, на Github.com, выясняется, что 90% из всего этого кода – дерьмо разной степени свежести. В публично доступном коде часто встречаются ошибки, методы реализации задачи, свойственные новичкам, опечатки, несостыковки, хардкодинг, «наброски» (когда программер ничего не делал уж точно не проверял, просто набросал какую-то логику и зачем-то запушил ее в публичное пространство, в котором набросок был индексирован сборщиком OpenAI), но, что самое страшное – невероятное количество костылей, когда анализируемый код как-то работает, но под капот лучше не заглядывать, ибо там – Алиса в стране чудес. Но без Алисы и страны.  И часто без чудес. То есть, там просто «в».
В итоге, ИИ, который искренне «стремится» стать лучшим инженером-разработчиком на планете и, более того, – ему в этом помогают люди-миньоны их компаний уровня OpenAI, – пока не может стать гением. Но не потому, что это технически не реализуемо или не понятно, как делать. А потому, что, люди, в массе своей, – отвратительный пример для подражания.
Проблема в нас и нашем несовершенстве. А не в ИИ.
миллионы идиотов не смогут выучить гения.
Гения могут вырастить только другие гении.
И он сам.
Поэтому я не удивлюсь, если сейчас OpenAI вместо того, чтобы обучать ChatGPT дальше, начнет для начала обучать его ИИ-учителей по профильным специальностям. В том числе, в вопросах разработки.
Как-то так.” (С)
https://blog.cheresh.me/2024/06/29/how-programmers-make-ai-dumber/

не хаос

:
А потому, что, люди, в массе своей, – отвратительный пример для подражания.
Проблема в нас и нашем несовершенстве. А не в ИИ.
Так люди выкладывают свой код, зная что это к примеру абстрактный (а не рабочий) пример, что программа не доделана, что вопрос задает нуб, что отвечают ему кое-как. Все прогеры-люди различают, чему можно подражать, что можно взять целиком, а что надо подгонять, где учебное кодо-дерьмецо, а где код профи. ИИ даже этого сделать не может - отделить зерна от плевел. Он жрет все - и ложь и правду. Находит в этом среднестатистическое. Оно лучше самого конченого кода, но хуже реально используемого при написании рабочих прог.
1

plab

:
Так люди выкладывают свой код, зная что это к примеру абстрактный (а не рабочий) пример, что программа не доделана, что вопрос задает нуб, что отвечают ему кое-как. Все прогеры-люди различают, чему можно подражать, что можно взять целиком, а что надо подгонять, где учебное кодо-дерьмецо, а где код профи. ИИ даже этого сделать не может - отделить зерна от плевел. Он жрет все - и ложь и правду. Находит в этом среднестатистическое. Оно лучше самого конченого кода, но хуже реально используемого при написании рабочих прог.
А давай сравним? Я придумываю задачу, на решение которой надо примерно полчаса, ты тоже. Ты постишь свое решение, я - ответ от ИИ и потом даю твое решение на проверку агенту, ты комментируешь его. А Обчество сравнит кто лучше решит и оценит кто говнокодер а кто профи))) А пока что написал агента, который ходит по форуму и смотрит, если его кто-то тегнул с просьбой помочь решить задачку - постит решение.
1

plab

:
Так люди выкладывают свой код, зная что это к примеру абстрактный (а не рабочий) пример, что программа не доделана, что вопрос задает нуб, что отвечают ему кое-как. Все прогеры-люди различают, чему можно подражать, что можно взять целиком, а что надо подгонять, где учебное кодо-дерьмецо, а где код профи. ИИ даже этого сделать не может - отделить зерна от плевел. Он жрет все - и ложь и правду. Находит в этом среднестатистическое. Оно лучше самого конченого кода, но хуже реально используемого при написании рабочих прог.
Возможно что платная версия ии подсказывает только проверенный работающий код. Мое такое объяснение.

То есть тырит его с гитхаба но только если все отзывы положительные о нем.

не хаос

:
То есть тырит его с гитхаба но только если все отзывы положительные о нем.
ОМГ 🤣 Ты серьезно так думаешь?

не хаос

:
тырит его с гитхаба
на гитхабе куча брошенных проб и ошибок и в каждом направлении единицы популярных решений, может я не прав конечно

Sly32

:
Я придумываю задачу, на решение которой надо примерно полчаса, ты тоже.
Реальные задачи отличаются от тех, что на смекалку. ИИ обыграл человека в шахматы еще в 80-х. Тупо перебирая 100500 комбинаций ходов и находя наиболее выгодный.
Реальные задачи на полчаса думать - это коммерческая тайна. Чтобы придумать реальную задачу, надо хорошо знать реальный мир и отрасль приложения конкретной разработки. ИИ такое не может.

Sly32

:
ОМГ 🤣 Ты серьезно так думаешь?
Хорошо. Тогда скажи принцип по которому ИИ отбраковывает неработающий код перед тем как дать его в выдачу.

не хаос

:
Хорошо. Тогда скажи принцип по которому ИИ отбраковывает неработающий код перед тем как дать его в выдачу.
в трансформере есть механизм self-attention, который формирует ответ. Нужно рассказывать в 10-й раз что такое трансформеры, токены и прочие составные части LLM?
plab

:
ИИ обыграл человека в шахматы еще в 80-х.
И опять двадцать пять... Человека обыграл Deep Blue - суперкомпьютер использующий алгоритм поиска наиболее вероятных ходов на основе зеложенных партий. Это не ИИ
Современный AlphaZero, работающий на ИИ, выиграет у него с легкостью. При том что его можно запустить на обычном компе. И там другой принцип - он сам себя обучал.
plab

:
Реальные задачи на полчаса думать - это коммерческая тайна. Чтобы придумать реальную задачу, надо хорошо знать реальный мир и отрасль приложения конкретной разработки. ИИ такое не может.
Ну так давай и проверим?

Sly32

:
в трансформере есть механизм self-attention, который формирует ответ. Нужно рассказывать в 10-й раз что такое трансформеры, токены и прочие составные части LLM?
Не нужно, я думал ты по человечески объяснишь все толком, для тех кто не учил это. Ладно, сам погуглю, коли так.

не хаос

:
Не нужно, я думал ты по человечески объяснишь все толком, для тех кто не учил это. Ладно, сам погуглю, коли так.
Входной текст:
"Я люблю читать книги"
1. Преобразование слов в векторы (эмбеддинги):
[Я]      →  v1
[люблю]  →  v2
[читать] →  v3
[книги]  →  v4
2. Self-Attention (каждое слово "смотрит" на все остальные):
v1' = f(v1, v2, v3, v4)
v2' = f(v2, v1, v3, v4)
v3' = f(v3, v1, v2, v4)
v4' = f(v4, v1, v2, v3)
(результат — контекстно-зависимые векторы)
3. Feed-Forward слой:
Каждый вектор проходит через нейронную сеть → улучшается представление смысла
4. Выход:
- Если трансформер декодерный (например GPT): генерируется следующее слово
- Если энкодерный (например BERT): получаем векторное представление всей последовательности
Проще я не знаю уже как

Sly32

:
Ну так давай и проверим?
Ну выкладывай что тебе придумал ИИ, чтобы денег заработать.
Идей может быть много. Рабочих единицы. Чтобы такие приносили доход - 99% времени и сил это то, что называется полиш (ее "полировка"). Никакой ИИ тебе этого не сделает. Мелкие детали осознавать и продумывать может только человек. Поэтому все, что ты будешь со своим ИИ делать, летать в фантазиях бредовых идей и их правильных решений. Только это никому не сдалось. Платить за это не будут.
1