Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.
Довольно многои темы сваливаются в применение ИИ в тех или иных областях. Предлагаю со всеми этими в...
Довольно многои темы сваливаются в применение ИИ в тех или иных областях. Предлагаю со всеми этими в...
Не знающие базы о том, что компьютер может только складывать нолики и единички, будут и далее писать тупую чушь про языки программирования.
Компьютеры не знают ваших языков программирования.
Языки программирования создавались для удобства работы с конкретными задачами.
Пролог был создан задолго до возникновения глупостей про ум у полупроводников.
Какие нафиг языки программирования? Компьютер не знает, что такое буквы и знаки препинания 😁
Процессоры с ИИ. К глупым транзистором подсадили чуть-чуть умных транзисторов.
И ведь верят дремучие неучи 🤣
alaev
:
Не знающие базы о том, что компьютер может только складывать нолики и единички, будут и далее писать тупую чушь про языки программирования.
Ты бы уже придумал бы какую нибудь новую песенку, эта уже наскучила. Знания именно ноликов и ежиничек достаточно, чтобы компьютер сегодня мог сделать сайт быстрее и лучше чем ты. Тебе простительно с твоим образованием не знать, что нейросети оперируют как раз логическими единицами и они в основе и ЯП и нейросетей. Это только арбнет и ты ищете разум в транзисторах и говорите про осмысленный текст. А Любая нейросеть все данные преобразует в токены, вектора и работает с ними. А Никакого волшебства, как ты думаешь, там нет
Тыжпрограммист открыл для себя элементор и фигму с чатом жопити, генеренный контент и думает, что он теперь всезнайка 😁
А ещё есть seo-плагины, так , да, сайты в топы залетают сами, а конверт рвет продажи, пустеют склады .
alaev
:
Процессоры с ИИ. К глупым транзистором подсадили чуть-чуть умных транзисторов.
И ведь верят дремучие неучи 🤣
Сила не в транзисторах, а в их количестве в процессоре ..
+ оперативная память ..
+ ПО ..
+ доступный картофель жопити ..
alaev
:
Пролог был создан задолго до возникновения глупостей про ум у полупроводников.
Конечно! Мы изучали его в 90-м году. А про ум у транзисторов я слыхал только от тебя здесь. Никому больше в голову такая глупость не приходит.
alaev
:
Какие нафиг языки программирования? Компьютер не знает, что такое буквы и знаки препинания
Ты путаешь свои знания с компьютером.
Наконец-то оно случилось. На днях первый раз в ответе ЖПТ я нашел предложения, решающие мою проблему. В то время как через поиск проблему решить не мог.
Но это скорее случайность.
1
Гугл прислал анонс - представлены модели
Gemma 3 QAT, DolphinGemma 🐬, and TxGemma
Главаная фишка, что теперь квантование применяется на этапе обучения, соответственно при работе будет гораздо меньшая потеря точности ответов. При этом Происходит резкое снижение необходимого размера видеопамяти в GPU, INT8 квантование уже позволяет запускать локально на компах с VRAM до 3Мб. как пишут в гугле - теперь даже тостер сможет поддерживать ЛЛМ(если он хороши)
Так что теперь не просто умные транзисторы - приходят и умные тостеры)
Совершенно нет времени, но если кто уже попробовал - расскажите, насколько это правда. На данный момент Мистраль, запущенная локально у меня на Маке с РАМ 32 и интел Ирис 1536 MB, который вообще не воспринимается как ВРАМ для модели, 10-секундное голосовое сообщение распознает примерно минуту, ответ занимает еще минуты 2. Долго.
Sly32
:
Совершенно нет времени, но если кто уже попробовал - расскажите, насколько это правда. На данный момент Мистраль, запущенная локально у меня на Маке с РАМ 32 и интел Ирис 1536 MB, который вообще не воспринимается как ВРАМ для модели, 10-секундное голосовое сообщение распознает примерно минуту, ответ занимает еще минуты 2. Долго.
конечно правда)
так а в чем вопрос, надо брать и тестировать,
только на устройствах попрактичнее, например на малине с 8гб за $50-100
голос распознается в стриме на лету, задержки минимальные, на том же picovoice
можно еще мобильные девайсы задействовать, говорят они тоже локальные модели 3б нормально тянут, но у меня нет опыта
с обработкой текста на слабых устройствах пока все сложно, много глюков, но есть куда стремиться)
master32
:
голос распознается в стриме на лету, задержки минимальные, на том же picovoice
Расскажи поподробнее. Я исключительно на своем маке все запускаю, с игрушками типа распберри дел не имел.
Sly32
:
Расскажи поподробнее. Я исключительно на своем маке все запускаю, с игрушками типа распберри дел не имел.
а что рассказывать подробнее, поставь на маке и покрути, сам все увидишь, пока сам не пощупаешь не поймешь)
https://github.com/Picovoice/cheetah
единственный минус, что языков мало, русского нет, нативный английский
но это самая эффективная и легкая модель, которая работает, речь же про слабые устройства шла изначально
master32
:
единственный минус, что языков мало, русского нет, нативный английский
но это самая эффективная и легкая модель, которая работает, речь же про слабые устройства шла изначально
Легкая, потому что ничего не умеет. Я использую whisper, medium модель русский распознает очень хорошо.
Sly32
:
whisper
его запустишь на простых устройствах, нужен полноценный GPU)
vosk можно затестить, тоже легкий
master32
:
его запустишь на простых устройствах, нужен полноценный GPU)
Он работает без, GPU, сразу предупреждает об этом, там даже в настройках есть:
self.model = whisper.load_model(
"medium"
, device=
"cpu"
)
Просто медленнее, как говорил, но зато качественно распознает
Про vosk слышал, но не пользовал
Sly32
:
Он работает без, GPU, сразу предупреждает об этом, там даже в настройках есть
ну скорость тоже важна, если это не задачи уровня бекграунда)
https://www.1qubit.de/en/ai/openai-whisper-performance-benchmarks
Sly32
:
Просто медленнее, как говорил, но зато качественно распознает
ну да, там еще можно свою модель обучить на своем голосе, тогда уровень распознавания еще выше становится
master32
:
ну да, там еще можно свою модель обучить на своем голосе, тогда уровень распознавания еще выше становится
я рисовал открытую аппликуху, для использования не только мной. Можно, но это уже нужно заморочиться немного
У мозга есть абстрактное мышление и интуиция, ИИ нужны четкие входные входные данные для генерации результатов.
Ramzes_13
:
Достойный профессионал медик скорее скажет - либо делай грубо говоря операцию, либо больше не приходи. В других специальностях думаю будет близко к этому.
ну и будет этот достойный в поликлинике сидеть за копейки. Сейчас ценится сервис , найти подход к клиенту, продажи, даже в медицине.
Да, человеческий фактор. Явно бездарные и равнодушные врачи.