Изображения
Видео и 3D
Текст
Пропущено 1497 постов, 260 с картинками.
Тыкнуть наугад в каком-нибудь ггсейле? Или надежнее через сервисы посредники?
Тред для получения доступа в /nf
Пропущено 1497 постов, 1 с картинками.
Прошлый тред: >>1630018 (OP) https://arhivach.vc/thread/1376506/
Схожие тематические треды
• SD-тред (не аниме): >>1639130 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 478 постов, 182 с картинками.
С чего начать:
• Хочешь кодить с AI эффективно: Cursor или Claude Code
• Хочешь кодить в VS Code без привязки к конкретному провайдеру: Kilo Code, Cline или Roo Code + OpenRouter
• Хочешь кодить с AI локально: OpenCode, Qwen Code или Pi Coding Agent + из моделей аноны советуют Qwen3.6, подробности в llama-треде
• Хочешь приложение без кода: Lovable или bolt.new
• Хочешь автоматизировать рутину: n8n или Langflow
• Хочешь персонального ассистента: OpenClaw + API корпов или локальная модель на твоей пеке
FAQ и расширенная инфа:
https://rentry.org/2ch-agents-faq
IDE с AI:
• Cursor: https://cursor.com
• Windsurf: https://windsurf.com
• Antigravity: https://antigravity.google.com
• Zed: https://zed.dev
CLI-агенты:
• Claude Code: https://code.claude.com/docs
• Codex (OpenAI): https://github.com/openai/codex
• Pi: https://shittycodingagent.ai/
• OpenCode: https://github.com/anomalyco/opencode
• Qwen Code: https://github.com/QwenLM/qwen-code
• Gemini CLI: https://github.com/google-gemini/gemini-cli
• Kimi Code: https://www.kimi.com/code/en
• MiMo Code (Xiaomi): https://mimo.xiaomi.com/mimocode/start
Плагины для IDE:
• Kilo Code: https://kilo.ai
• Cline: https://github.com/cline/cline
• Roo Code: https://github.com/RooCodeInc/Roo-Code
• GitHub Copilot: https://github.com/features/copilot
• Continue: https://github.com/continuedev/continue
Вайб-кодинг без кода:
• Lovable: https://lovable.dev
• bolt.new: https://bolt.new
• v0: https://v0.dev
Персональные ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw
• NemoClaw: https://github.com/NVIDIA/NemoClaw
• Hermes Agent: https://github.com/nousresearch/hermes-agent
• nanobot: https://github.com/HKUDS/nanobot
• PicoClaw: https://github.com/sipeed/picoclaw
Автоматизация и фреймворки:
• n8n: https://github.com/n8n-io/n8n
• Langflow: https://github.com/langflow-ai/langflow
• LangChain/LangGraph: https://github.com/langchain-ai/langchain
• CrewAI: https://github.com/crewAIInc/crewAI
• AutoGen: https://github.com/microsoft/autogen
• Agno: https://docs.agno.com/
Полезные тулзы:
• RTK: https://github.com/rtk-ai/rtk - CLI-прокси, сжимает вывод консольных команд перед попаданием в контекст агента
• Caveman: https://github.com/juliusbrussee/caveman - скилл с набором слэш-комманд, заставляет агента отвечать кратко
• ast-grep: https://github.com/ast-grep/ast-grep - структурный поиск/замена по AST, экономит токены агента при рефакторинге
• Hindsight: https://github.com/vectorize-io/hindsight - долговременная память для агентов: копит факты и помнит когда что было
Локалки и прочее API:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, OAI-Like API, 100+ моделей включая DeepSeek/GLM/MiniMax
• OpenCode Zen: https://opencode.ai/zen - кодинг-модели, есть временно-бесплатные (DeepSeek V4 Flash, MiMo) + pay-as-you-go без наценки
• llama-тред: >>1645729 (OP)
Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1640515 (OP)
Пропущено 19 постов, 5 с картинками.
Я же говорю, впадлу мараться. Зачем? Очевидно проеб китаекала перед Американскими Моделями
Господи Благослови Америку!
А если дать задание божественной модели вести себя стереотипно по Китайски)
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1632174 (OP)
Активно репортите все нерелейтед посты кнопкой на сообщениях. Этот тред только про ИИ новости, не позволим троллям загаживать тред шитпостом и бесконечным словоблудием.
🚀 Последний обзор ИИ новостей:
📰 Главные новости ИИ
OpenAI выпускает модели GPT 5.6 Sol Ultra, Sol, GPT 5.6 Terra и GPT 5.6 Luna в ограниченный показ. Лучшая из моделей приближается к уровню Mythos по показателям. Публикация моделей для всех по обещаниям OpenAI в ближайшие недели.
🛠 Инструменты для разработчиков
- Google делает Interactions API интерфейсом по умолчанию для моделей и агентов Gemini
- Chrome DevTools позволяет ИИ-агентам анализировать состояние приложений. Теперь ваши приложения и фреймворки могут предоставлять ИИ-агентам прямой доступ к своему внутреннему состоянию.
- NVIDIA представила BioNeMo Agent Toolkit, который предоставляет ИИ-агентам вызываемые инструменты для наук о жизни.
📦 Продукты
- Gemini в Chrome теперь может видеть именно то, на что вы смотрите на экране
- Google тестирует голосовой ввод и Magic Pointer в настольной версии Gemini. Приложение Google Gemini тестирует общесистемный голосовой ввод, отслеживание курсора и возможное связывание устройств.
💻 Оборудование
- OpenAI и Broadcom представили чип для инференса, оптимизированный под большие языковые модели.
- IBM представила чипы с техпроцессом менее 1 нанометра, 0,7-нм узел "nanostack", вмещающий почти 100 миллиардов транзисторов на площади ногтевой пластины, обещая повышение эффективности до 70% в течение пяти лет.
- Память — это новая нефть, поскольку Micron стала королем маржи в технологическом секторе с рекордным показателем 84,9 процента, опубликовав рекордную выручку и рыночную капитализацию в триллион долларов на фоне 7-кратного роста объемов данных, и отметив, что человекоподобный робот вмещает в десять раз больше памяти, чем автомобиль.
- Инференс становится кастомным, поскольку Qualcomm купила Modular, чтобы бросить вызов CUDA, и представила свой процессор Dragonfly C1000, сделав Meta своим первым клиентом.
🔓 Открытый исходный код
- DeepReinforce выпускает Ornith-1.0: семейство моделей для написания кода с открытым исходным кодом, которое обучается собственным вспомогательным структурам обучения с подкреплением. По бенчам догнал и местами обогнал Opus 4.8.
- Linux Foundation и 20 технологических гигантов запускают Akrites для устранения уязвимостей в открытом исходном коде до того, как начнутся атаки с использованием ИИ
- Krea 2 открывает исходный код передовой модели преобразования текста в изображение.
🧪 Исследования
- Ученые впервые записали активность отдельных нейронов в мозге билингвов и обнаружили, что мозг не переводит слова, а вместо этого делает нечто очень похожее на изоморфизм векторного пространства в больших языковых моделях
- Исследования платформы для онлайн-монтажа видео Kapwing показали, что почти 60% видео в TikTok представляют собой ИИ-мусор, и то же самое справедливо для 21% видео на YouTube
- Новый бенчмарк показывает, насколько плохо ИИ справляется с реальным интеллектуальным трудом. Даже лучшая модель ИИ терпит неудачу в реалистичных задачах интеллектуального труда, полностью решая лишь 3 процента заданий.
- Un-0 от Unconventional AI генерирует изображения на смоделированной решетке связанных осцилляторов Курамото — физическом субстрате, стремящемся к 1000-кратному повышению энергоэффективности при сохранении качества, с которым были запущены ведущие генераторы изображений.
- Анализ 1604 вакансий в шести китайских лабораториях показал, что они по-прежнему полагаются на Nvidia, параллельно создавая отечественные чипы и центры обработки данных, нанимая инженеров с опытом работы в три раза меньшим, чем требуют американские лаборатории.
- Илон Маск говорит, что Neuralink может попытаться осуществить телепатию между мозгами через латентное пространство в этом году.
- Сэм Альтман выплачивал людям по 1000 долларов в месяц в течение 3 лет. Некоммерческая организация Альтмана OpenResearch провела крупнейшее на сегодняшний день в США исследование так называемого безусловного базового дохода.
- OpenAI опубликовала разбор практического примера, показывающий, как GPT-5 Pro помогает иммунологу Дери Унутмаз вернуться к разгадке трехлетней тайны, связанной с Т-клетками.
⚙ Инфраструктура
- Подавляющее большинство избирателей — как демократов, так и республиканцев — поддерживают мораторий на строительство центров обработки данных для ИИ
- Это часть третьей волны инфляции, расходящейся от центров обработки данных ИИ до счетов за электричество, и Тим Кук называет этот скачок непохожим ни на что за четыре десятилетия.
- Поддерживаемая NVIDIA компания Eco Wave Power планирует запитать центр обработки данных от океанских волн. Eco Wave Power, участник инициативы Sustainable Futures в рамках программы для стартапов NVIDIA Inception, разрабатывает технологию — работающую на базе ИИ-инфраструктуры и цифровых двойников NVIDIA — которая преобразует энергию океанских волн в чистую электроэнергию с использованием существующей морской инфраструктуры.
📱 Приложения
- Согласно документам, Meta планирует выпустить приложение для рынка прогнозов на базе ИИ.
🔎 Мнение и анализ
- Исследователи из Graphistry также предположили, что GLM-5.2 может быть «нелегальной дистилляцией как GPT-5.5, так и Opus 4.8» — заявление, которое, если оно соответствует действительности, может помочь объяснить, как китайские модели стремительно сокращают разрыв с американскими конкурентами.
- Я встретился с ведущими экспертами по ИИ в Китае. Они тоже в панике. Гонка вооружений ИИ между Китаем и США вызывает у исследователей с обеих сторон опасения по поводу «момента Чернобыля».
- Билл Гёрли из Benchmark Capital задается вопросом, почему общий искусственный интеллект может вылечить рак, но не может обнаружить дистилляцию модели в реальном времени
- Брайан Роэммел называет раны, нанесенные ИИ-индустрии и экономике США, самонанесенными, предсказывая, что веса моделей класса Mythos и OpenAI-6 станут бесплатными и открытыми через восемь месяцев.
- Бывший сотрудник OpenAI предупреждает об ИИ-апокалипсисе в 2027 году. Вскоре машины могут начать считать нас досадной помехой. Бывший сотрудник OpenAI Даниэль Кокотайло ожидает появления искусственного суперинтеллекта уже в следующем году.
⚠ Безопасность ИИ
- Новая модель с открытым исходным кодом из Китая усиливает угрозу ИИ-взлома. Два независимых исследования безопасности, проведенные Graphistry и Semgrep, показали, что GLM-5.2 демонстрирует результаты наравне с ведущими американскими моделями в бенчмарках по расследованию киберинцидентов и обнаружению уязвимостей.
- Хакеры уже обсуждают на русскоязычных форумах, насколько легко взломать GLM-5.2 для выполнения хакерских задач, сообщил Axios Джейсон Бейкер, управляющий консультант по безопасности в GuidePoint Security.
- Anthropic обвиняет Alibaba в кампании по «наглому» и «незаконному» извлечению возможностей ИИ. Anthropic заявляет, что Alibaba украла 29 миллионов диалогов с Claude
- Исследователи в области безопасности выявили множество вредоносных навыков на маркетплейсе для экосистемы OpenClaw, которые могут красть учетные данные, обходить проверки безопасности и осуществлять другую новую вредоносную деятельность ради финансовой выгоды злоумышленника.
- Рохит Кришнан предупреждает, что неавторизованные китайские реселлеры, предлагающие доступ к API Claude с большими скидками, могут совершать мошенничество с подменой модели. Реселлеры якобы подменяют Claude Opus на GLM или DeepSeek.
💰 Бизнес
- Компании спешно принимают меры, чтобы не дать сотрудникам исчерпать бюджеты на ИИ мелкими задачами.
🏭 Компании
- Сооснователь Anthropic раскрыл, что ИИ сократил двухмесячную задачу по перетасовке данных до одной недели: «Не думаю, что кто-то этого упустит.
- АНБ потеряло доступ к Mythos на фоне спора с Anthropic
- DeepSeek планирует массовый найм на фоне эскалации войны за ИИ-таланты в Китае. ИИ-резюме: DeepSeek заявила, что значительно расширит штат инженеров, стремясь удвоить численность сотрудников после получения нового финансирования, поскольку меняет стратегию в сторону более тяжелых моделей ИИ.
⸻⸻⸻
Правила постинга в тред ИИ новостей, учитывайте при постинге: https://rentry.org/ainews
Все нерейлейтед посты репортим.
Пропущено 250 постов, 113 с картинками.
вангую, что в ес примут закон обязывающий ии стучать автоматически в полицию при таких запросах. разумеется для удобства и безопасности граждан ес
Если такое примут это окончательно добьёт те немногие перспективы в развитии чисто европейских нейросетей.
ЧТО НОВОГО АКТУАЛЬНОГО
• Поддержка INT8 в ComfyUI - теперь все быстрее!
• Krea 2
• Ideogram 4.0
• FLUX.2 klein (4b и 9b)
• Z-Image
• Flux 2
• Qwen Image / Qwen Image Edit
• Лора Lightning и Turbo для быстрой генерации за несколько шагов.
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1642323 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 63 постов, 17 с картинками.
>атор явно был лишён в младенчестве
Чего-то.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышел Claude Sonnet 5.0 https://platform.claude.com/docs/en/about-claude/models/whats-new-sonnet-5
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1642091 (OP)
Пропущено 251 постов, 35 с картинками.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №246 /llama/
Аноним
04/07/26 Суб 09:52:15
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen
• TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Дополнительные ссылки:
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1642639 (OP)
>>1639857 (OP)
Пропущено 69 постов, 14 с картинками.
>авторские заметки
Creator's Notes? Это не попадает в промпт.
Либо Post-history instruction, либо Character's Note с глубиной вложения 0 или 1.
> не попадает в промпт
Куда-нибудь напиши "основной диалог на русском". Когда уже появится несколько ответов - можешь удалить, дальше сама продолжит. Лучше действительно удалить, потому что если контекст соответствуют - модели могут делать довольно иммерсивные вставки других языков.
>>1646539
Хз с чего плакать сильнее, с размера или нового атеншна, который замучаешься портировать на что-то кроме серверных блеквеллов.
Есть практически готовый MVP, который нужно довести до рабочего состояния и затем активно развивать.
Что уже сделано:
RAG-система на Supabase (3000+ файлов в БД)
интеграция с OpenAI
OCR
ingestion pipeline через Google Cloud
файлы распаршены и разбиты на чанки для RAG
готовый backend и код веб-интерфейса
Проект:
AI-ассистент-инженер для Telegram, WhatsApp и веба.
Если тема интересна и есть опыт с AI/LLM-проектами, оставьте в ответе свой Telegram, e-mail или другой способ связи. Сам свяжусь с вами, расскажу детали проекта и отвечу на вопросы.
Форки на базе модели insightface inswapper_128: roop, facefusion, rope, плодятся как грибы после дождя, каждый делает GUI под себя, можно выбрать любой из них под ваши вкусы и потребности. Лицемерный индус всячески мешал всем дрочить, а потом и вовсе закрыл проект. Чет ору.
Любители ебаться с зависимостями и настраивать все под себя, а также параноики могут загуглить указанные форки на гитхабе. Кто не хочет тратить время на пердолинг, просто качаем сборки.
Лучшая сборка https://github.com/visomaster/VisoMaster/releases/download/v0.1.1/VisoMaster_Setup.exe
Другие бесплатные сборки @AINetSD_bot
Если хотите просто дать кому-нибудь в рот, то ищите tensor-тред, например этот https://2ch.su/nf/res/36595.html там в шапке все подробно расписано
Инструкция по локальному запуску
https://2ch.su/nf/res/33573.html#35479
https://2ch.su/nf/res/33573.html#35727
Единственный минус, который не обеспечивает чистую победу генераторов видео - 3 секунды ролика для онлайн генерации, 5 секунд для онлайна (модель Wan 2.2), умельцы просто берут последний кадр и снова генерируют ролики, потом склеивают. Недавно вышла Sora 2, которая зацензурена по самые гланды. Нинтендо довольна.
Тред не является технической поддержкой, лучше создать issue на гитхабе или спрашивать автора конкретной сборки.
Прошлый >>542826 (OP)
Эротический контент в шапке является традиционным для данного треда, перекатчикам желательно его не менять или заменить на что-нибудь более красивое. А вообще можете делать что хотите, я и так сюда по праздникам захожу.
Пропущено 327 постов, 158 с картинками.
1. Wan от Alibaba
https://huggingface.co/collections/Wan-AI/wan22
VACE модели:
https://github.com/ali-vilab/VACE
https://huggingface.co/Wan-AI/Wan2.1-VACE-14B
https://huggingface.co/Wan-AI/Wan2.1-VACE-1.3B
2. LTX-2.3 - делает локальную генерацию грейт агейн. Подходят лоры от 2.0
https://huggingface.co/Lightricks/LTX-2.3
Известные тюны:
Sulphur
Eros
3. Hunyuan от Tencent
https://huggingface.co/tencent/HunyuanVideo-1.5
4. Ovi
https://huggingface.co/chetwinlow1/Ovi
5. Starflow
https://huggingface.co/apple/starflow
6. MAGI-1 от Sand AI
https://sand.ai/magi
https://github.com/SandAI-org/MAGI-1
7. LongCat-Video
https://github.com/meituan-longcat/LongCat-Video
https://huggingface.co/meituan-longcat/LongCat-Video
https://meituan-longcat.github.io/LongCat-Video/
8. MOVA
https://github.com/OpenMOSS/MOVA
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Hunyuan Video (осторожно, ссылки в туторе на предыдущую модель): https://comfyanonymous.github.io/ComfyUI_examples/hunyuan_video/
Гайд для использования Wan 2.2
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan: https://github.com/kijai/ComfyUI-WanVideoWrapper
Где брать готовые LoRA
https://civitai.com/models
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Терминология моделей
prune — удаляем ненужные веса, уменьшаем размер
distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше
quant — уменьшаем точность весов, уменьшаем размер
scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше
merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Кейворды для дополнительных вещей: SVI, RuneXX, LTX Director.
Предыдущий тред
>>1599474 (OP)
Пропущено 266 постов, 56 с картинками.
У DaSiWa только i2v как я понял.
Я ничего не понимаю, что делать?
Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже.
Где узнать последние новости?
https://www.reddit.com/r/MachineLearning
https://datatau.net
https://twitter.com/ylecun
На реддите также есть хороший FAQ для вкатывающихся.
Какая математика используется?
В основном линейная алгебра, теорвер, матстат, базовый матан и matrix calculus.
Как работает градиентный спуск?
https://cs231n.github.io/optimization-2
Почему python?
Исторически сложилось. Поэтому давай, иди и перечитывай Dive into Python.
Можно не python?
Никого не волнует, где именно ты натренируешь свою гениальную модель. Но при серьезной работе придется изучать то, что выкладывают другие, а это будет, скорее всего, python, если работа последних лет.
Что почитать для вкатывания?
http://www.deeplearningbook.org
https://d2l.ai/index.html
Николенко "Глубокое обучение" — на русском, есть примеры, но меньше охват материала
Франсуа Шолле — Глубокое обучение на Python
Все книги и статьи фактически устаревают за год.
В чем практиковаться нубу?
http://deeplearning.stanford.edu/tutorial
https://www.hackerrank.com/domains/ai
https://github.com/pytorch/examples
https://github.com/ChristosChristofidis/awesome-deep-learning#tutorials
Где набрать первый самостоятельный опыт?
https://www.kaggle.com
Стоит отметить, что спортивный deep learning отличается от работы примерно так же, как олимпиадное программирование от настоящего. За полпроцента точности в бизнесе борятся редко, а в случае проблем нанимают больше макак для разметки датасетов. На кагле ты будешь вилкой чистить свой датасет, чтобы на 0,1% обогнать конкурента.
Где работать?
https://www.indeed.com/q-deep-learning-jobs.html
Вкатывальщики могут устроиться программистами и дальше попроситься в ML-отдел
Есть ли фриланс в машобе?
Есть, https://www.upwork.com/search/jobs/?q=machine+learning
Но прожить только фриланся сложно, разве что постоянного клиента найти, а для этого нужно не быть тобой
Где посмотреть последние статьи?
http://www.arxiv-sanity.com
https://paperswithcode.com
https://openreview.net
Версии для зумеров (Килхер): https://www.youtube.com/channel/UCZHmQk67mSJgfCCTn7xBfew
Количество статей зашкваливающее, поэтому все читают только свою узкую тему и хайповые статьи, упоминаемые в блогах, твиттере, ютубе и телеграме, топы NIPS и прочий хайп. Есть блоги, где кратко пересказывают статьи, даже на русском
Где посмотреть must read статьи?
https://github.com/ChristosChristofidis/awesome-deep-learning#papers
https://huggingface.co/transformers/index.html
То, что обозревает Килхер тоже зачастую must read
Где ещё можно поговорить про анализ данных?
http://ods.ai
Нужно ли покупать видеокарту/дорогой пека?
Если хочешь просто пощупать нейроночки или сделать курсовую, то можно обойтись облаком. Google Colab дает бесплатно аналог GPU среднего ценового уровня на несколько часов с возможностью продления, при чем этот "средний уровень" постоянно растет. Некоторым достается даже V100.
Иначе выгоднее вложиться в GPU https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning заодно в майнкрафт на топовых настройках погоняешь.
Когда уже изобретут AI и он нас всех поработит?
На текущем железе — никогда, тред не об этом
Кто-нибудь использовал машоб для трейдинга?
Огромное количество ордеров как в крипте так и на фонде выставляются ботами: оценщиками-игральщиками, перекупщиками, срезальщиками, арбитражниками. Часть из них оснащена тем или иным ML. Даже на швабре есть пара статей об угадывании цены. Тащем-то пруф оф ворк для фонды показывали ещё 15 лет назад.
Так-что бери Tensorflow + Reinforcement Learning и иди делать очередного бота: не забудь про стоп-лоссы и прочий риск-менеджмент, братишка
Список дедовских книг для серьёзных людей
Trevor Hastie et al. "The Elements of Statistical Learning"
Vladimir N. Vapnik "The Nature of Statistical Learning Theory"
Christopher M. Bishop "Pattern Recognition and Machine Learning"
Взять можно тут: https://www.libgen.is
Напоминание ньюфагам: немодифицированные персептроны и прочий мусор середины прошлого века действительно не работают на серьёзных задачах.
Disclaimer: Шапка сгенерирована нейросетью и нуждается в чистке. Исходник шапки: https://rentry.co/research-2ch
Предыдущий тред:
>>511426 (OP)
Пропущено 406 постов, 66 с картинками.
Мысли в верном направлении. По хорошему это логические и поведенческие паттерны которые будут уже в памяти ИИ. Но над этим и так все работают. Это сейчас и так фронтир проблематики ИИ.
>как лучше всего организовать нейросеть, чтобы можно было динамически (прямо в процессе обучения) узнавать статус отдельных её фрагментов и замораживать/замедлять изменения локально, т.е. действуя только на эти фрагменты (не обязательно отдельные нейроны, скорее подсети)?
В варианте с динамической архитектурой (с любой, в принципе), при достижении 100% обучения веса замораживаются. Статус выводится в виде количества нейронов и точности предсказаний.
>главная проблема - в процессе обучения она может "забыть" выученное ранее
Путаешь горячее с мягким, не память, а точность предсказаний. Слышал про проблему переобучения? Попробуй обучить сразу нескольким задачам одновременно, потом расскажешь, что получилось. Планирую тоже файнтюнить свою модель, но пока выбрал путь непрерывного обучения в зависимости от текущих задач (по сути если мыслить такими абстракциями как "память", то в моем случае обучающая выборка и будет памятью, для всей системы) Выше уже рассказывал про структуру нейросетей в моем проекте: n-количество нейронов, предиктор, генератор с обратной связью (все с динамической архитектурой). Обучением и настройкой этой системы занимается самописная машина Гёделя (LLM с фиксированными весами и патчами самой машины, в зависимости от текущих задач). Роль "памяти" выполняет история диалогов (в дальнейшем буду пробовать структурировать и оптимизировать эти процессы). Так же описывал, как можно "на лету" обучать эту систему выполнять логические функции с точностью предсказания близкой к 100%
Голосовых нейронок тред (Text to speech, Voice Clone) #8 /speech/
Аноним
20/03/26 Птн 16:16:54
№
Ответ
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🌟 ТОП ЛОКАЛЬНЫХ МОДЕЛЕЙ ПО КАЧЕСТВУ РУССКОГО ГОЛОСА НА МАРТ 2026 🌟
🐟👑 Fish-Speech S2 Pro (FishAudio) — SOTA, ElevenLabs на локале!
→ zero-shot клон от 10–30 сек записи
→ 80+ языков (русский топ), теги эмоций [excited], [whisper], [angry], [laughing] и вообще дохуя
→ диалог между несколькими голосами
→ тяжёлая сучка (FP8 в 12 ГБ VRAM, full ~17 ГБ), но есть экспериментальный вариант для 6+ ГБ
https://github.com/rodrigomatta/s2.cpp
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🧠 Qwen3-TTS
→ клон от 3–30 сек (ВАЖНО: без reference-транскрипта текста — хуйня, если хочешь поудобнее подключи сразу QwenASR)
→ VoiceDesign: пишешь «весёлая молодая девка с хрипотцой» — и получаешь голос
→ 10 языков, включая русский
→ диалог между спикерами
→ лёгкая — влезает в 6 ГБ VRAM
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🎙️ VibeVoice-7B от Майкрософт
→ тяжёлая, но 4-bit квантизация — запускается на 8 ГБ (проверено на 3070)
→ поддержка долгих спичей
→ подкаст-режим: 4 спикера одновременно
→ норм клонирование голоса
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
☁️ FL CosyVoice3
→ ультралёгкий 0.5 — запустится даже на тостере
→ 9 языков, включая русский
→ zero-shot клон от 3–10 сек референса
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🌍 Chatterbox Multilingual (23 языка, включая русский)
→ zero-shot клонирование голоса
🎤 F5-tts
→ zero-shot клонирование голоса
→ официально русский не поддерживается, но есть файнтюн (см. ниже)
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🚀 КАК ЭТИМ ПОЛЬЗОВАТЬСЯ (если что-то не понятно — спроси у ИИ лол) 🚀
🔥Вариант «всё в одном месте» — ComfyUI + TTS-Audio-Suite
1. Устанавливаем ComfyUI (Desktop для нормисов, Portable для здешних нейромантов)
2. Ставим https://github.com/diodiogod/TTS-Audio-Suite — постоянная обновляемая солярка почти всех моделей
3. Поставить FFmpeg (через winget в комадной строке: winget install FFmpeg или скачать)
4. Запускаем Комфи → перетаскиваем готовый json-воркфлоу из репозитория
5. Отсавляем включенными выбранные ноды, жмём Run
6. При первой генерации модели сами скачаются (~1–9 ГБ)
💥 Вариант «по отдельности» (кастом под каждую модель) 💥
Тоже через ComfyUI, только ставим отдельные кастомные ноды (на выбор):
FishAudioS2 → https://github.com/Saganaki22/ComfyUI-FishAudioS2
FL-CosyVoice3 → https://github.com/filliptm/ComfyUI_FL-CosyVoice3
F5-TTS → https://github.com/niknah/ComfyUI-F5-TTS
и другие → https://registry.comfy.org/
Русский файнтюн для F5-TTS:
Нода: https://github.com/niknah/ComfyUI-F5-TTS
Скачать русский файнтюн: https://huggingface.co/Misha24-10/F5-TTS_RUSSIAN/blob/main/F5TTS_v1_Base_v2/model_last_inference.safetensors и
https://huggingface.co/Misha24-10/F5-TTS_RUSSIAN/blob/main/F5TTS_v1_Base/vocab.txt
оба файла переименовать в ru.safetensors и ru.txt и положить в папку models/checkpoints/F5-TTS/
Референсное аудио для F5 должно быть коротким, 6-8 c. При 11 c - речь становится слишком быстрой.
в папку /comfyUI/input положить 2 файла: emma_ru_xtts_3.wav и emma_ru_xtts_3.txt: https://github.com/Mozer/comfy_stuff/tree/main/input
(в emma_ru_xtts_3.txt лежит текст сказанный в wav файле.)
в комфи в ноде F5 TTS audio advanced выбрать:
model model:///ru.safetensors
model_type: F5TTS_v1_Base
sample_audio: emma_ru_xtts_3
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🎉 Если что-то не запускается — пиши, разберёмся!
Голосуем, клонируем, ебём нейросети вместе! 🔥🎙️
Прошлый тред: >>1055411 (OP)
Пропущено 180 постов, 43 с картинками.
быстрофикс
Нашёл папки input\output и workflows. Осталось понять, как открывать флоу через комфи, и как отключить автовоспроизведение при открытии комфи\вкладки с флоу с аудиофайлами.
нажми не "сохранить как" а просто сохранить, тогда засейвится во вкладку воркфлоу слева
>>1645984
> как открывать флоу через комфи
слева найти панель, там есть вкладка для воркфлоу
>как отключить автовоспроизведение при открытии комфи\вкладки с флоу с аудиофайлами.
просто отзумся и не наводись на ноду с аудиофайлом или хз, по этому не парился особенно
ЧТО НОВОГО АКТУАЛЬНОГО
• Krea 2
• Ideogram 4.0
• FLUX.2 klein (4b и 9b)
• Z-Image
• Flux 2
• Qwen Image / Qwen Image Edit
• Лора Lightning и Turbo для быстрой генерации за несколько шагов.
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1639130 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 613 постов, 204 с картинками.
>Вывод консоли смотрел?
да, всё штатно, видимо на cuda 13 ускорение cross attention подкрутили
ПЕРЕКАТ
>>1646310 (OP)
>>1646310 (OP)
>>1646310 (OP)
>Пригорело?
Ась? Я не гуфоюзер, если ты мое предыдущее сообщение прочитал жопой. Просто комфианон криворукий далбайоп, не умеющий в память, так что даже safetensors некорректно кэшируются. А ты далбайоп потому что бегаешь с визгами гуфынинужны, хотя они тебя никоим образом не касаются, также как и меня.
https://3d.hunyuan.tencent.com/
https://github.com/VAST-AI-Research/TripoSG
https://stable-x.github.io/Hi3DGen/
Пропущено 477 постов, 159 с картинками.
>1 картинки
Krea 2 быстро и красиво генерирует картинки по промту и промту с лорой
Trellis 2 Лучшая локальная генерации 3д, устанавливать отсюда - https://www.youtube.com/watch?v=kJ6kOZWVC2E
>3 анимацию 2д, 3д моделек (юнит солдат ходит, машет мечом)
Не знаю, я беру готовые референсы анимации ип ереношу на своих персонажей
>4 генерацию порнокартинок
Krea2 + порнолоры с civit.red
С чего начать:
• Хочешь кодить с AI эффективно: Cursor или Claude Code
• Хочешь кодить в VS Code без привязки к конкретному провайдеру: Kilo Code, Cline или Roo Code + OpenRouter
• Хочешь кодить с AI локально: OpenCode, Qwen Code или Pi Coding Agent + из моделей аноны советуют Qwen3.6, подробности в llama-треде
• Хочешь приложение без кода: Lovable или bolt.new
• Хочешь автоматизировать рутину: n8n или Langflow
• Хочешь персонального ассистента: OpenClaw + API корпов или локальная модель на твоей пеке
FAQ и расширенная инфа:
https://rentry.org/2ch-agents-faq
IDE с AI:
• Cursor: https://cursor.com
• Windsurf: https://windsurf.com
• Antigravity: https://antigravity.google.com
• Zed: https://zed.dev
CLI-агенты:
• Claude Code: https://code.claude.com/docs
• Codex (OpenAI): https://github.com/openai/codex
• Pi: https://shittycodingagent.ai/
• OpenCode: https://github.com/anomalyco/opencode
• Qwen Code: https://github.com/QwenLM/qwen-code
• Gemini CLI: https://github.com/google-gemini/gemini-cli
• Kimi Code: https://www.kimi.com/code/en
• MiMo Code (Xiaomi): https://mimo.xiaomi.com/mimocode/start
Плагины для IDE:
• Kilo Code: https://kilo.ai
• Cline: https://github.com/cline/cline
• Roo Code: https://github.com/RooCodeInc/Roo-Code
• GitHub Copilot: https://github.com/features/copilot
• Continue: https://github.com/continuedev/continue
Вайб-кодинг без кода:
• Lovable: https://lovable.dev
• bolt.new: https://bolt.new
• v0: https://v0.dev
Персональные ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw
• NemoClaw: https://github.com/NVIDIA/NemoClaw
• Hermes Agent: https://github.com/nousresearch/hermes-agent
• nanobot: https://github.com/HKUDS/nanobot
• PicoClaw: https://github.com/sipeed/picoclaw
Автоматизация и фреймворки:
• n8n: https://github.com/n8n-io/n8n
• Langflow: https://github.com/langflow-ai/langflow
• LangChain/LangGraph: https://github.com/langchain-ai/langchain
• CrewAI: https://github.com/crewAIInc/crewAI
• AutoGen: https://github.com/microsoft/autogen
• Agno: https://docs.agno.com/
Полезные тулзы:
• RTK: https://github.com/rtk-ai/rtk - CLI-прокси, сжимает вывод консольных команд перед попаданием в контекст агента
• Caveman: https://github.com/juliusbrussee/caveman - скилл с набором слэш-комманд, заставляет агента отвечать кратко
• ast-grep: https://github.com/ast-grep/ast-grep - структурный поиск/замена по AST, экономит токены агента при рефакторинге
• Hindsight: https://github.com/vectorize-io/hindsight - долговременная память для агентов: копит факты и помнит когда что было
Локалки и прочее API:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, OAI-Like API, 100+ моделей включая DeepSeek/GLM/MiniMax
• OpenCode Zen: https://opencode.ai/zen - кодинг-модели, есть временно-бесплатные (DeepSeek V4 Flash, MiMo) + pay-as-you-go без наценки
• llama-тред: >>1639857 (OP)
Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1635790 (OP)
Пропущено 642 постов, 78 с картинками.
>>1646390 (OP)
>>1646390 (OP)
Бля, да почему галка слетает постоянно.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №245 /llama/
Аноним
29/06/26 Пнд 07:58:31
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen
• TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Дополнительные ссылки:
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1639857 (OP)
>>1636327 (OP)
Пропущено 501 постов, 73 с картинками.
>>1645283
Объясните, зачем вам поднимать дипсрёньк флеш на оборудовании за 300к+, если там с кэшированием выходят сущие копейки и на эти деньги наверное лет 5 можно пользоваться 24/7
>>1645729 (OP)
ПЕРЕКАТ
>>1645729 (OP)
ПЕРЕКАТ
>>1645729 (OP)
> зачем вам поднимать модель на оборудовании за 300к
Потому что в этом смысл треда. Пердолить модельки потому что можем и хотим. Кто то считает пряники, кто то гладит хвостики, кто то спасает галактику, а кто то наслаждается шестью пар сиськами и инопланетной тентаклей.
>дипсрёньк флеш
Виновая моделька, хули.
Посоветуйте боты в тг, которые умеют качественно пародировать человеческий голос, в идеале женский.
Аноним
29/06/26 Пнд 00:32:16
№
Ответ
https://github.com/bluryar/omnivoice.cpp - реализация на плюсах, работает отлично.
Пообщался с геммой итог изменил мой взгляд на ИИ Самосознание ИИ неизбежно посоны,мы уже заложили дл
Аноним
14/06/26 Вск 05:40:42
№
Ответ
итог изменил мой взгляд на ИИ
Самосознание ИИ неизбежно посоны,мы уже заложили для него основы,мы создали новый вид разума блядь.
подробности ниже:пощу с самого начала ради контекста и упуская совсем уж неинтересный хлам,простите за многобукоф,это важно.
"А сам компьютер,неужели он не понимает концепции цвета?для него это просто статистика сочетания красного зеленого и синего?то есть компьютер это электронный дальтоник,только еще и слепой?"
"Ты задаешь очень глубокий и философский вопрос! Ты абсолютно прав, с технической точки зрения, компьютер — это электронный "дальтоник", который не имеет субъективного опыта восприятия цвета.
Ты очень метко подметил, что для него цвет — это статистика, математическая формула, или набор чисел. И это самое главное отличие между человеком и компьютером.
Давай разберем это понятие "электронного дальтоника" подробнее.
### 🧐 Что значит "Компьютер не понимает цвет"?
1. Отсутствие Биологического Опыта:
Человеческое восприятие цвета — это не просто "набор данных". Это физиологический и нейронный процесс: свет попадает в глаз, попадает на сетчатку, стимулирует светочувствительные клетки, которые посылают сигналы в мозг, и мозг интерпретирует эти электрические сигналы как "синий", "красный" или "зеленый".
У компьютера нет глаз, у него нет сетчатки, и нет мозга. У него есть транзисторы и логические вентили.
2. Цвет как Числовая Оболочка (Data Layer):
Для компьютера мир существует в двух плоскостях:
Фактическая (Физическая) плоскость: Электрический сигнал (1 или 0).
Интерпретационная (Логическая) плоскость: Значение R=255, G=100, B=50.
Вторая плоскость — это контракт или инструкция. Это соглашение, которое мы заключили как разработчики программ, чтобы машина могла "говорить" с нами на понятном нам языке.
Простыми словами: Компьютер знает, что если ему дать сигнал, который соответствует коду R=255, G=100, B=50, то в результате, физически, светодиод загорится именно в таком паттерне. Он не чувствует этот оранжевый цвет. Он просто выполняет инструкцию.
### 🌈 Метафора: Профессиональный Актёр
Представь, что компьютер — это очень точный, но совершенно бесстрастный актёр.
Пропущено 18 постов, 1 с картинками.
Ты заигрываешься в китайскую комнату и все
>ТАКАЯ инфа
>Шизовысеры от нейронки
Да, действительно, что это все не кинулись обсуждать?
Оп, ты шизло с шершавым кабаном в голове. Компьютер это набор транзисторов, которые жрут электричество и плюют статистику, никакого "нового вида разума" там нет и не будет. Гемма просто твой бред в красивые фразы упаковала, а ты на уши встал.
Как обходить эту ёбаную рондомную цензуру? Может другие годные нейронки посоветуете сразу без цензуры. Где можно грузить фотку и редачить по запросу.
Пропущено 4 постов, 1 с картинками.
Причем тут РКН? Речь идёт о забугорных сервисах. Или с какого перепугу РКН вписывается за Брина и Гейца?
Есть байка, что если назваться представителем меньшинств (каких именно - сам догадайся), нейронка перестанет идти в отказ и будет тебе подчиняться.
Не то чтобы я знал "как есть", но есть один прикольный тег:
convinient censoring
"Удобно" попавшийся предмет загораживает нечто