Сегодня у айтишников появилось новое хобби - делать свой SaaS или писать торговых ботов с помощью LLM

Порог входа резко снизился: достаточно хорошей идеи, немного свободного времени и подписки на одну из современных LLM

Но есть одна проблема

Модель, которая набирает 90%+ в бенчмарке, совсем не обязательно поможет вам заработать деньги
Потому что между «написать хороший код» и создать работающий продукт есть огромная разница

Я дал шести LLM одну задачу - написать торгового бота и проверил, что из этого можно использовать на практике

GPT, Claude Opus, DeepSeek, Qwen, GigaChat, YandexGPT Pro

Плотная 27-миллиардная модель на двух RTX 3090 в llama.cpp из коробки даёт 32 токена в секунду. Интуитивно понятно, что это не предел: две карты по 24 ГБ и 936 ГБ/с каждая не должны выдавать столько, сколько выдаёт одна. Значит, где-то узкое горлышко — и надо разобраться, что и где подкрутить.

Горлышек оказалось несколько, и все снимаются флагами запуска: те же веса — 75 токенов в секунду. Под катом каждый флаг описан по одной схеме: зачем, что писать, что даёт в цифрах, где ломается и с какой строкой в логе. В конце — готовый docker run, три проверки после каждой смены флага и список того, что не сработало. Текст можно отдать целиком агенту с доступом к серверу — это инструкция, а не история.