GitHub-радар
Talos: делись своей GPU, чтобы запускать языковые модели
Бесплатный воркер-клиент с открытым исходным кодом для Ollama, который подключает твою машину к распределённой сети инференса Ollama. Это позволяет тебе предоставлять услуги инференса языковых моделей и получать оплату за аптайм!
Бесплатный GPU-воркер-клиент с открытым исходным кодом для распределённой сети инференса Talos. Он работает вместе с локальной установкой Ollama и использует WebSocket для подключения к сети, принимая запросы на инференс языковых моделей от других пользователей и отчитываясь об аптайме для выплат. Также идёт с дашбордом для просмотра использования GPU и настройки распределения ресурсов.
Зачем это вайб-кодеру
Если у тебя установлена Ollama и есть неиспользуемая GPU, ты можешь использовать этот инструмент, чтобы монетизировать свои простаивающие ресурсы!
▌ Ещё находки