Порадьте зручну невелику локальну llm модель на mac M3 Air і як її запустити. Мені здається щось має піти, якщо Gemma запускають на raspberry pi 5
Edited 34d ago
Порадьте зручну невелику локальну llm модель на mac M3 Air і як її запустити. Мені здається щось має піти, якщо Gemma запускають на raspberry pi 5
@andruwa13 queen це якась китайська LLM? Чекаю українську LLM сподіваюсь вона буде локальна також
@sverdlyuk я якщо чесно користуюсь ось цим https://github.com/diegosouzapw/OmniRoute
Там дуже багато LLM якими можна просто користуватися
@sverdlyuk так. Вона крута. Я скинув сервіс, через який можна глянути яка саме LLM підійде на любу конфігурацію заліза