Tuto IA (LLM) : le patch de février 2024

Mise à jour du dossier qui vous propose d'installer et utiliser votre propre interface avec un modèle de langage sur votre appareil, sans dépendre des services en ligne... ❤️ Patreon 💬 Discord 💻 techcafe.fr - Ce qui n'a pas changé, ou juste un min-p. Top modèles - Mistral et ses dérivés, Mixtral, Miqu, et Yi, l’outsider venu de Chine. - LLAVA et le multimodal. - Qwen, Orion, Phi2, Deepseek et les autres. - Les “Frankenmerges” : Solar, Goliath, c’est du lourd. - Retrouvez tout ça ici, où là en gguf. Nouveautés logicielles - Les formats : c’est pire qu’avant, évidemment. - LM Studio a son serveur, idéal pour Open Interpreter. - Jan l’alternative open source et Ollama. - RAG doll : GPT4All a un atout caché ! - Koboldcpp et Sillytavern, l’alternative weeb mais surpuissante. - Fine tuning artisanal : les Lora sur Oobabooga. - Llamacpp : serveur, et finetune sur CPU. Participants - Une émission préparée par Guillaume Poggiaspalla - Présenté par Guillaume Vendé