🧠 Новая LLM модель Mixtral 8x7B: (превосходит GPT-3.5)
Mistral AI выпустила Mixtral 8x7B, революционную open source модель AI, которая превосходит Llama 2 70B и даже GPT-3.5 по производительности и скорости вывода. Эта разреженная смесь экспертов (SMoE) поддерживает пять языков и показывает отличные результаты в генерации кода. Mixtral использует инновационный подход, выбирая оптимальное подмножество параметров для каждого токена, что значительно ускоряет обработку данных и улучшает качество результатов.
🔗 Mistral AI https://mistral.ai/news/mixtral-of-experts/
🔗 HuggingFace Blog https://huggingface.co/blog/moe
🧑💻 Github: https://github.com/vllm-project/vllm/commit/b5f882cc98e2c9c6dde7357dbac2ec0c2c57d8cd
#ai #llm #gpt #opensource #gpt3_5
