Code Llama

Что такое Code Llama

Code Llama - открытая модель для генерации кода от Meta, выпущенная 24 августа 2023 года. Это специализированная версия Llama 2: базовую модель дообучили на огромном корпусе кода, чтобы она лучше писала, дополняла и объясняла программы. На момент выхода Code Llama была одной из сильнейших открытых моделей для кода - достигала до 67% на HumanEval, опережая другие открытые модели.

Размеры и варианты

Code Llama вышла в четырех размерах - 7B, 13B, 34B и 70B параметров - каждый в трех вариантах:

• Code Llama (base) - фундаментальная модель для общих задач с кодом
• Code Llama - Python - дополнительно специализирована на Python
• Code Llama - Instruct - следует инструкциям, лучше для чат-сценариев и безопаснее в ответах

7B и 13B обучены на 500 миллиардах токенов кода, 70B - на 1 триллионе. Важная фишка младших моделей (7B/13B) - fill-in-the-middle (FIM): способность вставлять код в середину существующего, а не только дописывать в конец. Это критично для автодополнения в редакторах, где курсор стоит посреди функции.

Бенчмарки

Code Llama оценивалась на главных code-бенчмарках - HumanEval, MBPP, APPS и многоязычном MultiPL-E. Результаты модели 34B: HumanEval 53.7%, MBPP 56.2%. Лучшие варианты достигали до 67% на HumanEval. Для открытой модели 2023 года это были передовые результаты, конкурировавшие с проприетарными решениями того времени.

Лицензия и доступ

Code Llama распространяется под Llama 2 Community License - бесплатна для исследований и коммерческого использования (ограничение на компании с 700M+ MAU неактуально для большинства). Веса лежат на HuggingFace (репозиторий codellama). Запуск: self-host через Ollama, llama.cpp, vLLM (7B/13B идут на потребительской GPU, 34B/70B - серверная); облачные провайдеры - OpenRouter, Together AI по цене от ~$0.10 за 1M токенов. Можно подключить как локальный код-ассистент в IDE через расширения вроде Continue или Cline.

Состояние на 2026 и доступность в России

Code Llama сильно устарела - релиз август 2023, она построена на Llama 2, и по качеству кода кратно уступает современным моделям: DeepSeek R1, Qwen 3 Coder, GPT-5.x, Claude Opus 4.8. Для серьезной разработки сегодня берут их. Code Llama остается вариантом для легкого локального код-ассистента на слабом железе (7B/13B) и для изучения. Веса не блокируются для России - свободно качаются с HuggingFace, запускаются локально или через OpenRouter (принимает крипту). Российские карты МИР у провайдеров не принимаются. Модель заточена под код и английский - русские комментарии и запросы даются хуже.