Помощник программиста на основе больших языковых моделей

В этой статье я хотел бы описать воркфлоу как работать с большой языковой моделью в качестве помощника для программирования.

Шаг первый

Установить LMStudio

Шаг второй

Установить модель. Если не получается скачать модель через программу, модель можно скачать через веб интерфейс с huggingface. К моделям обычно идут окончания. Q2 - самая быстрая модель, однако страдает качество генерируемого текста. Q8 - самая медленная, но с самым лучшим качеством. Модель должна быть формата gguf.

Шаг третий

Стартовать сервер. Как только модель окажется в папке со скачанными моделями, ее можно использовать чтобы стартовать сервер. Нажмите Start Server

Шаг четвертый

Скачать wingman vscode екстеншн. Открыть wingman в vscode. Выделить код и выбрать одну из команд в боковой панели в wingman. Вингман начнет генерировать код, который далее вы можете использовать