полезные ссылки4 минутобновлено 20.08.26
Полезные ссылки
- Cloze Procedure: A New Tool for Measuring Readability - Wilson L. Taylor, 1953. Работа, в которой был предложен cloze-тест.
- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding - Jacob Devlin et al., 2018. Описание masked language modeling - задачи восстановления скрытых токенов, использованной при обучении BERT.
- Efficient Training of Language Models to Fill in the Middle - OpenAI, 2022. Исследование FIM-обучения и способов преобразования исходных последовательностей в пары из префикса и суффикса.
- Qwen2.5-Coder Technical Report - Qwen Team, 2024. Технический отчет о семействе Qwen2.5-Coder, включая обучение моделей решению задач дополнения кода.
- StarCoder 2 and The Stack v2: The Next Generation - BigCode, 2024. Описание моделей StarCoder2, обучающего корпуса The Stack v2 и используемого подхода к FIM-обучению.
- Seed-Coder: Let the Code Model Curate Data for Itself - ByteDance Seed, 2025. Технический отчет о подготовке данных и обучении семейства кодовых моделей Seed-Coder.
- DeepSeek-Coder-V2: Breaking the Barrier of Closed-Source Models in Code Intelligence - DeepSeek AI, 2024. Описание архитектуры, обучения и возможностей DeepSeek-Coder-V2.
- Microsoft Announces Visual Basic 5.0 Professional Edition - Microsoft, 1997. Один из ранних публичных примеров IntelliSense как IDE-функции подсказок.
- Code Completion with Neural Attention and Pointer Networks - Jian Li et al., 2017. Работа о применении attention и pointer mechanisms к задаче автодополнения кода.
- Towards Full-line Code Completion with Neural Language Models - Svyatkovskiy et al., 2020. Работа о full-line code completion и практических ограничениях нейросетевых подсказок в IDE.
- Introducing Visual Studio IntelliCode - Microsoft, 2018. Описание ранжирования IntelliSense-подсказок с помощью моделей, обученных на публичных репозиториях.
- Introducing GitHub Copilot: your AI pair programmer - GitHub, 2021. Анонс Copilot как массового продукта для генеративного автодополнения кода.
- Language Server Protocol - Microsoft, 2016. Стандарт для общения между IDE и языковыми сервисами.
- Repository context for LLM assisted code completion - Tabby, 2023. Практический пример: Tree-sitter, разбиение кода на сниппеты, обратный индекс и BM25-поиск по репозиторию.
- RepoCoder: Repository-Level Code Completion Through Iterative Retrieval and Generation - Yuning Zhang et al., 2023. Итеративный процесс retrieval-generation, в котором предварительная подсказка помогает улучшить поисковый запрос.
- Keeping it boring (and relevant) with BM25F - Julie Tibshirani, 2025. Использование BM25F, весов полей и дополнительных сигналов при поиске по коду.
- Rank Fusion for improved Code Context in Tabby - Tabby, 2024. Объединение нескольких источников контекста и их ранжирований для code completion.
- Repoformer: Selective Retrieval for Repository-Level Code Completion - Toufique Ahmed et al., 2024. Selective retrieval: система определяет, принесёт ли внешний контекст пользу конкретной подсказке.
- CrossCodeEval: A Diverse and Multilingual Benchmark for Cross-File Code Completion - Yue Wang et al., 2023. Benchmark для оценки completion, которому необходим контекст из других файлов репозитория.
- The Probabilistic Relevance Framework: BM25 and Beyond - Stephen Robertson, Hugo Zaragoza, 2009. Подробное описание вероятностной модели поиска, BM25 и BM25F.
- Language Server Protocol - Microsoft. Назначение LSP, модель language client / language server и обмен сообщениями через JSON-RPC.
- Language Server Protocol Specification 3.18 - Microsoft. Lifecycle протокола, capabilities и language features: hover, definitions, references, diagnostics и другие запросы.
- PSI References - JetBrains. Связь между использованием элемента и его объявлением, разрешение ссылок и поиск references в IntelliJ Platform.
- Programmatic Language Features - Visual Studio Code. Соответствие API редактора методам LSP и отдельный API для inline completions.
- A Common Protocol for Languages - Visual Studio Code, 2016. Публичный анонс LSP совместно с Red Hat и Codenvy, предпосылки появления протокола и первые интеграции.
- JSON-RPC 2.0 Specification - формат requests, responses, errors и notifications, который использует LSP.