Agents/NLP technical screen: Python, ML basics и поиск

async/threading подходят для I/O-bound задач, multiprocessing - для CPU-bound Python кода; GIL мешает параллельному исполнению Python bytecode в threads.

asyncio хорош, когда много сетевых или файловых ожиданий и код можно писать в cooperative style. Threads тоже удобны для I/O-bound задач, особенно когда библиотека блокирующая, но GIL не дает двум Python threads одновременно исполнять CPU-bound bytecode.

Для CPU-bound задач на чистом Python используют multiprocessing или выносят вычисления в native code, который освобождает GIL. В ML/NumPy/PyTorch часть операций выполняется в C/CUDA и может эффективно параллелиться вне GIL.

В production выбор зависит от нагрузки: web API с внешними calls - async/thread pool; тяжелый feature extraction на CPU - processes/queue; GPU inference - batching и отдельный worker pool.

dict использует hash ключа для адресации ячейки; амортизированно lookup/insert O(1), но коллизии и resize дают худшие случаи.

Python dict - hash table. Для ключа считается hash, по нему выбирается позиция в массиве. Если ячейка занята другим ключом, используется probing. При нормальной load factor среднее число probes мало, поэтому lookup/insert/delete амортизированно O(1).

Деградация возможна при большом числе коллизий или специально подобранных ключах, хотя Python защищается randomized hashing для строк. Resize тоже стоит O(n), но происходит редко, поэтому в амортизированной оценке insert остается O(1).

Важно помнить: ключ должен быть hashable и equality-compatible с hash. Изменяемые объекты как list не могут быть ключом, потому что их hash был бы нестабилен.

Transformer состоит из embeddings, positional information, self-attention, feed-forward blocks, residual connections и normalization.

Transformer заменяет recurrent обработку последовательности на attention. Каждый токен получает embedding, к нему добавляется positional information, затем self-attention позволяет токенам смотреть на другие токены и агрегировать контекст.

Типичный block: multi-head self-attention, residual connection, layer norm, feed-forward network, снова residual/norm. Multi-head attention позволяет разным heads смотреть на разные виды связей. Feed-forward слой применяет нелинейное преобразование к каждому position.

Для encoder моделей attention обычно bidirectional, для decoder LLM используется causal mask, чтобы токен не видел будущее.

Нужны доменные query-document positives, hard negatives, contrastive/ranking loss и retrieval eval вроде Recall@K/NDCG на отложенном наборе.

Сначала собираем данные: реальные queries, clicked/accepted documents, экспертная разметка релевантности или пары из бизнес-процесса. Для обучения bi-encoder хорошо работают positive pairs и hard negatives: документы похожие лексически, но нерелевантные.

Loss можно выбрать multiple negatives ranking loss, triplet loss или contrastive loss. Hard negatives лучше регулярно обновлять, потому что модель быстро учится на легких отрицательных примерах.

Проверка должна быть retrieval-specific: Recall@K, MRR, NDCG, coverage по типам запросов, latency и online A/B, если есть трафик. Важно сравнивать с BM25/hybrid baseline, а не только с предыдущей embedding моделью.