Posts of Zen of Python

Передать накопленные байты и опустошить буфер Парсер накапливает данные в изменяемом bytearray, а наружу должен отдать неизменяемый bytes. В Python 3.15 у буфера появился метод take_bytes: он извлекает первые n байтов, а без размера забирает всё содержимое и оставляет буфер пустым. Согласно документации, в CPython извлечение всех байтов выполняется без копирования. Если взять только префикс и сохранить остаток в bytearray, копирование потребуется. Если остаток вам не нужен, документация предлагает сначала обрезать буфер, затем забрать его целиком. При последовательном разборе сообщений, где хвост ещё понадобится, извлечь префикс без копирования не получится.

Куда пропало условие Windows в pylock.toml Зависимость нужна только в Windows и только группе разработки. В pylock.toml это можно записать одним маркером с обоими условиями. Если при чтении потерять весь маркер, пакет начнёт устанавливаться и на других платформах. Именно такую ошибку исправили в Pipenv 2026.10.1. Она затрагивала маркеры, которые вместе с ограничением платформы или версии Python содержали dependency_groups. В журнале приведён пример файла, экспортированного через PDM. При обработке группы Pipenv терял и оставшуюся часть условия. Если вы экспортируете зависимости в pylock.toml, а затем устанавливаете их через Pipenv, проверьте комбинированные маркеры на разных целевых окружениях.

Обрезать строку и не оторвать ударение Одна видимая буква может состоять из нескольких кодовых точек. При сокращении подписи в интерфейсе срез по произвольному индексу может отделить комбинируемый знак от буквы. В Python 3.15 появился итератор графемных кластеров unicodedata.iter_graphemes. Он использует расширенные правила сегментации Unicode UAX #29. У каждого элемента есть границы start и end, а преобразование в строку возвращает сам кластер. Можно выбрать целые кластеры и по их границам сформировать сокращённую подпись. При этом число графем не определяет ширину текста: для выравнивания колонок терминала или расчёта пикселей всё ещё нужен отдельный способ измерения.

Путь к ресурсу пакета может быть временным Ресурс установленного пакета не обязательно лежит обычным файлом рядом с модулем. Пакет может читаться из zip-архива, а importlib.resources.files() возвращает объект Traversable, без гарантии, что ресурс лежит на диске. Для чтения текста часто достаточно read_text(). Если стороннему API нужен настоящий pathlib.Path, используйте as_file(resource) как контекстный менеджер. При необходимости он извлечёт ресурс во временный файл и удалит его при выходе из with. Поэтому передавайте путь потребителю внутри блока, пока ресурс нужен. Не сохраняйте его для отложенного чтения после выхода. Очистка касается созданного временного файла: если ресурс уже лежал на диске, исходный файл пакета при закрытии контекста не удаляется.

Где Hypothesis хранит найденные сбои Hypothesis нашёл неудачный вход, а следующий запуск будет уже на новой машине. Будет ли пример проверен снова? Это зависит в том числе от базы примеров: она сохраняет провалившиеся случаи, а фаза reuse загружает их в следующих запусках. В обычной конфигурации используется .hypothesis/examples. Если каталог недоступен для чтения или записи, библиотека предупреждает и переходит к базе в памяти. При database=None хранения нет вообще. В текущем встроенном профиле ci задано именно это значение, так что постоянный кеш в CI нельзя считать включённым автоматически. Проверьте активный профиль и срок жизни хранилища CI-раннера. База ускоряет повтор известных сбоев, но не заменяет регрессионный тест. Важный вход закрепите через @example или отдельный тест, а не оставляйте только в каталоге кеша.

fileno может отправить маленький файл на диск Даже если в SpooledTemporaryFile(max_size=1_000_000) записана всего сотня байт, запрос файлового дескриптора перенесёт содержимое из памяти в дисковый файл. У этого временного файла несколько причин перехода к дисковому файлу. При положительном лимите это превышение max_size. Вызов fileno() делает то же самое независимо от размера, а rollover() явно запускает этот переход. Поэтому библиотека, которой передали file-like объект, может изменить способ хранения одним запросом дескриптора. Лимит здесь полезен для буферизации, но условие «размер меньше порога» не доказывает отсутствия файлового I/O. При этом слово «диск» описывает файловое поведение API и не указывает на конкретный физический носитель или задержку операционной системы.

asdict копирует глубже, чем кажется Вызов asdict(obj) не ограничивается созданием словаря полей dataclass. Функция рекурсивно обходит вложенные dataclass, словари, списки и кортежи, а прочие объекты копирует через copy.deepcopy. Если поле содержит большой список, рассчитывать на сохранение ссылки на него нельзя. Для поверхностного представления документация предлагает собрать словарь через fields() и getattr(). На карточке видно различие: у такой сборки вложенный список остаётся общим с исходным объектом. Для чтения полей без копирования вложенных объектов подходит поверхностный словарь. Если нужно менять вложенный список независимо от dataclass, он не подойдёт: вложенные данные остаются общими. Ни один из этих способов сам по себе не превращает произвольное содержимое полей в готовый JSON.

Исправление Ruff может сменить исключение Замена list(values)[0] на next(iter(values)) позволяет получить первый элемент без построения всего списка. Но на пустом входе меняется тип исключения. Первое выражение поднимет IndexError, второе StopIteration. Обработчик except IndexError больше не сработает. Именно поэтому исправление правила RUF015 в документации Ruff относится к unsafe, хотя на непустом входе оно решает ту же задачу. По умолчанию Ruff применяет safe fixes. Флаг ruff check --fix --unsafe-fixes разрешает и изменения, способные повлиять на поведение или удалить комментарии. Перед таким запуском стоит проверить пустые входы и обработчики ошибок. Ускорение из примера в документации нельзя переносить на любой код.

После commit атрибут может потребовать SQL В асинхронном коде обычное чтение ORM-атрибута не должно неожиданно ходить в базу. Но после commit() SQLAlchemy по умолчанию помечает состояние объектов как устаревшее. Следующее обращение к полю может попытаться загрузить его заново, уже вне явного await. В руководстве SQLAlchemy 2.0 для AsyncSession используют expire_on_commit=False. Уже загруженные значения остаются доступны после commit. Нужное поле или связь можно обновить явно через await session.refresh(obj, ["field"]). Это не предзагрузка всех связей и не гарантия свежести после чужой транзакции. Ленивую связь по-прежнему надо загрузить явным способом. Для параллельных задач всё равно нужны отдельные AsyncSession.

Пять секунд HTTPX не равны дедлайну запроса Сервер может долго отдавать ответ маленькими порциями, а HTTPX не прервёт чтение по истечении пяти секунд с начала запроса. Тайм-аут чтения ограничивает ожидание очередного фрагмента данных. Если фрагменты приходят вовремя, суммарное чтение может длиться дольше. У HTTPX четыре отдельных ограничения: connect, read, write и pool. Последнее относится к ожиданию свободного соединения в пуле. Поэтому PoolTimeout не исправляется одним увеличением времени подключения к серверу. По умолчанию библиотека ограничивает сетевую неактивность пятью секундами. Настройки тайм-аутов позволяют задать эти ограничения отдельно. Если нужно ограничить общую длительность операции, задайте отдельный общий дедлайн с корректной отменой и освобождением ресурсов.

shield защищает задачу, но не ожидание Корутина ждёт важную операцию, и в этот момент её отменяют. Если ожидание обёрнуто в asyncio.shield(task), внутренняя задача не отменяется вместе с вызывающей корутиной. Но у вызывающей корутины await всё равно поднимет CancelledError. Получаются два разных состояния: ожидающий уже отменён, операция ещё идёт. Создайте задачу явно и сохраните сильную ссылку на неё. Цикл событий держит только слабые ссылки, поэтому один вызов shield не заменяет управление сроком жизни фоновой работы. shield также не защищает от прямого task.cancel() и отмены из самой операции. В документации разобраны эти случаи. Заранее решите, кто дождётся задачи и обработает её результат. Отмена ожидания не означает, что операция завершилась.

compare_digest не выходит на первом различии Когда ожидаемая и полученная подписи уже вычислены, остаётся проверить равенство. Обычное сравнение может закончиться на первом различии. Для криптографических значений в стандартной библиотеке есть hmac.compare_digest(expected, received). Функция избегает досрочного выхода по содержимому. Передавайте аргументы одного типа: bytes-like либо строки только из ASCII, например два результата hexdigest(). Произвольные Unicode-строки и смесь str с bytes сюда не подходят. В документации есть оговорка: разные длины или ошибка могут теоретически раскрыть сведения о длине и типе входов, но не об их значениях. Поэтому обещать одинаковое время для любых аргументов нельзя. Само сравнение также не вычисляет подпись и не решает, кому разрешён доступ.

Хеши pip должны покрывать и зависимости Добавить хеш только главному пакету недостаточно для строгой установки. Команда python -m pip install --require-hashes -r requirements.txt требует закрепить все требования, включая транзитивные зависимости, и указать для них локальные хеши разрешённых артефактов. Версию фиксируют через == либо задают конкретный URL или путь. Если разрешены разные wheels, одному пакету может понадобиться несколько хешей. Хеш из ссылки самого индекса не заменяет локальный список: индекс не должен сам определять, какой файл вы считаете доверенным. В текущем руководстве pip описан флаг, добавленный в версии 26.2: --no-require-hashes отключает автоматическое требование хешей для всех строк. Для строгой политики включайте режим явно. Совпавший хеш подтверждает выбранный артефакт, но не безвредность кода внутри.

iterator не ограничивает память драйвера Для одноразового обхода большой выборки у QuerySet есть iterator(). Он не наполняет обычный кеш результатов самого QuerySet. Если выборка уже была вычислена, вызов iterator выполнит запрос ещё раз. В Django 5.2 его можно сочетать с prefetch_related(), явно передав chunk_size. Более крупная порция уменьшает число запросов для подгрузки связей, но требует больше памяти. При нескольких связях учитывайте ещё и разрастание списка для SQL IN. Гарантии «в памяти только одна порция» здесь нет. Документация разделяет уровни: MySQL-драйвер загружает весь результат, а потоковое чтение PostgreSQL зависит от серверных курсоров и настройки пула соединений. Проверять расход памяти нужно на конкретном backend.

match в pytest ищет регулярное выражение Тест с pytest.raises(ValueError, match="bad.file") может пройти на сообщении badXfile. Точка здесь означает любой символ, а не буквальную точку в имени файла. И совпадать со всем сообщением шаблон тоже не обязан. Параметр match использует re.search. Для буквального фрагмента передайте re.escape("bad.file"). Это защитит метасимволы, но по-прежнему будет искать фрагмент внутри более длинной строки. Если важно полное равенство, отдельно сравните str(exc.value) с ожидаемым текстом. Ещё одна деталь контракта pytest: поиск учитывает заметки __notes__ из PEP 678. На Python 3.11+ совпадение может найтись в добавленной заметке, хотя его нет в основном сообщении исключения.

NewType различает ID без новых объектов Идентификаторы пользователя и заказа могут быть обычными int, но случайно поменять их местами всё равно ошибка. UserId = NewType("UserId", int) позволяет описать это различие для статического анализатора. Функция с параметром UserId принимает UserId(42), а на голое 42 проверяющий должен пожаловаться. В обратную сторону преобразование не нужно: UserId допустим там, где ожидается int. После арифметики вроде UserId(5) + 1 статический тип результата снова int. Во время выполнения вызов возвращает тот же объект. Это отдельный тип для проверяющего, а не валидатор входных данных и не runtime-подкласс. Использовать его вторым аргументом isinstance нельзя. Проверку внешнего ID всё ещё придётся написать.

Кто закроет async-генератор после break Вы читаете поток до первого подходящего элемента и выходите через break. Цикл закончился, но сам по себе этот выход не гарантирует немедленное выполнение finally у async-генератора. Если там освобождается ресурс, его срок жизни лучше задать явно. В Python 3.10+ для этого есть contextlib.aclosing. Оберните генератор в async with, как на карточке. При выходе из блока менеджер вызовет await generator.aclose(), в том числе после раннего выхода или исключения. Очистка пройдёт в том же контексте, что и перебор. Это существенно, если она использует контекстные переменные или зависит от ещё работающей задачи. В примере из документации очистка выполняется при выходе из блока, без ожидания сборки мусора.

ChainMap читает все слои, а пишет только в первый Для конфигурации удобно читать переопределения поверх значений по умолчанию. ChainMap делает это без предварительного слияния словарей: from collections import ChainMap defaults = {"timeout": 30} overrides = {} config = ChainMap(overrides, defaults) config["timeout"] = 5 print(overrides, defaults) Вывод: {'timeout': 5} {'timeout': 30}. Чтение ищет ключ в слоях по очереди, а присваивание меняет только первый словарь. Туда же направлены update и удаление. Ключ, который есть лишь в нижнем слое, удалить через цепочку не получится. Это живое представление исходных словарей, а не снимок: изменения в них видны через ChainMap. И копирования вложенных объектов здесь тоже нет. Если прочитанное значение оказалось общим списком, его изменение затронет этот список в исходном слое. Правило записи в первый словарь не означает изоляцию всех доступных через него данных.

Цикл в графе: независимые задачи ещё можно выполнить Задача a ждёт b, а b ждёт a. Полностью упорядочить такой граф нельзя. Но если рядом есть независимая задача free, ошибка цикла не обязана останавливать и её. У graphlib.TopologicalSorter вызов prepare() поднимет CycleError. После обработки этого исключения можно продолжить через get_ready(): он выдаст узлы, которым не мешает цикл. В примере с a ↔ b и отдельным free доступен только free. Завершив его обработку, вызовите done("free"). Важно различать «готов к запуску» и «выполнен». Именно done разблокирует зависящие узлы. Если после независимой части is_active() вернул False, это не доказывает завершение всего графа: цикл остался. Такой частичный прогресс разрешён контрактом TopologicalSorter с Python 3.9. Сам CycleError сообщает один обнаруженный цикл, а не все сразу.

urljoin спокойно заменит ваш домен Базовый адрес в первом аргументе не удерживает результат внутри вашего сайта. Второй аргумент может содержать собственный домен даже без схемы: from urllib.parse import urljoin print(urljoin( "https://safe.example/users/", "//other.example/admin", )) Получится https://other.example/admin. Сетевой путь //host берёт схему из базы, а домен задаёт свой. Полный абсолютный URL во втором аргументе тоже может заменить адрес. Это штатное поведение, о котором прямо предупреждает документация urljoin. Если собираете ссылку из пользовательского ввода для перенаправления или серверного запроса, нужна отдельная политика допустимых адресов. urlsplit поможет выделить схему, хост и путь, но сам по себе не проверит, можно ли им доверять. Успешно разобранный URL ещё не означает, что по нему безопасно переходить.

bisect ждёт ключ, insort ждёт запись У двух функций из одного модуля разные требования к искомому значению. Если записи отсортированы по числовому полю, в bisect_left передайте число, а в insort саму запись: from bisect import bisect_left, insort rows = [("Ada", 10), ("Lin", 30)] print(bisect_left(rows, 20, key=lambda row: row[1])) insort(rows, ("Sam", 20), key=lambda row: row[1]) print(rows) Поиск вернёт 1, а вставка поставит ("Sam", 20) между Ada и Lin. У bisect_left функция key применяется только к элементам списка. У insort она применяется и к вставляемому объекту для поиска позиции, но в список попадает исходный объект. Параметр key доступен с Python 3.10. Список должен быть уже отсортирован по тому же ключу. И ещё одно ограничение из документации bisect: логарифмический поиск не делает вставку дешёвой. Сдвиг элементов списка по-прежнему занимает O(n).

Подмена в pytest может закончиться раньше теста Тест сначала проверяет код с подменённой зависимостью, а затем хочет вызвать настоящий объект. Если все изменения сделаны через обычную фикстуру monkeypatch, автоматический откат произойдёт лишь после завершения теста или использующей её фикстуры. Сузить срок жизни можно через with monkeypatch.context() as m. Подмены, зарегистрированные через m.setattr и другие методы этого контекста, откатятся при выходе из блока. После него можно проверять поведение с восстановленной зависимостью, не завершая тест. В примере pytest так ограничивают подмену functools.partial. Это важно: стандартной библиотекой пользуется и сам pytest, поэтому глобальная подмена может сломать тестовый раннер. Короткий контекст уменьшает время воздействия, но не делает любую подмену безопасной. Для своего кода документация рекомендует явную передачу зависимостей, если это возможно.

bind принимает строку в параметр int inspect.Signature.bind проверяет, можно ли разложить аргументы по параметрам функции. Аннотация int при этом не превращается в проверку типа: from inspect import signature def ship(item: int, *, retries=2): return item, retries bound = signature(ship).bind("text") print(bound.arguments) bound.apply_defaults() print(bound.arguments) Первый вывод: {'item': 'text'}. Второй добавляет 'retries': 2. bind не вставляет пропущенные значения по умолчанию в arguments, для этого нужен apply_defaults(). Саму ship этот код не вызывает. Так можно разбирать вызовы в декораторе или диспетчере и получать TypeError при несовместимых аргументах. Но проверку значений нужно организовать отдельно. В документации bind есть и bind_partial, который разрешает пропустить обязательные параметры. Для проверки полного вызова это уже слишком мягкий контракт.

Pydantic может создать модель с неверными данными Наличие объекта BaseModel ещё не доказывает, что данные прошли проверку. В Pydantic V2 model_construct() создаёт модель без валидации. Если поле объявлено вложенной моделью, переданный туда словарь сам в неё не превратится. Метод не отключает вообще всё: значения полей по умолчанию по-прежнему подставляются. Зато extra="forbid" при таком создании не даст привычной ошибки за лишнее поле. Оно будет проигнорировано. Поэтому контракт обычного конструктора нельзя механически переносить на model_construct. В документации метода его предлагают для уже проверенных или заведомо доверенных данных. Выбирать этот путь только ради скорости тоже рано: в V2 разрыв сократился, а на простых моделях обычная валидация может оказаться быстрее. Прежде чем убрать проверку, измерьте свой сценарий и определите, кто теперь отвечает за корректность вложенных объектов.

В строке ABA у groupby три группы Две буквы A не объединятся, потому что между ними стоит B. itertools.groupby начинает новую группу каждый раз, когда меняется ключ соседнего элемента: from itertools import groupby print([(key, list(group)) for key, group in groupby("ABA")]) Результат: [('A', ['A']), ('B', ['B']), ('A', ['A'])]. Это удобно для серий одинаковых событий в потоке. Для объединения всех записей с одним ключом данные обычно сначала сортируют по тому же key. Получить поведение SQL GROUP BY одним названием функции не выйдет. Есть и ловушка со сроком жизни: итераторы групп используют общий исходный итератор. Если группа понадобится позже, прочитайте её в список до перехода к следующей, как в примере. Эти детали описаны в контракте groupby. Сортировка и сохранённые списки требуют памяти, поэтому для подсчётов по несортированному потоку может лучше подойти словарь.